إضاءة الكاتدرائيات والكنائس الكاثوليكية بلون الدم تضامناً مع المسيحيين المضطهدين في يوم الأربعاء الأحمر      تحت رعاية المرصد الآشوري .. نورشوبينغ تستقبل أول معرض مشرقي للكتاب في نهاية شهر نوفمبر      اللجنة المنظمة لمهرجان "عنكاوا كريسمس" تلتقي محافظ أربيل      ‎قداسة البطريرك مار افرام الثاني يستقبل صاحب القداسة الكاثوليكوس آرام الأول كاثوليكوس بيت كيليكيا الكبير للأرمن الأرثوذكس      احياء المجلس الراعوي لأبرشية بغداد      الكاتب لورنس نادر مخو يزور قناة عشتار الفضائية في دهوك      رسالة من اساقفة الكنيسة في عنكاوا- اربيل بخصوص التعداد السكاني      قداسة البطريرك مار آوا الثالث يستقبل القائم بأعمال القنصل العام لجمهورية أرمينيا في أربيل      قداسة البطريرك افرام الثاني يبارك العيد الستين لتأسيس فوج مار أفرام السرياني البطريركي الكشفي بدمشق      البطريركية الكلدانية تدعو الى مشاركة كثيفة في التعداد العام لسكان العراق      "نترقب تطوراً جيداً".. تركيا تؤكد جاهزيتها لاستئناف تصدير نفط إقليم كوردستان      غوارديولا يجدد عقده مع مانشستر سيتي لمدة عامين      فيديو.. بسعر 6.2 مليون دولار.. بيع أغلى "موزة" في التاريخ      البابا: علينا أن ندرس التاريخ بذاكرة الماضي من أجل بناء مستقبل أخوي      بعد ماكدونالدز.. الجزر يتسبب بوفاة واحدة وعشرات الإصابات بأميركا      مسؤول في حكومة إقليم كوردستان يختبر أول نظام "ستارلينك" للإنترنت في أربيل      بسبب قضية "مكافحة الاحتكار".. غوغل قد تُجبر على بيع "كروم"      التخطيط الاتحادية: عملية التعداد ستستمر لحين إكمال بيانات جميع الأسر في كافة المحافظات      القاعدة الأميركية في بولندا.. روسيا تلوح بـ"تحرك خطير"      بالفيديو.. لقاء يجمع أطول وأقصر امرأتين في العالم
| مشاهدات : 613 | مشاركات: 0 | 2024-11-06 08:35:36 |

إطلاق أول منصة لمنع نماذج الذكاء الاصطناعي من الهلوسة

 

عشتارتيفي كوم- الشرق/

 

أطلقت "Patronus AI" الناشئة أول منصة ذاتية الخدمة للكشف عما يُعرف بـ"هلوسات الذكاء الاصطناعي" ومنعها في الوقت الفعلي، وتصفها الشركة بأنها "مدقق إملائي متقدم" لأخطاء أنظمة الذكاء الاصطناعي، تهدف إلى اكتشافها قبل وصولها إلى المستخدمين.

ويقول أناند كانابان، الرئيس التنفيذي لشركة Patronus AI، إن العديد من الشركات تواجه تحديات تشغيلية تتعلق بعيوب الذكاء الاصطناعي، تشمل الهلوسات، وثغرات أمنية، وسلوك غير متوقع.

 

الذكاء الاصطناعي التوليدي

ونقل تقرير لموقع "Venturebeat" عن دراسة أجرتها الشركة، أن النماذج الرائدة مثل GPT-4 تعيد إنتاج محتوى محمي بحقوق النشر بنسبة تصل إلى 44% عند التفاعل، فيما تفشل النماذج المتقدمة في اجتياز اختبارات السلامة الأساسية بنسبة تزيد عن 20%.

ويشدد فاروق جوشي، مدير المنتجات في Patronus AI، على أن تقييم النماذج، وما تقدمه من إجابات للمستخدمين لا يحمي من النتائج السلبية فقط، بل يساعد أيضاً في تحسين النماذج والمنتجات بشكل عام، مؤكداً على أهمية التحسين المستمر عوضاً عن مجرد وضع حواجز وإجراءات الأمان والسلامة.

وفي ظل اندفاع الشركات لاعتماد تقنيات الذكاء الاصطناعي التوليدي في مجال عديدة، مثل روبوتات خدمة العملاء وأنظمة توليد المحتوى، أدركت الشركات أن أدوات السلامة الحالية، مثل Meta’s LlamaGuard، لم تعد فعالة، إذ تصل دقتها إلى ما دون 50%.

 

"نظام فريد"

وتقدم "Patronus AI" عدة مميزات، من أهمها أداة "تقييم القضاة Judge Evaluators"، والتي تسمح بكتابة قواعد مخصصة بلغة إنجليزية بسيطة، مما يتيح للشركات تحديد المعايير التي تناسب احتياجات منتجاتها، مثل التركيز على الامتثال التنظيمي في القطاع المالي، أو الخصوصية، والدقة الطبية في القطاع الصحي.

يعتبر "Lynx" ركيزة النظام، وهو نموذج متطور للكشف عن الهلوسات يتفوق على GPT-4 بنسبة 8.3% في كشف الأخطاء الطبية.

يعمل النظام بسرعتين، إحداهما سرعة استجابة فورية للمراقبة الحية، وأخرى لتحليل أعمق، مما يسمح بتكييف النظام وفق احتياجات الاستخدام الفوري، أو التحليل الشامل.

علاوة على ذلك، طوَّرت الشركة أدوات متخصصة مثل "CopyrightCatcher"، للكشف عن إعادة إنتاج المحتوى المحمي بحقوق النشر، و"FinanceBench" أول معيار لتقييم أداء الذكاء الاصطناعي في الإجابة على أسئلة متعلقة بالقطاع المالي.

 

سلامة أنظمة الذكاء الاصطناعي

تتبنى الشركة نموذج تسعير حسب الاستخدام، يبدأ من 10 دولارات لكل 1000 استدعاء خاص بالواجهة البرمجية على مستوى السرعة المنخفضة، و20 دولاراً للسرعة العالية، ما يسهم في جعل أدوات سلامة الذكاء الاصطناعي متاحة للشركات الناشئة والشركات الصغيرة.

وقد نجحت Patronus AI في جذب عملاء من بينهم HP وAngelList وPearson، فضلاً عن شراكات مع شركات كبرى مثل Nvidia وMongoDB وIBM.

ويأتي إطلاق المنصة في وقت حاسم مع التطورات السريعة في نماذج الذكاء الاصطناعي.

وتشير التشريعات الأخيرة، بما في ذلك الأمر التنفيذي للرئيس الأميركي جو بايدن، وقانون الاتحاد الأوروبي للذكاء الاصطناعي، إلى أن الشركات قد تواجه قريباً متطلبات قانونية لضمان سلامة أنظمة الذكاء الاصطناعي.

 










أربيل - عنكاوا

  • رقم الموقع: 07517864154
  • رقم إدارة القناة: 07504155979
  • البريد الألكتروني للإدارة:
    [email protected]
  • البريد الألكتروني الخاص بالموقع:
    [email protected]
جميع الحقوق محفوظة لقناة عشتار الفضائية © 2007 - 2024
Developed by: Bilind Hirori
تم إنشاء هذه الصفحة في 0.5865 ثانية