زيارة قداسة البطريرك مار آوا الثالث ورعاة الكنيسة الاجلاء، الى المدارس الآشورية في سيدني      رسالة التعزية التي بعثها قداسة البطريرك مار آوا الثالث الى قداسة البطريرك مار اغناطيوس افرام الثاني لرقاد غبطة مار باسيليوس توما الأوّل جاثليق الهند      غبطة البطريرك يونان يقدّم التعزية إلى قداسة أخيه البطريرك مار اغناطيوس أفرام الثاني وإلى الكنيسة السريانية الأرثوذكسية برقاد المثلَّث الرحمات المفريان مار باسيليوس توماس الأول      صلاة الجناز لراحة نفس المثلث الرحمات غبطة المفريان مار باسيليوس مفريان الهند - كنيسة ام النور في عنكاوا      مأدبة غداء تكريمية لقداسة البطريرك مار آوا الثالث تجمع بين رؤساء الكنائس والمسؤولين في سيدني      غبطة البطريرك يونان يزور دير ومدرسة القديس توما للراهبات الدومينيكيات للقديسة كاترينا السيانيّة ومدرسة سيّدة النجاة الابتدائية الأهلية المختلَطة في بغداد، العراق      البطريرك ساكو يقوم بالعديد من الزيارات في عينكاوا      غبطة البطريرك يونان يفتتح ويدشّن مجمَّع شهداء كاتدرائية سيّدة النجاة الجديد التابع لأبرشية بغداد السريانية الكاثوليكية، حيّ الكرّادة - بغداد، العراق      غبطة البطريرك ساكو يزور كلية بابل الحبرية ويلتقي بطالبات وطلاب التثقيف المسيحي      غبطة البطريرك يونان يحتفل بقداس الذكرى السنوية الـ14 لمذبحة كاتدرائية سيّدة النجاة/ بغداد      العراق يشرع بنصب 100 كم من الكونكريت على الحدود مع سوريا      لأول مرّة... البابا فرنسيس سيفتتح الباب المقدّس في سجن في روما      مضمون قرارات الحكومة العراقية بشأن التعداد السكاني.. "لن يستخدم كبديل عن المادة 140"      إطلاق أول منصة لمنع نماذج الذكاء الاصطناعي من الهلوسة      أوميغا 3 وأوميغا 6 تقي من سرطان القولون والمعدة والرئة      دوري أبطال أوروبا.. ميلان يضرب ريال مدريد بثلاثية في عقر داره      دونالد ترامب رئيسا للولايات المتحدة      سياسات التقشف رفعت معدل الولادات المبكرة في بريطانيا      بين التلاعب والشفافية.. هل يغير الذكاء الاصطناعي مسار الانتخابات الأميركية؟      رومانوسكي تتحدث عن "اجتماع مثمر" مع الرئيس بارزاني: سنواصل العمل مع شركائنا في كوردستان لتعزيز الاستقرار
| مشاهدات : 486 | مشاركات: 0 | 2024-11-06 08:35:36 |

إطلاق أول منصة لمنع نماذج الذكاء الاصطناعي من الهلوسة

 

عشتارتيفي كوم- الشرق/

 

أطلقت "Patronus AI" الناشئة أول منصة ذاتية الخدمة للكشف عما يُعرف بـ"هلوسات الذكاء الاصطناعي" ومنعها في الوقت الفعلي، وتصفها الشركة بأنها "مدقق إملائي متقدم" لأخطاء أنظمة الذكاء الاصطناعي، تهدف إلى اكتشافها قبل وصولها إلى المستخدمين.

ويقول أناند كانابان، الرئيس التنفيذي لشركة Patronus AI، إن العديد من الشركات تواجه تحديات تشغيلية تتعلق بعيوب الذكاء الاصطناعي، تشمل الهلوسات، وثغرات أمنية، وسلوك غير متوقع.

 

الذكاء الاصطناعي التوليدي

ونقل تقرير لموقع "Venturebeat" عن دراسة أجرتها الشركة، أن النماذج الرائدة مثل GPT-4 تعيد إنتاج محتوى محمي بحقوق النشر بنسبة تصل إلى 44% عند التفاعل، فيما تفشل النماذج المتقدمة في اجتياز اختبارات السلامة الأساسية بنسبة تزيد عن 20%.

ويشدد فاروق جوشي، مدير المنتجات في Patronus AI، على أن تقييم النماذج، وما تقدمه من إجابات للمستخدمين لا يحمي من النتائج السلبية فقط، بل يساعد أيضاً في تحسين النماذج والمنتجات بشكل عام، مؤكداً على أهمية التحسين المستمر عوضاً عن مجرد وضع حواجز وإجراءات الأمان والسلامة.

وفي ظل اندفاع الشركات لاعتماد تقنيات الذكاء الاصطناعي التوليدي في مجال عديدة، مثل روبوتات خدمة العملاء وأنظمة توليد المحتوى، أدركت الشركات أن أدوات السلامة الحالية، مثل Meta’s LlamaGuard، لم تعد فعالة، إذ تصل دقتها إلى ما دون 50%.

 

"نظام فريد"

وتقدم "Patronus AI" عدة مميزات، من أهمها أداة "تقييم القضاة Judge Evaluators"، والتي تسمح بكتابة قواعد مخصصة بلغة إنجليزية بسيطة، مما يتيح للشركات تحديد المعايير التي تناسب احتياجات منتجاتها، مثل التركيز على الامتثال التنظيمي في القطاع المالي، أو الخصوصية، والدقة الطبية في القطاع الصحي.

يعتبر "Lynx" ركيزة النظام، وهو نموذج متطور للكشف عن الهلوسات يتفوق على GPT-4 بنسبة 8.3% في كشف الأخطاء الطبية.

يعمل النظام بسرعتين، إحداهما سرعة استجابة فورية للمراقبة الحية، وأخرى لتحليل أعمق، مما يسمح بتكييف النظام وفق احتياجات الاستخدام الفوري، أو التحليل الشامل.

علاوة على ذلك، طوَّرت الشركة أدوات متخصصة مثل "CopyrightCatcher"، للكشف عن إعادة إنتاج المحتوى المحمي بحقوق النشر، و"FinanceBench" أول معيار لتقييم أداء الذكاء الاصطناعي في الإجابة على أسئلة متعلقة بالقطاع المالي.

 

سلامة أنظمة الذكاء الاصطناعي

تتبنى الشركة نموذج تسعير حسب الاستخدام، يبدأ من 10 دولارات لكل 1000 استدعاء خاص بالواجهة البرمجية على مستوى السرعة المنخفضة، و20 دولاراً للسرعة العالية، ما يسهم في جعل أدوات سلامة الذكاء الاصطناعي متاحة للشركات الناشئة والشركات الصغيرة.

وقد نجحت Patronus AI في جذب عملاء من بينهم HP وAngelList وPearson، فضلاً عن شراكات مع شركات كبرى مثل Nvidia وMongoDB وIBM.

ويأتي إطلاق المنصة في وقت حاسم مع التطورات السريعة في نماذج الذكاء الاصطناعي.

وتشير التشريعات الأخيرة، بما في ذلك الأمر التنفيذي للرئيس الأميركي جو بايدن، وقانون الاتحاد الأوروبي للذكاء الاصطناعي، إلى أن الشركات قد تواجه قريباً متطلبات قانونية لضمان سلامة أنظمة الذكاء الاصطناعي.

 










أربيل - عنكاوا

  • رقم الموقع: 07517864154
  • رقم إدارة القناة: 07504155979
  • البريد الألكتروني للإدارة:
    [email protected]
  • البريد الألكتروني الخاص بالموقع:
    [email protected]
جميع الحقوق محفوظة لقناة عشتار الفضائية © 2007 - 2024
Developed by: Bilind Hirori
تم إنشاء هذه الصفحة في 0.5513 ثانية