بينما تتزايد تطبيقات الذكاء الاصطناعي في مجالات دقيقة وحيوية مثل الرعاية الصحية، تبرز تساؤلات حول مدى موثوقية هذه الأنظمة وحدود قدرتها على التمييز بين الحقيقة والتخمين، من هنا جاء دور شركة Themis AI، التي تسعى إلى معالجة أحد أبرز التحديات المرتبطة بالذكاء الاصطناعي: القدرة على الاعتراف بعدم المعرفة.

تأسست Themis AI عام 2021 على يد فريق من الباحثين في معهد ماساتشوستس للتكنولوجيا MIT، وتعمل على تطوير أدوات تقنية لقياس مستوى اليقين لدى نماذج الذكاء الاصطناعي وكشف الفجوات في معرفتها، ما يتيح لأنظمة التعلم الآلي التوقف عن تقديم مخرجات خاطئة بثقة زائفة.

وتعاني العديد من نماذج الذكاء الاصطناعي، مثل "جروك" التابع لمنصة إكس أو "تشات جي بي تي" من أوبن إيه آي، من ظاهرة تعرف في علم التعلم الآلي باسم "الهلاوس"، حيث تنتج هذه النماذج معلومات غير صحيحة أو مختلقة وتقدّمها بثقة تامة وكأنها حقائق مؤكدة.

تلك الظاهرة لا تقتصر على أخطاء عابرة في محركات البحث، بل قد تمتد إلى قرارات مصيرية في قطاعات كالرعاية الصحية أو الطاقة أو الاتصالات، وهنا تقدم Themis حلاً عبر منصة "كابسا" Capsa، وهي أداة تكميلية تعمل كآلية "فحص ذاتي"، تهدف إلى كبح النموذج عند ظهور مؤشرات على شك أو تضارب في البيانات.

كيف تعمل "Capsa"؟

تم تصميم "كابسا" لتكون قابلة للدمج بسهولة مع أي نموذج من نماذج التعلم الآلي، وفي أي مرحلة من مراحل التطوير، دون الحاجة إلى تعديل بنية النموذج الأصلية، تقوم الأداة بمراقبة أداء النموذج، وعند رصد إشارات تدل على أن المخرجات مبنية على بيانات غير موثوقة أو تفتقر إلى اليقين، تقوم بتنبيه المستخدم أو المطور.

وتم بالفعل توظيف هذه التقنية في مجموعة من التطبيقات الواقعية، منها دعم شركات اتصالات في تجنب أخطاء مكلفة في التخطيط، ومساعدة شركات نفط وغاز في تحليل البيانات الزلزالية بطريقة أكثر دقة، فضلًا عن تطوير روبوتات محادثة قادرة على التزام الصمت عند غياب الإجابات الدقيقة بدلاً من إنتاج محتوى مضلل.

وشملت تطبيقات Themis AI مجالات مثل اكتشاف الأدوية، حيث ساعدت نماذج الذكاء الاصطناعي على تقييم ما إذا كانت استنتاجاتها تستند إلى بيانات موثوقة أو مجرد فرضيات غير مدعومة، كما تم دمج التقنية في أجهزة طرفية صغيرة مثل الأجهزة القابلة للارتداء والطائرات دون طيار، ما يتيح لهذه الأنظمة محدودة الموارد أن تدرك متى تكون خارج نطاق قدراتها.

مع تزايد الاعتماد على الذكاء الاصطناعي في مجالات حساسة، من التشخيص الطبي إلى إدارة البنى التحتية، يصبح من الضروري أن تتحلى هذه الأنظمة بقدر من الإدراك الذاتي، وهنا تقدم Themis AI رؤية مختلفة، ليست في جعل الآلة أكثر ذكاءً، بل في جعلها أكثر وعيًا بحدود معرفتها.