كيف تعمل شركات الذكاء الاصطناعي على محاربة “هلوسة” روبوتات الدردشة؟

3 يونيو 2023آخر تحديث : السبت 3 يونيو 2023 - 5:05 مساءً
تحدث هلوسة روبوتات الدردشة عندما تختلق المعلومات بالكامل وتتصرف كما لو كانت تنشر حقائق لا شك فيها
تحدث هلوسة روبوتات الدردشة عندما تختلق المعلومات بالكامل وتتصرف كما لو كانت تنشر حقائق لا شك فيها

كيف تعمل شركات الذكاء الاصطناعي على محاربة “هلوسة” روبوتات الدردشة؟

تركيا بالعربي – متابعات

تعمل شركات المبرمجة لروبوتات الذكاء الصناعي على محاربة “هلوسة” روبوتات الدردشة التي تنتج بعض الأحيان إجابات غير منطقية أو خارج سياق السؤال المطروح عليها فتعطي معلومات خاطئة عن التساؤلات.

وقالت شركة (أوبن أي آي) OpenAI المالكة لروبوت الدردشة الأشهر CHATGPT إنها ستتصدى لـ “هلوسة” الذكاء الصناعي وذلك باتباع أسلوب أحدث في تدريب نماذج اللغة الكبيرة.

وتأتي هذه الخطوة من الشركة الأميركية الناشئة في وقت أصبحت فيه المعلومات المضللة النابعة من أنظمة الذكاء الصناعي محل نقاش على المستوى العالمي، وتزايدت فيه المخاوف من تأثيرها في الانتخابات الرئاسية الأميركية المقررة عام 2024.

وأسهمت (أوبن أي آي) OpenAI في تسريع طفرة الذكاء الصناعي التوليدي العام الماضي عندما أطلقت روبوت الدردشة (شات جي بي تي) ChatGPT، ثم سرعان ما جذب الروبوت 100 مليون مستخدم شهريًا في شهرين ليصبح بذلك أسرع تطبيقات الويب نموًا على الإطلاق.

وتحدث هلوسة الذكاء الصناعي عندما تختلق روبوتات الدردشة، مثل: (شات جي بي تي) من (أوبن أي آي)، أو (بارد) من جوجل المعلومات بالكامل، وتتصرف كما لو كانت تنشر حقائق لا شك فيها.

وكتب باحثو (أوبن أي آي) OpenAI في تقرير لهم: “حتى النماذج الحديثة تميل إلى اختلاق الأكاذيب، فهي تُظهر ميلًا إلى اختراع الحقائق في لحظات عدم اليقين”. وأضافوا: “تُعدّ هذه الهلوسات معضلةً بصورةٍ خاصةٍ في المجالات التي تتطلب تفكيرًا متعدد الخطوات، لأن خطأً منطقيًا واحدًا يكفي لعرقلة الوصول إلى الحل النهائي”.

مراقبة العملية بدل مراقبة النتائج

وتتمثل استراتيجية (أوبن أي آي) OpenAI الجديدة المحتملة لمحاربة اختلاق الأكاذيب في تدريب نماذج الذكاء الصناعي على مكافأة نفسها على كل خطوة فردية صحيحة من التفكير المنطقي عندما تصل إلى الإجابة، وذلك بدلًا من مجرد مكافأتها على النتيجة النهائية الصحيحة، بحسب ما أورده موقع “البوابة العربية للأخبار التقنية”.

ويُطلق على هذا النهج اسم “مراقبة العملية”، بدلًا من “مراقبة النتائج”، ويرى الباحثون أنه يمكن لهذا النهج أن يؤدي إلى ذكاء صناعي قابل للتفسير على نحو أفضل، ذلك أن الاستراتيجية تُشجِّع النماذج على اتباع نهج تكون فيه الأفكار متسلسلة على غرار أفكار البشر.

وقال (كارل كوبي)، باحث الرياضيات في (أوبن أي آي)، لشبكة (سي إن بي سي) CNBC الإخبارية الأميركية: “إن اكتشاف الأخطاء المنطقية أو الهلوسة في النموذج والتخفيف من حدتها، هو خطوة حاسمة نحو بناء الذكاء الصناعي العام المتوافق”.

ومع أن (أوبن أي آي) OpenAI لم تخترع عملية المراقبة هذه، أشار (كوبي) إلى أنها تساعد في دفعها إلى الأمام. وأضاف: “إن الدافع وراء هذا البحث هو معالجة الهلوسة من أجل جعل النماذج أقدر على حل مشكلات التفكير المنطقية”.

يُشار إلى أن هذه الخطوة تأتي أيضًا بعد يوم واحد من انضمام كبار المسؤولين التنفيذيين في مجال الذكاء الصناعي، ومنهم: المدير التنفيذي لشركة (أوبن أي آي)، (سام ألتمان)، إلى الخبراء والأساتذة في إثارة “خطر الانقراض بسبب الذكاء الصناعي”، وحثّوا صانعي السياسة على مساواة مخاطر التقنية بالمخاطر التي تشكلها الأوبئة والحرب النووية.

المصدر: تلفزيون سوريا + مواقع إخبارية

خطاب الفوز للرئيس أردوغان .. وهذا ما قاله عن السوريين في تركيا

أكد الرئيس التركي رجب طيب أردوغان، أن حكومته ستسخر كافة إمكاناتها في الفترة المقبلة لنهضة الاقتصاد وتأهيل مناطق الزلزال.

جاء ذلك في خطاب ألقاه بالمجمع الرئاسي التركي في العاصمة أنقرة، أمام حشد كبير من أنصاره عقب فوزه في الانتخابات الرئاسية.

وأوضح أردوغان أن المسألة الأهم في الأيام القادمة هي حل مشاكل زيادة الأسعار الناجمة عن التضخم.

وأضاف: “سنواصل سياسة الاستقرار، والتخطيط لبناء اقتصاد إنتاجي يقوم على أساس الاستثمار وخلق فرص العمل”.

وأردف: “تضميد جراح منكوبي زلزال 6 فبراير وإعادة بناء مدننا المدمرة ستكون في مقدمة أولوياتنا، وكذلك سنسخر كل وقتنا وطاقتنا للعمل وإنجاز المشاريع وتقديم الخدمات”.

وحول نتائج الانتخابات، قال أردوغان: “لم يخسر أحد اليوم، فالفائز 85 مليون مواطن، حان الوقت لنجتمع ونتحد حول أهدافنا وأحلامنا الوطنية”.

وأعرب أردوغان عن احترامه الدائم لإرادة الشعب، مبينا أن الفائز في هذه الانتخابات هو تركيا والديمقراطية.

وتطرق إلى مسألة عودة اللاجئين السوريين قائلا: “وفرنا الإمكانية لعودة نحو 600 ألف شخص إلى المناطق الآمنة في سوريا حتى اليوم”.

واستطرد: “سنضمن عودة مليون سوري إضافي في غضون سنوات قليلة من خلال مشروع سكني جديد ننفذه مع قطر”.

وللمزيد من التفاصيل حول هذا الخبر وبقية الأخبار >>> نترككم مع مداخلة للاعلامي علاء عثمان، ولا تنسوا الاشتراك في قناة تركيا بالعربي على يوتيوب لنوافيكم بكل جديد:

اترك تعليق

لن يتم نشر عنوان بريدك الإلكتروني.الحقول الإلزامية مشار إليها بـ *


شروط التعليق :

عدم الإساءة للكاتب أو للأشخاص أو للمقدسات أو مهاجمة الأديان أو الذات الالهية. والابتعاد عن التحريض الطائفي والعنصري والشتائم.

هذا الموقع يستخدم Akismet للحدّ من التعليقات المزعجة والغير مرغوبة. تعرّف على كيفية معالجة بيانات تعليقك.