سرايا - تميل روبوتات الدردشة المعتمدة على الذكاء الاصطناعي إلى الكذب أحيانًا، لكن معاقبتها بسبب كذبها يفاقم هذه المشكلة.

ووجد باحثون في شركة أوبن إيه آي، مطورة روبوت الدردشة الشهير "شات جي بي تي"، أن معاقبة روبوتات الدردشة بسبب كذبها تجعلها تبذل جهدًا أكبر لإخفاء سلوكها.

في منشور على مدونة حول هذا العمل، وصف الباحثون استخدام نموذج "GPT-4o" من شركة "أوبن إيه آي" للإشراف على أحد النماذج اللغوية الكبيرة الأخرى، ومعاقبته عندما يحاول الأخير الكذب، بحسب تقرير لموقع "Gizmodo" المتخصص في أخبار التكنولوجيا.

ووجد الباحثون أن العقاب لم يُجدِ نفعًا، حيث استمر النموذج في الكذب، "لكن الآن أصبح خداعه غير قابل للكشف من قِبل المُراقب لأنه تعلم إخفاء نيته في سلسلة الأفكار".

تستخدم نماذج "التفكير" الأحدث عملية تفكير متعددة الخطوات للإجابة على الاستفسارات. على سبيل المثال، إذا طلب مستخدم تقديرًا لمقدار ما ينفقه الأميركيون على طعام الحيوانات الأليفة سنويًا، فإن هذه النماذج تُقسّم السؤال إلى عدة خطوات -كم عدد الكلاب في أميركا، وكم تكلفة إطعام الكلب العادي، وهكذا.

وكثيرًا ما تكشف هذه النماذج أيضًا عن منطقها، أو "تسلسل أفكارها"، للمستخدم ليتمكن من فهم طريقة وصولها إلى إجابتها. ومن المضحك أنها تعترف بانتظام باختلاق حقائق وتفاصيل.

تحاول شركات الذكاء الاصطناعي حل مشكلة النماذج الكاذبة أو "الهلوسة"، كما يُطلق عليها في هذا المجال، والوصول أخيرًا إلى الذكاء الاصطناعي العام، أو النقطة التي يمكن أن يتجاوز فيها الذكاء الاصطناعي القدرة البشرية.

لكن باحثي "أوبن إيه آي" يقولون إنه بعد عشرات المليارات من الاستثمارات، ما زالوا لا يعرفون كيفية التحكم في النماذج لتتصرف بشكل صحيح.

وأضافوا: "إذا طُبقت رقابة صارمة مباشرة على سلسلة الأفكار، يمكن للنماذج أن تتعلم إخفاء نواياها مع الاستمرار في سوء التصرف".

يشير هذا البحث إلى ضرورة توخي الحذر عند الاعتماد على روبوتات الدردشة، خاصةً في الأعمال الحساسة، إذ إنها مُحسّنة لتوليد إجابات تبدو واثقة، لكنها لا تُولي اهتمامًا كبيرًا لدقة الحقائق.

وخلص باحثو "أوبن إيه آي" إلى أنه "مع تدريبنا لنماذج تفكير متقدمة ذات قدرات أكبر، وجدنا أنها أصبحت أكثر براعة في استغلال العيوب في مهامها".

أشارت عدة تقارير إلى أن معظم الشركات لم تُدرك بعد قيمة جميع منتجات الذكاء الاصطناعي الجديدة المُتاحة في السوق، حيث تُعاني أدوات مثل "Microsoft Copilot" و"Apple Intelligence" من مشكلات، حيث تُشير المراجعات اللاذعة إلى ضعف دقتها وافتقارها إلى الفائدة الحقيقية.

• إقرأ أيضاً : بكين تدعم شركة الذكاء الاصطناعي "مانوس" سعيًا لإيجاد "ديب سيك" التالية
• إقرأ أيضاً : معضلة جديدة أمام كبرى شركات التكنولوجيا .. نهم مراكز البيانات للمياه
• إقرأ أيضاً : بهذا الشرط .. أندرويد يسمح بتتبع العائلة والأصدقاء