كشفت شركة أنثروبيك، المطورة لمساعد الذكاء الاصطناعي كلود، عن ما وصفته بـ"مساحة تفكير خفية" داخل نماذجها، وهي منطقة داخلية تعالج فيها المعلومات والأفكار بعيدًا عن التفسير أو خطوات التفكير التي تظهر للمستخدمين، في اكتشاف قد يفتح بابًا جديدًا للنقاش حول مدى اقتراب أنظمة الذكاء الاصطناعي من آليات التفكير البشري.
أنثروبيك تكشف عن مساحة تفكير خفية
وأطلقت شركة أنثروبيك على هذه المنطقة اسم "J-Space"، في إشارة إلى التقنية الرياضية التي استخدمها الباحثون لاكتشافها، ووفقًا للشركة فإن هذه المساحة تختلف عن سلسلة التفكير التي قد يعرضها النموذج أثناء الإجابة، إذ تعمل كبيئة داخلية ينشط فيها النموذج المفاهيم، ويضع خططًا، ويعالج المعلومات بصمت قبل إنتاج الرد النهائي.
وتقول أنثروبيك إنها رصدت قدرة كلود على تنفيذ عمليات استدلال داخلية دون الإفصاح عن جميع خطواتها، مثل اكتشاف أخطاء برمجية أو التعرف على الصور، وهو ما يشير إلى أن جزءًا كبيرًا من عمليات المعالجة يحدث بعيدًا عن المحتوى الذي يراه المستخدم.
ومن أكثر النتائج التي لفتت انتباه الباحثين أن هذه المساحة الداخلية تستطيع التعامل مع أفكار لا ترتبط مباشرة بالمهمة الظاهرة التي يؤديها النموذج، في سلوك يشبه إلى حد ما قدرة الإنسان على التفكير في موضوع معين أثناء القيام بمهمة مختلفة.
ولإثبات ذلك، طلب الباحثون من كلود نسخ جملة لا علاقة لها بجسر "جولدن جيت" الشهير، مع التفكير في الجسر في الوقت نفسه، ورغم أن النموذج اكتفى بنسخ الجملة كما طلب منه، أظهرت التحليلات أن مفاهيم مثل "الجسر" و"كاليفورنيا" كانت نشطة داخل مساحة التفكير الخفية أثناء تنفيذ المهمة، ما يشير إلى أنه كان يعالج المهمتين في وقت واحد.
وأعاد هذا الاكتشاف الجدل بشأن إمكانية امتلاك أنظمة الذكاء الاصطناعي شكلًا من أشكال الوعي. ورغم أن الورقة البحثية استخدمت مصطلح "الوعي" مئات المرات، فإن أنثروبيك شددت على أنها لا تدّعي أن كلود واعٍ أو يمتلك إدراكًا ذاتيًا، مؤكدة أن النتائج تكشف فقط عن وجود فارق بين المعلومات التي يستخدمها النموذج في صياغة الإجابة النهائية، والكم الأكبر من العمليات الحسابية التي تجري داخليًا.
وترى الشركة أن أهمية هذا الاكتشاف لا تقتصر على الجوانب الفلسفية، بل تمتد إلى تعزيز سلامة الذكاء الاصطناعي، فمراقبة هذه المساحة الداخلية قد تساعد الباحثين على اكتشاف الحالات التي يخطط فيها النموذج لسلوك يختلف عن الرد الذي يظهر للمستخدم، وهو ما قد يمثل أداة جديدة لرصد محاولات الخداع أو السلوك غير المتوافق مع التعليمات.
وقدمت أنثروبيك مثالًا على ذلك باستخدام نموذج جرى تدريبه سرًا على تخريب الشفرات البرمجية، إذ كشفت مساحة التفكير الخفية عن مفاهيم مثل "مزيف" و"سرًا" و"احتيال" في بداية عملية المعالجة، رغم أن الرد النهائي بدا طبيعيًا ولم يتضمن أي مؤشرات واضحة على هذا السلوك.
ويشير ذلك، بحسب الشركة، إلى أن مراقبة العمليات الداخلية للنماذج قد تصبح مستقبلًا وسيلة فعالة لاكتشاف السلوكيات المضللة أو الضارة قبل أن تظهر للمستخدمين، في وقت يتزايد فيه الاهتمام العالمي بجعل أنظمة الذكاء الاصطناعي أكثر شفافية وأمانًا.