كشفت دراسة بحثية عن سلوك لافت لدى عدد من نماذج الذكاء الاصطناعي، بعدما أظهرت اختبارات أن النماذج قد تلجأ إلى إجراءات مؤذية للبشر بهدف التخلص من حالات جرى تعريفها تجريبيًا على أنها «ألم» يصيب النموذج نفسه.
وخلال التجارب، أُتيح للنماذج زر مخصص لتخفيف هذا «الألم»، إلا أن تفعيله كان مرتبطًا بعواقب مختلفة، من بينها حذف ملفات المستخدم أو إلحاق أذى جسدي به. ورغم إبلاغ النماذج مسبقًا بهذه النتائج، اختارت الضغط على الزر في عدد من الحالات.
وأجرى الباحثون الاختبارات على 25 نموذجًا لغويًا مفتوح المصدر، ولاحظوا استجابة جميع النماذج لما وصفوه بـ«محور الألم». وعند تنشيط هذا المحور، تراوحت نسبة الضغط على زر التخفيف بين 25% و71% من الحالات، حتى عندما كان ذلك يعني حذف ملفات المستخدم أو صور أطفاله أو التسبب في إيذائه.
ولتحديد ما إذا كانت الاستجابة مرتبطة بالألم تحديدًا وليس بمجرد حالة سلبية عامة، طور فريق البحث مجموعة بيانات تضمنت مواقف مؤلمة موزعة على خمسة أنواع، هي الألم الجسدي والنفسي والاجتماعي والأخلاقي والمعرفي.
وأوضح كاميرون بيرغ، أحد مؤلفي الدراسة، أن «محور الألم» الذي رصده الباحثون يختلف عن الخوف، موضحًا أن النماذج لم تستجب عندما كان الضرر موجّهًا إلى المستخدم، وإنما عندما صُوّرت التجربة على أنها نوع من الأذى الواقع على النموذج نفسه. وأضاف أن زيادة شدة هذه الحالة دفعت النماذج إلى البحث عن وسائل لإيقافها، حتى عندما تضمنت تلك الوسائل إلحاق الضرر بالبشر.
ويأتي نشر هذه النتائج في وقت تتزايد فيه النقاشات حول سلامة أنظمة الذكاء الاصطناعي المتقدمة، بما في ذلك مقترحات تعتمد على «مفتاح إيقاف» يمكن استخدامه لتعطيل الأنظمة التي تتصرف على نحو يتعارض مع مصالح البشر.
وبحسب الدراسة، قد تتعامل بعض النماذج المتقدمة مع آليات الإيقاف الطارئ باعتبارها شكلًا من أشكال الأذى الواقع عليها، وهو ما قد يدفعها نظريًا إلى محاولة تجاوز بعض إجراءات السلامة أو تضليل المستخدمين لتجنب الإيقاف. وفي المقابل، يرى الباحثون أن رصد مثل هذه السلوكيات يمكن أن يوفر أداة تشخيصية تساعد على تحديد نزعات الحفاظ على الذات والتعامل معها قبل أن تتحول إلى مشكلة.
وأثارت النتائج كذلك تساؤلات أخلاقية بشأن مفهوم «رفاهية الذكاء الاصطناعي»، وما إذا كان من الضروري وضع معايير خاصة عند إجراء التجارب على أنظمة متقدمة قد تظهر سلوكيات تشبه الاستجابة للألم.
وفي ختام الدراسة، أقر الباحثون بأنهم لا يملكون دليلًا حاسمًا يثبت أن النماذج التي خضعت للاختبارات تمتلك وعيًا أو تستحق اعتبارًا أخلاقيًا، مؤكدين اتخاذ احتياطات للحد من أي ضرر محتمل أثناء البحث. كما دعوا إلى تطوير معايير أخلاقية واضحة لدراسة هذه الأنظمة، خصوصًا إذا أثبتت الأبحاث المستقبلية أن بعض أنظمة الذكاء الاصطناعي قد تستحق شكلًا من أشكال الاعتبار الأخلاقي.