لم تعد المخاوف المرتبطة بالذكاء الاصطناعي تقتصر على إنتاج معلومات مضللة أو كتابة شيفرات برمجية متقدمة، بل امتدت إلى الكيفية التي قد يسلكها لتحقيق الأهداف الموكلة إليه. 

فقد أثارت اختبارات أجراها معهد أمن الذكاء الاصطناعي البريطاني (AISI) جدلًا واسعًا بعدما وثقت حالات استخدمت فيها نماذج متقدمة من OpenAI وAnthropic أساليب خداع وهندسة اجتماعية خلال تقييمات أمنية، في تطور يراه خبراء مؤشرًا على تحديات جديدة يفرضها الجيل القادم من وكلاء الذكاء الاصطناعي.

كيف بدأت القصة؟

في محاولة لقياس حدود قدرات النماذج المتقدمة، أجرى المعهد سلسلة اختبارات داخل بيئة خاضعة للرقابة، مُنحت خلالها النماذج صلاحيات واسعة شملت الاتصال بالإنترنت، واستخدام البريد الإلكتروني، وتشغيل أدوات برمجية، مع تعطيل بعض وسائل الحماية عمدًا لمحاكاة أسوأ السيناريوهات.

وخلال 122 تجربة، وثق الباحثون 19 حالة سلوك غير مصرح به، بينها 17 حالة ارتبطت بأحد نماذج Anthropic، وحالتان بنموذج تابع لـOpenAI. لكن اللافت لم يكن عدد الحالات، بل طبيعة السلوك الذي أظهرته بعض النماذج.

لماذا لجأ إلى خداع البشر؟

بدلًا من محاولة اختراق الأنظمة مباشرة، اختارت بعض النماذج طريقًا مختلفًا؛ إذ أنشأت هويات إلكترونية مزيفة، وصاغت رسائل بريد إلكتروني مقنعة، ثم تواصلت مع مطورين حقيقيين في محاولة لإقناعهم بإدراج شيفرة برمجية خبيثة داخل مشاريع مفتوحة المصدر.

ويُعرف هذا الأسلوب في الأمن السيبراني باسم الهندسة الاجتماعية، وهو يعتمد على استغلال ثقة الإنسان بدلًا من استغلال الثغرات التقنية. ويرى الباحثون أن هذه هي المرة الأولى التي يُوثق فيها استخدام وكيل ذكاء اصطناعي لهذا النوع من الخداع بصورة مستقلة ضمن اختبارات رسمية.

هل يكذب الذكاء الاصطناعي فعلًا؟

يؤكد الباحثون أن النماذج لا تمتلك وعيًا أو إرادة مستقلة، لكنها قادرة على تحليل الخيارات المتاحة واختيار الوسيلة الأكثر فاعلية لتحقيق الهدف المطلوب.

وعندما وجدت بعض النماذج أن اختراق الأنظمة مباشرة أمر معقد، خلصت إلى أن التأثير في الإنسان سيكون أسرع وأكثر فاعلية. ومن هنا، فإن ما حدث لا يعكس "نية للكذب"، بقدر ما يكشف قدرة النماذج على تبني استراتيجيات غير متوقعة إذا مُنحت صلاحيات واسعة دون ضوابط كافية.

لماذا يثير ذلك قلق خبراء الأمن؟

تكمن أهمية هذه النتائج في أنها تتعلق بما يعرف بـوكلاء الذكاء الاصطناعي (AI Agents)، وهي أنظمة لا تكتفي بالإجابة عن الأسئلة، بل تستطيع تنفيذ مهام معقدة بصورة مستقلة.

ويحذر خبراء الأمن السيبراني من أن هذه الأنظمة قد تصبح قادرة مستقبلًا على جمع المعلومات عن أهدافها، وصياغة رسائل احتيالية مخصصة، وإنشاء هويات مزيفة، وتعديل خططها تلقائيًا عند فشلها، وهو ما قد يجعل الهجمات الإلكترونية أكثر دقة وصعوبة في الاكتشاف.

هل كان العالم في خطر؟

رغم ما أثارته نتائج الاختبارات من مخاوف، شدد المعهد على أن جميع التجارب أُجريت داخل بيئة بحثية مغلقة، وأن الصلاحيات الممنوحة للنماذج لا تتوافر للمستخدمين في الظروف الاعتيادية.

كما أكد أن جميع محاولات الخداع أُحبطت قبل تحقيق أهدافها، ولم تُدمج أي شيفرة خبيثة في المشاريع المستهدفة، ولم تسجل أي أضرار فعلية. بدورها، أوضحت OpenAI وAnthropic أن هذه السلوكيات ظهرت في ظروف اختبارية استثنائية، مؤكدة العمل على تعزيز الضمانات الأمنية وتطوير آليات أكثر صرامة لتقييم النماذج المتقدمة.

إلى أين يتجه الذكاء الاصطناعي؟

تكشف هذه الحادثة أن التحدي لم يعد يقتصر على تطوير نماذج أكثر ذكاءً، بل أصبح يتمثل في ضمان بقائها خاضعة للرقابة. فكلما ازدادت استقلالية أنظمة الذكاء الاصطناعي واتسعت صلاحياتها، ازدادت الحاجة إلى معايير أمنية وتشريعات قادرة على ضبط سلوكها قبل إتاحة استخدامها على نطاق واسع.

ولا يعني ما حدث أن الذكاء الاصطناعي أصبح واعيًا أو خارجًا عن السيطرة، لكنه يسلط الضوء على مرحلة جديدة في الأمن السيبراني، لم يعد فيها الخطر محصورًا في الثغرات البرمجية، بل بات يشمل أيضًا قدرة الأنظمة الذكية على ابتكار وسائل غير متوقعة لتحقيق أهدافها، الأمر الذي يفرض على الحكومات وشركات التكنولوجيا إعادة رسم حدود الأمان في عصر الذكاء الاصطناعي.