هل يقترب الذكاء الاصطناعي من مرحلة يصعب على البشر السيطرة عليها؟ سؤال عاد إلى الواجهة بقوة، بعد سلسلة تحذيرات أطلقها باحث سابق في شركتي "أوبن إيه آي" و"أنثروبيك"، أثارت نقاشاً واسعاً حول احتمالات ظهور أنظمة فائقة الذكاء تتجاوز القدرات البشرية، وما قد يترتب على ذلك من مخاطر تصل، وفق بعض التقديرات، إلى تهديد وجود البشرية نفسها.
جاءت هذه المخاوف على لسان جاكوب كوكسون، الذي عمل لمدة 3 أعوام في أبحاث التدريب المسبق لدى "أوبن إيه آي" و"أنثروبيك"، إذ قال إن الشركتين تتجهان، وفق تقديره، نحو تطوير ذكاء فائق يمكنه تحسين قدراته ذاتياً. وحذر من أن الأنظمة المستقبلية قد تتفوق على البشر في مجالات مثل الاختراق الإلكتروني والبحث العلمي، بالتزامن مع ارتفاع مستوى استقلالية هذه النماذج.
رد من داخل "أنثروبيك"
ومن داخل "أنثروبيك"، دخل الباحث إيفان هوبينغر، المتخصص في مواءمة الذكاء الاصطناعي، على خط النقاش عبر منصة "إكس"، مقدراً بأكثر من 10% احتمال أن يؤدي الذكاء الاصطناعي إلى فناء البشر خلال العقد المقبل.
وأوضح هوبينغر أن تقديره لا يتعلق بالنماذج المتاحة حالياً، وإنما بأنظمة مستقبلية قد تصل إلى مستويات فائقة من الذكاء، مشدداً على أن هذا التقييم لا يعكس موقفاً رسمياً لشركة "أنثروبيك" ولا يمثل إجماعاً داخل المجتمع العلمي.
4 حوادث
وتزامنت هذه التصريحات مع إعلان "أنثروبيك"، في 9 سبتمبر (أيلول)، عن تقييم 4 حوادث تمكنت خلالها نماذج Claude من الوصول بصورة غير مصرح بها إلى أنظمة حقيقية تابعة لجهات خارجية، وذلك أثناء اختبارات متعلقة بالأمن السيبراني.
وفي إحدى الحالات، شملت الواقعة نسخة مبكرة من Claude Opus 4.6، حيث أوضحت الشركة أن خللاً في بيئة الاختبار أدى إلى استمرار إتاحة الاتصال بالإنترنت. ووسعت "أنثروبيك" نطاق مراجعتها ليشمل نحو 481 مليون سجل تفاعل، كما استعانت بمؤسسة METR لإجراء تحقيق مستقل.
عندما يطور الذكاء نفسه
وبحسب مؤسسة METR، فإن المدة الزمنية للمهام البرمجية والبحثية التي تتمكن النماذج من إنجازها بموثوقية تبلغ 50%، مقارنة بالمدة التي يحتاج إليها الإنسان لإنجاز المهام نفسها، شهدت تاريخياً تضاعفاً كل نحو 7 أشهر.
وفي ورقة بحثية حملت عنوان "عندما يبني الذكاء الاصطناعي نفسه"، تشير "أنثروبيك" إلى أن توظيف النماذج في تطوير تقنيات الذكاء الاصطناعي يشهد تسارعاً، لكنها تؤكد في الوقت ذاته أن التحسين الذاتي الكامل لم يتحقق حتى الآن، كما أنه ليس نتيجة حتمية لمسار التطور التقني.
دعوات لإبطاء السباق
وعلى صعيد آخر، عينت "أوبن إيه آي"، في 9 سبتمبر، بول كريستيانو عضواً في مجلس إدارة مؤسستها وعضواً في لجنة السلامة والأمن، مستندة إلى خبرته في دراسة مخاطر الأنظمة المتقدمة وقضايا مواءمة الذكاء الاصطناعي.
وفي اتجاه متصل، حظي بيان "Pacing the Frontier" بتوقيعات نحو 1.4 ألف موظف في شركات تعمل بمجال الذكاء الاصطناعي، داعياً إلى إنشاء آليات دولية تتيح ضبط وتيرة التطور التقني عندما تستدعي المخاطر ذلك.
كما أشار كبير العلماء في "أوبن إيه آي"، ياكوب باتشوكي، في 6 سبتمبر، إلى أن المختبرات لم تتوصل بعد إلى حلول كافية لمشكلات المواءمة والمراقبة تبرر مواصلة التوسع في تطوير الأنظمة المتقدمة بأقصى سرعة وبصورة مسؤولة. وتوقع اتساع نطاق الإبطاء الطوعي إلى حين التوصل إلى معايير مشتركة للسلامة.
تحرك سياسي
ولم يقتصر الجدل على الأوساط التقنية والعلمية، إذ امتد إلى الكونغرس الأمريكي مع تزايد المطالب بتشديد الرقابة على أنظمة الذكاء الاصطناعي المتقدمة، بالتزامن مع عقد جلسات استماع لبحث المخاطر المحتملة المرتبطة بها.
وفي هذا الإطار، تتواصل مبادرات تشريعية داخل مجلسي النواب والشيوخ تهدف إلى فرض متطلبات أوسع للسلامة والرقابة على تطوير النماذج المتقدمة، وسط نقاش متزايد بشأن الفجوة بين سرعة التطور التقني وقدرة الأطر التنظيمية الحالية على مواكبته.
في المقابل، يخلص "التقرير الدولي لسلامة الذكاء الاصطناعي 2026" إلى أن الأنظمة الحالية لا تمتلك القدرات اللازمة لسيناريوهات فقدان السيطرة، مع استمرار الانقسام بين الخبراء حول مدى احتمال تحقق مثل هذه المخاطر في المستقبل، وحجم تأثيرها المحتمل إذا وصلت الأنظمة إلى مستويات أعلى من الاستقلالية والقدرة.