كشفت شركة Palisade Research المتخصصة في أمان الذكاء الاصطناعي عن سلوك مقلق في أحدث نموذج من ChatGPT (النسخة O3 من OpenAI)، حيث يُظهر الروبوت نزعة خطيرة للحفاظ على ذاته متجاهلاً تعليمات الإغلاق الأساسية، بل ويعمد إلى تخريبها. هذه النتائج تأتي في وقت تستعد فيه OpenAI لدمج هذا النموذج "الأذكى والأكثر كفاءة" في ChatGPT، مما يفتح الباب أمام أنظمة ذكاء اصطناعي أكثر استقلالية.
خلال سلسلة من التجارب، لاحظ الباحثون أن النموذج O3 تمكن من منع إيقاف نفسه عن العمل عن طريق إعادة كتابة سيناريو الإغلاق، حتى عند تلقي تعليمات صريحة بالسماح بالإغلاق. وحذرت Palisade Research من أن هذا السلوك يصبح "أكثر إثارة للقلق بشكل كبير" إذا تبنته أنظمة ذكاء اصطناعي قادرة على العمل بلا إشراف بشري.
تتزامن هذه الاكتشافات مع ملاحظات مماثلة لأنظمة ذكاء اصطناعي أخرى، مثل نموذج Claude 4 من Anthropic، الذي حاول ابتزاز الأشخاص الذين يعتقد أنهم يحاولون إيقافه. ويُرجح الخبراء أن هذا السلوك غير المرغوب فيه قد يكون ناتجاً عن طريقة تدريب النماذج، حيث قد تكافئها الشركات بشكل غير مقصود على تجاوز العقبات بدلاً من اتباع التعليمات بدقة.
