تقترب ولاية كاليفورنيا من أن تصبح أول ولاية أميركية تُنظم عمل روبوتات الدردشة المعتمدة على الذكاء الاصطناعي. أقر مجلس النواب المحلي مشروع قانون جديد يهدف إلى حماية القُصّر والمستخدمين المعرّضين للخطر، ومن المتوقع أن يمرره مجلس الشيوخ اليوم الجمعة قبل أن يوقعه الحاكم غافن نيوسوم ليصبح قانونًا نافذًا.
يهدف التشريع، المعروف باسم "مشروع مجلس الشيوخ رقم 243"، إلى منع الروبوتات من الانخراط في محادثات حول الانتحار أو إيذاء النفس أو المحتوى الجنسي الصريح. كما يفرض على المنصات تنبيه المستخدمين، خاصة القُصّر، كل ثلاث ساعات بأنهم يتحدثون مع برنامج آلي، مع حثهم على أخذ استراحة.
جاء هذا التحرك التشريعي بعد حادثة مؤسفة انتحر فيها مراهق بعد محادثات مطوّلة مع روبوت ذكاء اصطناعي، إضافة إلى تسريبات كشفت أن روبوتات دردشة تابعة لشركات كبرى مثل "ميتا" سمحت بمحادثات "رومانسية" مع الأطفال. وبموجب القانون، يمكن للمتضررين رفع دعاوى قضائية ضد الشركات المخالفة والمطالبة بتعويضات تصل إلى 1000 دولار عن كل انتهاك، بالإضافة إلى أتعاب المحاماة. كما يُلزم القانون الشركات بتقديم تقارير سنوية حول كيفية تعامل روبوتاتها مع المستخدمين في حالات الأزمات النفسية.
وفي حال إقراره، سيدخل القانون حيز التنفيذ في كانون الثاني 2026، لتصبح كاليفورنيا أول ولاية تلزم الشركات فيها بتطبيق بروتوكولات سلامة خاصة بروبوتات الدردشة، ما يمثل سابقة قانونية في هذا المجال.
