ألمحت مسؤولة المسائل الأمنية في شركة «أوبن إيه آي» ليليان ونغ، إلى إمكانية تولّي برنامج الدردشة الشهير ChatGPT عمليات العلاج النفسي، ما أثار انتقادات واسعة بسبب تقليلها من صعوبة علاج الأمراض العقلية. وكتبت ونغ عبر منصة «إكس»: «لقد أجريتُ للتو محادثة شخصية عاطفية جداً مع ChatGPT عبر الصوت، حول التوتر والتوازن بين العمل والحياة»، مضيفةً: «من المثير للاهتمام أنني شعرت بالإستماع والراحة». ومن دون اتخاذ الكثير من الإحتياطات في مجالٍ لا يزال حساساً، إنطلقت شركات ناشئة كثيرة في تطوير تطبيقات من المفترض أن تقدّم شكلاً من أشكال المساعدة بمسائل الصحة العقلية، ما تسبّب بنشوء جدالات متنوّعة. واشتكى مستخدمو Replika، وهو تطبيق شائع معروف بتقديم منافع على الصحة النفسية، بشكل خاص من أن الذكاء الإصطناعي قد يصبح مهووساً بالجنس أو متلاعباً. كما أقرّت المنظمة الأميركية غير الحكومية «كوكو»، التي أجرت تجربة في شباط المنصرم على 4000 مريض قدّمت لهم نصائح مكتوبة باستخدام نموذج الذكاء الإصطناعي GPT3، بأن الاستجابات الآلية لم تنجح كعلاج.
