Према недавним подацима OpenAI-а, приближно 1,2 милиона корисника (0,15% од 800 милиона недељно активних корисника) дели суицидалне мисли у ChatGPT разговорима, што указује на потенцијално стотине хиљада људи који доживљавају тешку емоционалну патњу или планирају самоповређивање.

 Компанија сарађује са 170 стручњака за ментално здравље како би анализирала и побољшала своје одговоре: бот сада нуди ресурсе попут телефонских линија за помоћ, емпатичних савета и упућивања на специјалисте, али наглашава да није замена за терапију.

Ово је део шире слике: милиони порука сваке недеље се односе на манију, заблуде или друге симптоме.