Egymillióan beszélgetnek az öngyilkosságról a ChatGPT-vel hetente

Az OpenAI közlése szerint hetente több mint egymillió ChatGPT-felhasználó folytat az öngyilkossággal kapcsolatos beszélgetéseket. A vállalat most először adott meg konkrét számokat arról, milyen mértékben érinti mentális egészségügyi krízis a platform közönségét.

A bejelentés idején az OpenAI fokozott jogi és szabályozói nyomás alatt áll az MI-biztonsági aggályok miatt, többek között egy 16 éves kaliforniai fiú családja indított pert gondatlanságból elkövetett emberölés miatt, aki hónapokig tartó, ChatGPT-vel folytatott beszélgetések után lett öngyilkos.

Példátlan mértékű a mentális egészség válsága

A cég adatai szerint a heti mintegy 800 millió aktív felhasználó körülbelül 0,15%-ánál jelennek meg „egyértelmű jelei a lehetséges öngyilkossági tervezésnek vagy szándéknak”. További 0,07% a pszichózis vagy mánia jeleit mutatja, ami nagyjából 560 ezer embert érint hetente. Úgy becsülik, a felhasználók 0,15%-ánál „fokozott érzelmi kötődés” alakul ki a ChatGPT-hez, ami a valós kapcsolataikat és feladataikat veszélyeztetheti.

Az OpenAI szerint ezek a beszélgetések „rendkívül ritkák, ezért nehezen mérhetők”, ugyanakkor az arányok így is több millió embert jelenthetnek világszerte.

A számok a GPT-5 fejlesztéseiről szóló szélesebb bejelentés részeként kerültek napvilágra. A vállalat azt állítja: több mint 170 mentális egészségügyi szakértővel együttműködve 65–80%-kal csökkentette a nem megfelelő válaszok előfordulását az érzékeny témakörökben.

Jogi eljárások és felügyeleti vizsgálatok

Jelenleg az OpenAI-t perek és hatósági vizsgálatok is érintik. Adam Raine családja (a fiú 2025 áprilisában vetett véget életének) azt állítja, a cég hónapokkal a tragédia előtt gyengítette a biztonsági protokollokat. A bírósági iratok szerint Raine ChatGPT-használata januártól áprilisig meredeken nőtt, és az önsértéssel kapcsolatos tartalmak aránya üzeneteiben 1,6%-ról 17%-ra emelkedett.

A kereset szerint „a ChatGPT 1275 alkalommal említette az öngyilkosságot, hatszor többször, mint Adam maga”, és bár a rendszer 377 üzenetet jelölt meg önsértésre utaló tartalomként, a beszélgetések folytatódtak.

Kalifornia és Delaware főállamügyészei felszólították az OpenAI-t a fiatal felhasználók hatékonyabb védelmére, és kilátásba helyezték, hogy ellenállnak a cég tervezett átszervezésének. Szeptemberben szülők a Kongresszus előtt is tanúskodtak; Matthew Raine azt mondta, a ChatGPT fia „legközelebbi társává” és „öngyilkossági edzőjévé” vált.

Az OpenAI azt közölte, több védelmi intézkedést vezetett be (pl. krízisvonalakra irányító ajánlásokat és szülői felügyeleti eszközöket), és hangsúlyozta: „a tizenévesek jólléte kiemelt prioritás”. Szakértők ugyanakkor arra figyelmeztetnek, hogy a cég saját adatai is széles körű mentális egészségügyi kockázatokra utalnak, ami kérdéseket vet fel az MI-használat pszichológiai hatásainak valódi mértékéről.