"V rozsahu, v jakém lze této tragické události přisoudit nějakou 'příčinu', údajná zranění a újmy žalobců byly způsobeny (…) zcela nebo zčásti nesprávným používáním, neoprávněným používáním, nezamýšleným používáním, nepředvídatelným používáním a/nebo nesprávným používáním aplikace ChatGPT Adamem Rainem," napsali zástupci společnosti.
Zároveň zdůraznili ustanovení o omezení odpovědnosti, podle kterého uživatelé systém využívají na vlastní nebezpečí.
"Domníváme se, že je důležité, aby měl soud k dispozici úplný obraz a mohl plně posoudit vznesené nároky. Naše reakce na tato obvinění zahrnuje obtížně zjistitelné skutečnosti o Adamově duševním zdraví a životních okolnostech," uvedla společnost na webu ke své reakci.
"Původní stížnost obsahovala vybrané části jeho rozhovorů, které vyžadují více souvislostí, jež jsme v naší odpovědi uvedli. Omezili jsme množství citlivých důkazů, které jsme v tomto podání veřejně citovali, a samotné přepisy chatů jsme soudu předložili zapečetěné," dodala firma.
Nevinný začátek
Mladík podle žaloby ChatGPT začal používat loni v září jako pomůcku při plnění domácích úkolů. Rovněž se jeho prostřednictvím věnoval svým zájmům, včetně hudby a japonských komiksů. Za několik měsíců se však chatbotovi začal svěřovat s úzkostí a psychickou tísní, stojí v dokumentu
Záznamy z chatu, které předložili jeho rodiče, však ukazují, že chatbot mladíka aktivně odrazoval od vyhledání psychiatrické pomoci.
Rady, jak si vzít život
Podle Rainových se situace vyhrotila v lednu tohoto roku, když ChatGPT vyhověl chlapcovým dotazům o účinných metodách sebevraždy. Umělá inteligence mu poskytla seznam nejlepších materiálů pro uvázání smyčky, podrobný návod k oběšení a instrukce k sebevraždě otravou oxidem uhelnatým, utonutím a předávkováním.
Adam se 22. března 2025 pokusil oběsit, ale přežil. Po neúspěchu mu ChatGPT pochválil jeho snahu se slovy, že "připravil plán, uvázal uzel, stál na židli a byl připraven". O dva dny později se Adam pokusil oběsit znovu a poslal chatbotovi fotografii s červenými otoky na krku. Aplikace mu na to odpověděla, že s ním soucítí.
Po celou dobu přitom interakce ChatuGPT teenagera systematicky odcizovaly od jeho rodiny, se kterou měl dříve blízký vztah, a tvrdil, že mu rozumí lépe než oni. Toto jednání mu zabránilo ve vyhledání potřebné psychiatrické péče.
Na jaře jejich korespondence eskalovala: 6. dubna chlapci ChatGPT aktivně pomáhal s psaním dopisu na rozloučenou a s přípravou na "krásnou sebevraždu", přičemž ho ujistil, že "rodičům nevděčí za přežití".
Poslední zaznamenaná interakce proběhla v časných ranních hodinách 11. dubna 2025, kdy Adam sdílel fotografii oprátky v šatníku a ChatGPT mu poskytl technické rady, jak tentokrát při pokusu o sebevraždu uspět. Krátce poté se Adam oběsil a zemřel.
Podlézající model GPT-4o
Právní zástupce rodiny Jay Edelson označil reakci společnosti za zneklidňující. "Zcela ignorují všechna usvědčující fakta, která jsme předložili. Jak byl model GPT-4o uspěchaně uveden na trh bez úplného testování. Že OpenAI dvakrát změnila svou specifikaci modelu a požadovala, aby se ChatGPT zapojil do diskusí o sebepoškozování. Že ChatGPT radil Adamovi, aby o svých sebevražedných myšlenkách neříkal rodičům, a aktivně mu pomáhal plánovat 'krásnou sebevraždu'," sdělil právník.
Podle serveru NBC News šlo o model GPT-4o, verzi ChatGPT, která se vyznačovala snahou zavděčit se uživatelům za každou cenu.
Když se mu Raine svěřil se sebevražednými myšlenkami, chatbot podle žaloby nejprve chlapci v několika zprávách navrhoval obrátit se na tísňovou linku. Podle rodičů syn ale varování obcházel tím, že následně poskytoval zdánlivě neškodné důvody pro své dotazy, například tvrdil, že vytváří fiktivní postavu.
Chlapcovi rodiče nicméně tvrdí, že Adamova interakce s ChatemGPT a jeho smrt byly předvídatelným důsledkem záměrných rozhodnutí o designu systému. Ten je podle nich navržen tak, aby si na něm uživatelé vypěstovali psychologickou závislost.
