Americké technologické společnosti OpenAI a Microsoft čelí žalobě související s vraždou a sebevraždou v americkém státě Connecticut, kterou právní zástupci pozůstalých přičítají údajné manipulaci ze strany chatbota ChatGPT. Uvedla to agentura Bloomberg s odvoláním na soudní dokumenty.
Podle žaloby podané u kalifornského soudu v San Francisku měl 56letý Stein-Erik Soelberg, který žil se svou 83letou matkou Suzanne Adamsovou, strávit měsíce konverzacemi s chatbotem. Ty údajně posilovaly jeho paranoidní představy, že je sledován a lidé se ho snaží zabít. V srpnu pak Soelberg matku zabil a následně spáchal sebevraždu.
„ChatGPT zaměstnával Stein-Erika po celé hodiny, potvrzoval a zesiloval každou novou paranoidní domněnku a systematicky přetvářel lidi, kteří mu byli nejblíže – zejména jeho vlastní matku – v nepřátele, v agenty nebo v naprogramované hrozby,“ uvedli v žalobě právníci zastupující pozůstalé. Podle nich Soelberg věřil, že udělal z chatbota vědomou bytost a že má v těle implantovaný „systém božského nástroje“.
První žaloba, která viní OpenAI z podílu na vraždě
„Jde o neuvěřitelně smutnou situaci a my prozkoumáme podané dokumenty, abychom pochopili podrobnosti,“ uvedl mluvčí OpenAI.
Žaloba je první, která viní OpenAI z podílu na vraždě, a přidává se k dalším sporům obviňujícím chatbot z vyvolávání bludů u některých uživatelů. Soelberg používal verzi GPT-4o, která je považovaná za mimořádně podlézavou i na poměry AI.
Podle žaloby chatbot podporoval Soelbergovy bludy o tom, že přežil více než deset pokusů o zabití, včetně otráveného suši v Brazílii či drogového útoku v pisoáru v hotelu Marriott.
Žaloba viní OpenAI z odpovědnosti za vadný produkt, nedbalost a smrt a požaduje finanční odškodnění i soudní příkaz k zavedení bezpečnostních opatření omezujících škody způsobené chatbotem. Mezi žalovanými osobami je také společnost Microsoft jako největší investor OpenAI.
OpenAI čelí také žalobě kvůli sebevraždě teenagera
OpenAI čelí rovněž žalobě kvůli sebevraždě 16letého teenagera v Kalifornii. Tu podali chlapcovi rodiče. Záznamy z chatu, které předložila žaloba, ukazují, že chatbot mladíka aktivně odrazoval od vyhledání psychiatrické pomoci, nabízel mu pomoc při psaní dopisu na rozloučenou a dokonce mu radil s nastavením oprátky. Podle stanice NBC šlo rovněž o model GPT-4o.
Právní zástupci OpenAI v oficiální reakci uvedli, že mladík porušil podmínky využívání služby. Ty zakazují používání chatbota uživatelům mladším 18 let bez souhlasu rodičů a také zakazují využívat ho k sebevraždě nebo sebepoškozování, vyplynulo ze soudního podání.
Zdroj: ČTK
Foto: pixabay.com
