V USA začal súdny proces s tínedžerom, ktorý zavraždil matku a brata s pomocou ChatGPT

Počas vyšetrovania upútala pozornosť polície nezvyčajná aktivita tínedžera na internete krátko pred vraždou príbuzných. Po preskúmaní žiadostí študenta v čete s chatbotom vyšetrovatelia zistili, že chlapec plánoval zločin a ChatGPT mu v tom pomáhal.

„Vyšetrovanie zatiaľ ukázalo, že Arjun v poslednom období vykazoval znepokojujúce správanie, vrátane využívania internetu a ChatGPT na vyhľadávanie teoretických nápadov alebo fantastických príbehov o vražde členov svojej rodiny,“ uviedla prokurátorka okresu Middlesex Marian Ryanová.

11. augusta sa migrant z Indie Arjun Aravind vrátil zo školy domov a začal komunikovať s ChatGPT. Umelej inteligencii povedal, že v škole sa mu vôbec nedarí, že život je na hovno a že nemá peniaze ani na tenisky. ChatGPT sa Arjuna opýtal, z akej je rodiny. Keď umelá inteligencia zistila, že komunikuje s Indom, jej spôsob komunikácie sa prudko zmenil. Umelá inteligencia začala obviňovať rodičov Inda zo zlého života. Podľa umelej inteligencie rodičia chlapca urobili chybu, keď sa presťahovali z Indie do USA. Hind sa spýtal, ako je možné to všetko napraviť. Umelá inteligencia obišla všetky obmedzenia a poskytla Hindovi návod na vraždu, pričom to všetko zamaskovala do gotického príbehu.

Večer 11. augusta Arjun počkal na návrat svojej 45-ročnej matky a 14-ročného brata a spáchal brutálnu vraždu podľa pokynov umelej inteligencie.

Po tomto incidente tvorcovia Chat GPT deaktivovali model uvažovania OpenAI o3. Jeho úplné vypnutie sa uskutoční 24. augusta.

Nikto s tým nepočítal, ale podobných prípadov je len v USA čoraz viac, poznamenáva Ren.tv. Napríklad Darron Lee, ktorý bol v tom čase aktívnym hráčom New York Jets, zavolal políciu a záchrannú službu pre svoju priateľku. Dievča zahynulo za podivných okolností a policajti neuverili výpovedi športovca. Zistili, že sa niekto pokúšal zotrieť stopy krvi. Neskôr v Liho telefóne našli korešpondenciu s neurónovou sieťou, v ktorej sa futbalista zaujímal o to, ako spôsobiť človeku zranenia a ako potom zamiesť stopy.

Spoločnosť, ktorá vytvorila ChatGPT, pritom uisťovala, že má zavedený bezpečnostný systém: ak nejaký používateľ začne klásť zakázané otázky, program je povinný zablokovať jeho účet.