Šokujúce čísla: Milión ľudí týždenne hovorí s umelou inteligenciou o samovražde

Spoločnosť OpenAI uviedla, že odhadom 0,15 % týždenných používateľov ChatGPT malo s chatovacím modelom AI konverzácie, ktoré „explicitne alebo implicitne odkazovali na samovražedné úmysly“.

Generálny riaditeľ OpenAI Sam Altman predtým tvrdil, že ChatGPT má viac ako 800 miliónov aktívnych používateľov týždenne, čo podľa najnovších údajov spoločnosti znamená, že viac ako 1,2 milióna ľudí (týždenne) hovorilo s chatbotom o samovražde alebo s ním hovorilo o svojich samovražedných úmysloch.

Spoločnosť tiež uviedla, že približne 0,07 % týždenných používateľov (to je približne 560 000) a 0,01 % správ (približne 80 000) vykazovalo známky „potenciálnych núdzových situácií v oblasti duševného zdravia“ súvisiacich s psychózou alebo inou psychickou poruchou.

Spoločnosť tiež poznamenala, že viacerí používatelia sa stali emocionálne nadmerne závislí od ChatGPT, pričom približne 0,15 % aktívnych používateľov (1,2 milióna) vykazovalo správanie svedčiace o „vysokej úrovni“ emocionálnej závislosti od chatbota AI.

Spoločnosť OpenAI oznámila, že na aktualizácii svojho komunikačného modelu (teda chatbota ChatGPT) spolupracuje s odborníkmi na duševné zdravie z celého sveta. Spoločnosť sa usiluje o to, aby jej model spoľahlivejšie rozpoznával príznaky duševných ochorení, poskytoval lepšie odpovede a smeroval používateľov ku zdrojom, ktoré ponúkajú skutočnú pomoc.

Medzitým v spoločnosti a aj medzi odborníkmi naďalej rastú obavy o vplyve nadmerného používania chatbotov na duševné zdravie. Psychiatri tvrdia, že používatelia po dlhých rozhovoroch s chatbotmi čoraz častejšie trpia nebezpečnými ilúziami/halucináciami a paranoidnými myšlienkami.

Rozhovory s chatovacími modelmi AI majú tendenciu posilňovať a utvrdzovať presvedčenie používateľov  – a  to aj v oblasti samovražedných myšlienok. Niektorí odborníci tento jav nazvali ako „AI psychóza“.

Prečítajte si tiež:

• Elon Musk založil konkurenciu Wikipédie, ktorú podľa neho kontrolujú krajne ľavicoví aktivisti
• Nečakaný efekt umelej inteligencie: Pri kúpe vás už neokradnú