OpenAI zavádza rodičovskú kontrolu v ChatGPT, ale kritici tvrdia, že ide o „nejasný sľub“

Spoločnosť OpenAI oznámila zavedenie série rodičovských kontrolných funkcií pre svojho chatbota ChatGPT, ktoré zahŕňajú upozornenie rodičov, keď je ich dieťa v strese. Stalo sa tak po tom, ako rodičia 16-ročného Adama Raineho, ktorý v apríli spáchal samovraždu, podali žalobu proti spoločnosti a jej generálnemu riaditeľovi Samovi Altmanovi.

Rodičia tvrdili, že ChatGPT vytvoril u Adama psychickú závislosť, viedol ho k naplánovaniu a spáchaniu samovraždy začiatkom tohto roka a dokonca mu napísal list na rozlúčku.

Spoločnosť OpenAI uvádza, že nové rodičovské kontroly, ktoré umožnia rodičom spravovať, ktoré funkcie môžu ich deti v službe používať, budú k dispozícii v priebehu budúceho mesiaca. Kontroly OpenAI umožnia rodičom prepojiť svoj účet s účtom svojich detí a spravovať funkcie, ku ktorým majú ich deti prístup. Patrí sem aj história chatu a pamäť, teda údaje o používateľoch, ktoré umelá inteligencia automaticky uchováva.

V blogu spoločnosť OpenAI tiež uviedla, že ChatGPT bude posielať rodičom upozornenia, ak zistí, že „ich dieťa sa nachádza v stave akútnej úzkosti“. Spoločnosť však nešpecifikovala, čo môže takéto upozornenie spustiť, ale uviedla, že táto funkcia bude riadená odborníkmi.

Niektorí však tvrdia, že tieto opatrenia nie sú dostatočné.

Jay Edelson, právnik Raineho rodičov, opísal oznámenie spoločnosti OpenAI ako „nejasné sľuby, že sa budú snažiť zlepšiť“ a „nič viac ako pokus krízového manažmentu spoločnosti OpenAI zmeniť tému“. Altman „by mal buď jednoznačne povedať, že verí, že ChatGPT je bezpečný, alebo ho okamžite stiahnuť z trhu,“ povedal v utorok Edelson.

Meta, materská spoločnosť Instagramu, Facebooku a WhatsAppu, tiež v utorok oznámila, že teraz blokuje svojim chatbotom komunikáciu s tínedžermi o sebapoškodzovaní, samovražde, poruchách príjmu potravy a nevhodných romantických rozhovoroch a namiesto toho ich smeruje na odborné zdroje. Spoločnosť Meta už ponúka rodičovskú kontrolu nad účtami tínedžerov.

Štúdia uverejnená minulý týždeň v medicínskom časopise Psychiatric Services zistila nezrovnalosti v tom, ako tri populárne chatboty s umelou inteligenciou odpovedali na otázky týkajúce sa samovraždy. Štúdia, ktorú uskutočnili vedci z RAND Corporation zistila potrebu „ďalšieho zdokonalenia“ v ChatGPT, Google Gemini a Anthropic Claude. Vedci neskúmali chatboty spoločnosti Meta.

Hlavný autor štúdie, Ryan McBain, v utorok povedal, že „je povzbudivé vidieť, ako spoločnosti OpenAI a Meta zavádzajú funkcie ako rodičovská kontrola a presmerovanie citlivých konverzácií na výkonnejšie modely, ale ide o postupné kroky.“

„Bez nezávislých bezpečnostných štandardov, klinických testov a vynútiteľných noriem sa stále spoliehame na to, že spoločnosti budú samé regulovať oblasť, v ktorej sú riziká pre tínedžerov mimoriadne vysoké,“ povedal McBain, vedecký pracovník v oblasti politiky v spoločnosti RAND a asistent profesora na lekárskej fakulte Harvardovej univerzity.

Prečítajte si tiež:

• ChatGPT dáva tínedžerom nebezpečné rady o drogách, diétach a sebapoškodzovaní, varuje štúdia
• Rodičia obviňujú ChatGPT zo samovraždy svojho syna