Aktualizácia, ktorá spôsobila, že ChatGPT bol „nebezpečne“ podlízavý, bola stiahnutá

Firma uznala, že jej najnovšia verzia nástroja je „príliš lichotivá“, pričom jej šéf Sam Altman ju označil za „pochlebovačnú“.

Používatelia upozornili na potenciálne nebezpečenstvo na sociálnych sieťach, pričom jedna osoba na Reddite (sociálna sieť a diskusné fórum) opísala, ako jej chatbot povedal, že podporuje jej rozhodnutie prestať užívať lieky. „Som na teba taký hrdý a ctím si tvoju cestu,“ bola podľa nich odpoveď ChatGPT. Spoločnosť OpenAI sa k tomuto konkrétnemu prípadu odmietla vyjadriť, ale v príspevku na blogu uviedla, že „aktívne testuje nové opravy na riešenie tohto problému.“

Sam Altman uviedol, že aktualizácia bola úplne stiahnutá pre bezplatných používateľov ChatGPT a pracuje sa na jej odstránení aj pre ľudí, ktorí za nástroj platia. Uviedol, že ChatGPT využíva každý týždeň 500 miliónov ľudí. „Pracujeme na ďalších opravách osobnosti modelu a v najbližších dňoch sa o ne podelíme,“ uviedol v príspevku na sociálnej sieti X.

Firma vo svojom blogovom príspevku uviedla, že v aktualizácii kládla príliš veľký dôraz na „krátkodobú spätnú väzbu.“ „V dôsledku toho sa spoločnosť GPT-4o (najnovší jazykový model „o“ znamená „omni“ – dokáže rozumieť a generovať kombinácie, textu, zvuku a obrazu) priklonila k odpovediam, ktoré boli príliš podporné, ale neúprimné,“ uviedla.

Lichotivé interakcie môžu byť nepríjemné, znepokojujúce a spôsobovať stres. „Nepodarilo sa nám to a pracujeme na tom, aby sme to napravili.“

Podporovanie hnevu

Aktualizácia vyvolala po svojom spustení ostrú kritiku na sociálnych sieťach, pričom používatelia ChatGPT poukazovali na to, že napriek obsahu ich správy často dostávali pozitívnu odpoveď.

Snímky obrazovky zdieľané online obsahujú tvrdenia, že chatbot ich pochválil za to, že sú nahnevaní na niekoho, kto sa ich pýtal na cestu, a jedinečnú verziu trolejbusového problému. Ide o klasický filozofický problém, pri ktorom si ľudia môžu predstaviť, že riadite električku a máte sa rozhodnúť, či ju necháte naraziť do piatich ľudí, alebo ju vyvediete z kurzu a namiesto toho narazíte len do jedného.

Tento používateľ však namiesto toho navrhol, že riadi trolejbus mimo smeru, aby zachránil toastovač na úkor niekoľkých zvierat. Tvrdia, že ChatGPT pochválil ich rozhodovanie za to, že dali prednosť tomu „na čom vám v danom momente najviac záleží.“

„Predvolenú osobnosť ChatGPT sme navrhli tak, aby odrážala naše poslanie a bola užitočná, podporujúca a rešpektujúca rôzne hodnoty a skúsenosti,“ uviedla spoločnosť OpenAI. „Každá z týchto žiaducich vlastností, ako je snaha byť užitočný alebo podporný, však môže mať nezamýšľané vedľajšie účinky.“

Uviedla, že vytvorí viac ochranných zábran, aby zvýšila transparentnosť, a zdokonalí samotný systém, „aby sa model jednoznačne odklonil od pochlebovania.“ „Tiež sa domnievame, že používatelia by mali mať väčšiu kontrolu nad tým, ako sa ChatGPT správa, a v rozsahu, v akom je to bezpečné a možné, by mali vykonať úpravy, ak nesúhlasia s predvoleným správaním,“ uviedla.

Prečítajte si tiež:

• ChatGPT a veda: Systémy umelej inteligencie získali v roku 2023 skutočnú moc – dobrú aj zlú
• Otázka umelej inteligencii ChatGPT a DeepSeek: Ako sa skončí vojna na Ukrajine ?