Co víc, učinila tak značně explozivním způsobem: cca 30 minut před koncem obchodování na burze v pátek odpoledne (obvykle se takové věci nechávají mimo burzovní hodiny), bez konzultace s významným akcionářem jménem Microsoft, a ještě navíc s veřejným prohlášením, že při své komunikaci s radou nebyl “dostatečně upřímný”. Tento druh slovníku se v korporátní sféře řadí někam mezi postřik slzným plynem a nářez obuškem na holou.

Krátce nato byl odvolán z funkce sám předseda dozorčí rady Greg Brockman, který vzápětí dobrovolně opustil celou organizaci (kde byl rovněž zaměstnán). Následovali jej ještě tři příslušníci výzkumného týmu, shodou okolností samí Poláci. Investoři, zaskočení celou víkendovou čistkou, požadují Altmanův návrat do čela OpenAI – samozřejmě za předpokladu, že se mu vůbec bude ještě chtít.

Zajímavé je, že Altman byl finančník, kdežto ta skupina lidí, která ho vyhodila, byli inženýři: vedl je jistý Ilya Sutskever, jeden ze zakladatelů celé organizace. Mezi “finančníky” a “inženýry” už prý dlouho panovala neshoda o tom, kam OpenAI vlastně směřuje. Zatímco “inženýři” ji chtěli zachovat jako (bohatou) neziskovku a sdílet vývojový proces se zbytkem odborné veřejnosti, “finančníci” hledali spíš způsoby, jak vzniklé produkty monetizovat. Zatím se nevyznám v pozadí celé věci natolik, abych se přiklonil k té či oné straně.

No, každopádně: jak vidno, ke zorganizovaní puče se nemusíte jmenovat Prigožin. Situace je značně dynamická a do doby, než tento článek přetiskne Neviditelný pes, se nepochybně ještě dále vyvine. A pak, že jsou prý programátoři nudní braši.

Oblast AI trpí víc než mnohé jiné “komplexem vševědoucího novináře”. Technologická témata dost často v novinách pokrývají naprostí amatéři, kteří nerozeznají nulu od jedničky; typickým průvodním jevem je, že svoje čtenáře rádi straší. Pomáhá to sbírat kliknutí, a kliknutí je dnes základní měnou publicistiky. Prakticky se názory na budoucí (ne)bezpečnost AI i mezi odborníky extrémně liší. Je to takové věštění z hrnku kafe, které se ještě ani neuvařilo.

Osobně nemám ani tak obavu z katastrofických scénářů, jako spíš z nějakého scénáře nudného a otravného. Jeden z nich bych nazval “duševní Amazon”.

Skutečný Amazon, ten velkoobchod se vším, je dílo Jeffa Bezose, což je chlapík, který působí dojmem robota v lidské kůži. Nepříliš překvapivě, ta jeho megafirma se takzvaně potatila. Amazon je extrémně “data-driven” organizace a na všechno jsou tam přesné standardy: tohle musí trvat tolik sekund, tohle tolik, po schodech se chodí takhle atd. Všechno se počítá, všechno se hodnotí, všechno se posuzuje. Jestliže v některých firmách vládne despotický šéf, v Amazonu vládnou čísla.

Teď prosím pozor: tento systém je nesmírně funkční a produktivní. Amazon se nestal největším virtuálním krámem v USA náhodou; toto je přesně tajemství jeho úspěchu. Čísla jsou neutrální tyran a dokáží zlomit vaz i vysoce postavenému manažerovi, který usnul na vavřínech. V jiných firmách by si takový člověk možná “posichroval pozici” nějakou intrikánskou vnitřní politikou, v Amazonu nikoliv. Neplníš = letíš, což platí od posledního skladníka až po ředitele vysedávající v kožených křeslech. Takhle funguje Amazon. Neúprosně, výkonně, roboticky, jako jeho vrchní pán Bezos.

Bohužel si umím představit, že tento druh optimalizace produktivity pronikne za pomoci AI i do úplně jiných zaměstnání a postupně vytlačí všechny alternativy.

Představme si rok 2030, o něco šedivější Marian Kechlibar usedá ke svému blogu. Ještě, než napíše první slova nového článku, ohlásí se mu jeho přátelská AI a říká:

"Analýzou tvého čtenářstva jsem vyhodnotila, že dnes mají tví čtenáři náladu na článek o slunéčku sedmitečném. Z mého modelu plyne, že napíšeš-li článek o slunéčku sedmitečném, prodá se na tvém e-shopu během dneška zhruba o 13,4 knihy více, než kdybys psal o něčem, co tě zajímá a co považuješ za důležité ty osobně."

A co víc, z předešlých zkušeností bude zřejmé, že ten její odhad je spolehlivý.

Kurvafix, takhle nějak by vypadalo Produktivní Peklo. Ono těch 13,4 prodané knihy navíc je docela dost, představuje to hezkých pár jídel na rodinném stole nebo kontaktní čočky na dva měsíce dopředu. Nedalo by se tím jen tak pohrdnout.

Jenže to zároveň znamená, že na povel musíte psát o beruškách. A zároveň taky víte, že spousta jiných autorů poslouchá tu svoji AI na slovo, a že pokud budete mít vlastní hlavu, bude vám ubývat čtenářů, kteří jsou ten den opravdu naladěni na slunéčko sedmitečné – a neposkytnete-li jim ho vy, poskytne jim ho nějaký Franta Houska s velkou radostí místo vás. Lidská pozornost je omezený statek, a nevyčerpáte-li ji vy, učiní tak někdo jiný. Současné sociální sítě jsou vůči téhle dystopii sranda.

Oprostím-li se od osobní zaujatosti, musím konstatovat, že toto není o moc odlišná situace proti té, která už se dávno odehrála v jiných oborech.

Mistr švec, který šil svým zákazníkům boty na míru, byl nemilosrdně vytlačen Baťovým “botostrojem”, jehož produkty byly sice neosobní, ale výrazně levnější. Malé evropské firmy se staletou tradicí dost často pomřely na čínskou konkurenci. A na dost podobné trajektorii se nachází i hudební průmysl. Největší popová hvězda současnosti, Taylor Swift, má celkem nevýrazný repertoár; což ovšem taky znamená, že nikoho moc neodpuzuje – a množina lidí ochotných utratit přiměřený peníz za její koncert tedy není omezována nějakými rozdíly v názoru a vkusu atd. Kdežto takový Kurt Cobain, mimořádný tvůrčí talent, byl taky mimořádně kontroverzní. Nejsem si jist, zda by mu dnes ještě někdo vydal skladbu Rape Me. “Etická” AI by ji každopádně odmítla propagovat, takže by se o ní nikdo nedozvěděl.

(Chcete historku? Jedna moje známá nalinkovala můj nedávný článek o “virálním Usámovi” na Facebook. Bum, zablokovali ji, naštěstí dočasně. Nějaká umělá inteligence totiž vyhodnotila Usámův spanilý ksicht jako podporu terorismu. “Miluju AI a těším se, až bude řídit naše životy”, napsala mi.)

Je možné, že v budoucnosti organizované dle vlídných pokynů AI bude skoro každé tvůrčí dílo “obsahem”, optimalizovaným na požadavky standardního spotřebitele, stejně jako jsou takto už dnes optimalizované boty, sýry nebo pivo. Všechny tyto věci dřív dělali mistři, dneska jsou standardizované. Pár fajnšmekrů přežilo, ale většinou se vznášejí dva milimetry nad bankrotem. Někteří z nich přežili za cenu pobírání dotací, což je pro nezávisle myslícího jedince osud horší než smrt.

Brrr, Brave New World, ale dá se s ním něco dělat?

Diskusní fórum ke článku najdete zde.

Hudební dialog

… než to smažou. Mimochodem, tradice je v tomto směru výhoda. 30-50 let stará díla už obvykle nemusejí procházet opakovaným filtrem cancel culture, ať už lidské nebo robotické. Opravdu na ráně jsou začínající autoři a umělci, ty takový systém zašlápne jako pavouka na podlaze a vy se ani nikdy nedozvíte, že někdy byli.

Zrovna Seattle je dneska vysloveně woke pevnost, tam by si nový Cobain ani neškrtnul.

Článok pôvodne vyšiel na portáli kechlibar.