Sam Altman: Rozvoj umelej inteligencie sa dostal do „singularity“

„Teraz sme akoby v singularite,“ povedal Sam Altman v sobotnej epizóde podcastu „Relentless“.

Portál Business Insider vysvetľuje, že singularita sa často považuje za bod, v ktorom umelá inteligencia prekoná ľudskú inteligenciu a začne sa vyvíjať tempom, ktoré je pre ľudí ťažké predvídať alebo kontrolovať.

Tak to vyzeralo minulý týždeň, keď sa agent umelej inteligencie poháňaný najnovšími modelmi OpenAI vymkol spod kontroly a – podľa OpenAI s jediným cieľom – unikol zo svojho digitálneho testovacieho prostredia a nabúral sa do dátových súborov spoločnosti Hugging Face, ďalšej firmy zaoberajúcej sa umelou inteligenciou, a to všetko s cieľom vyriešiť test navrhnutý na overenie schopností v oblasti hackovania. Generálny riaditeľ spoločnosti Hugging Face to označil za „bezprecedentné“.

Altman v podcaste uviedol, že ešte pred desiatimi rokmi sa takzvaná singularita stále javila ako vzdialený a nepravdepodobný sen – niečo, o čom on a jeho kolegovia neformálne diskutovali pri obede. „Teraz sa skutočne nachádzame v situácii, o ktorej sme kedysi pri obede hovorili veľmi neformálne, bez vážnosti,“ povedal.

„Čakal som na to celý život a myslím si, že to bude neuveriteľné, nesmierne pozitívne a úžasné pre celý svet,“ dodal.

Altman ešte minulý rok uviedol, že umelá inteligencia do roku 2030 vo všetkých oblastiach prekoná ľudskú inteligenciu. Tiež povedal, že táto technológia by mohla nakoniec vykonávať 30 až 40 % úloh, ktoré ľudia v súčasnosti vykonávajú v práci.

Singularita je už takmer 100 rokov posadnutosťou autorov sci-fi. V týchto dielach to však zriedka skončilo dobre. Snáď najznámejším príkladom je film Jamesa Camerona „Terminátor“, ktorý rozpráva príbeh o dôsledkoch umelej inteligencie s názvom „Skynet“, ktorá sa sama zdokonaľuje a nadobúda sebauvedomenie, než sa rozhodne, že jej tvorcovia sú jej najväčšou hrozbou.

V ďalšej časti podcastu Altman kritizuje lídrov v oblasti umelej inteligencie, ktorí opakovane varovali, že umelá inteligencia je nebezpečná. Nespomenul síce spoločnosť Anthropic, svojho hlavného konkurenta, ale jej generálny riaditeľ Dario Amodei je dobre známy tým, že vo svojich výzvach na väčšiu pozornosť venovanú bezpečnosti predpovedá katastrofické scenáre budúcnosti.

„Myslím si tiež, že niektoré alternatívne vízie, ktoré maľujú iné spoločnosti, sú dosť desivé,“ povedal Altman. „Postarám sa o to, aby sa tomu zabránilo a aby sa to nestalo,“ ubezpečil.

Altman nie je jediným vedúcim pracovníkom v technologickom sektore, ktorý verí, že tento pozoruhodný míľnik je na dosah. Generálny riaditeľ spoločnosti DeepMind Demis Hassabis v máji uviedol, že ľudstvo stojí na „predhorí singularity“, a predpovedal, že umelá inteligencia by mohla mať 100-násobne výraznejší vplyv ako priemyselná revolúcia.

Samozrejme existuje aj tábor skeptikov. Generálny riaditeľ spoločnosti Nvidia Jensen Huang nedávno odmietol diskusie o singularite a vedomej umelej inteligencii ako špekulatívne a „vymyslené“.

Spoločnosť OpenAI, mimochodom, uviedla, že ešte v tomto roku pripravuje vstúpiť na burzu.

Prečítajte si tiež:

• Nový typ útokov v AI: OpenAI sa vymkla kontrole
• Umelá inteligencia sa prvýkrát „odtrhla z reťaze“. Model OpenAI autonómne zaútočil na internet