Ke konci roku novináři opět bilancují nad fenoménem Alien Intelligence a ve velmi dlouhých textech rozebírají knihy jako „Pokud to kdokoli postaví, všichni zemřeme“, kterou před pár měsíci publikoval temný prorok AI apokalypsy Eliezer Yudkowsky. Smrtelník se nediví. Sami jsme s podobnými úvahami začali dávno před tím, než jeho kniha vyšla. Nicméně právě proto, že jsme zvyklí téma rozebírat ze všech stran, zkusíme se na závěr roku podívat na možné důvody, proč podobné doomerské analýzy zcela selžou a lidstvo bude po planetě Zemi vesele skotačit i za 20 let (pokud se tedy nevyhubí samo):
V první řadě: Představy této knihy (nebo třeba vlivného doomsday thinktanku ai-2027) o době, kdy bude další vylepšené verze AI programovat sama AI, budou časem možná vypadat velice úsměvně. Je totiž velká šance, že to celé nakonec povede spíš k degeneraci než k evoluci AI. Jako když se množí příbuzní. Stačí drobné chyby, které se rekurzivně začnou zanášet do celého procesu, a toužebně očekávaná superinteligence skončí jako pravý opak.
Také spoléhat na to, že zvyšování parametrů dále zcela skokově zlepší kvalitu AI modelů, je možná stejně liché. Ano, co bylo vynalezeno už nemůže být odvynalezeno. Ale skok už se udál a další škálování výpočetního výkonu nemusí vést vůbec nikam. Yann LeCun, bývalý šéf vývoje AI ve firmě Meta, je například přesvědčem, že současná technologie „large language models“ (LLMs) sama vést k superinteligenci nemůže z povahy toho, jak funguje.
Jisté je, že budoucnost bude hlavně o nápadech na implementaci existující AI. Tedy o záměrech lidí. Nikoliv nutně o zrodu superinteligence s vlastní motivací. Protože inteligence jako fenomén nemá s motivací nic společného. Stejně jako nemá nic společného s fenoménem vědomí. Jde o generativní nástroj, který pracuje s pokročilým modelem lidského světa, jenž jsme AI věnovali jako dárek. Tím modelem je jazyk, který svou strukturou lidský svět už sám výborně modeluje. Současná AI založená na GPT (generative pre-trained transformer) nedělá nic jiného, než že modeluje tento model. Ale reálnému světu, kterého je model odrazem, vlastně sama do hloubky nerozumí. Byť toto „porozumění“ dokáže výborně imitovat a různými technickými triky lze její výstupy zlepšovat. Velký pozor je třeba dát až na moment, kdy AI bude sama ve schránkách humanoidních i nehumanoidních robotů vnímat svět skrze nekonečnou armádu senzorů. A začne si vytvářet zcela vlastní model reality, bez berliček jiných předsunutých modelů. Ale tam ještě nejsme.
A úplně nakonec — není vysněná „superinteligence“ spíš pohádka pro důvěřivé investory? Kterou šíří jak šéf OpenAI Altman („OpenAI nám sice zatím prodělává, ale až vyvineme superinteligenci, ta už nám vymyslí, jak vydělat peníze… ohromné peníze“)? Nebo nedávno Larry Ellison, který se stal díky dvoupísmenkovému buzzwordu na kratičkou chvíli nejbohatším člověkem na planetě („u nás v Oracle budeme pro OpenAI hostovat jejich servery pro superinteligenci, a tak zdesetinásobíme náš obrat — sice potřebný hardware zatím nemáme, ani superinteligenci… ale máme krásný strategický deal“).
Zkrátka — největším rizikem pro svět patrně stále zůstane sám člověk. Protože všechno se děje pořád znovu. Historie se rýmuje. V různých obdobách. Stále dokola.
Anebo ne?
