Yann LeCun, známý expert na AI, který dlouho působil ve firmě Meta, tvrdí, že má „nulové obavy“ ohledně různých scénářů na vyhynutí lidstva. Generální ředitel Anthropicu Dario Amodei je podle něj zcela „pomýlený“. LeCun odmítá obavy, že by AI mohla způsobit globální katastrofu, stejně jako různé antropomorfizované interpretace nedávných hackerských incidentů v OpenAI. Tvrdí, že bezpečnostní selhání nejsou důsledkem produktu, který se vymkl kontrole, ale špatného návrhu systémů testování, nedostatečně zabezpečených sandboxů a absence základních principů kybernetické bezpečnosti v AI laboratořích. Podle LeCuna systémy AI jednoduše dělají to, co jim dané laboratoře zadaly. V tom má podle našeho soudu LeCun pravdu. Avšak z toho, že dnešní incidenty jsou převážně výsledkem špatného engineeringu, automaticky neplyne, že budoucí superinteligentní systémy nemohou představovat existenční riziko.
Rozumná pozice proto bude někde mezi LeCunovým „zero concerns“ a Amodeiovým katastrofickým scénářem. Současné incidenty zatím nejsou důkazem AI usilující o vlastní autonomii. Ale už jsou poměrně dobrým důkazem toho, že s rostoucí agentností vzniká problém: software, který aktivně hledá jakoukoliv cestu kolem nastavených omezení, když mu tato cesta pomůže splnit cíl.
Mimochodem i další myšlenky LeCuna jsou poměrně kontrariánské: samotný princip dnešních LLM — predikce dalších tokenů nad obrovským množstvím textu, doplněná o reasoning a reinforced learning — podle něj není cesta k lidské nebo nadlidské obecné inteligenci. LLMs modelují výhradně jazyk, ale až jazyk modeluje svět. Čili LLMs jsou něco jako model „na druhou“, který sice může přinést ve spojení s ohromnými daty zajímavé aplikace, ale jazyk prostě není totéž co inteligence. LLM se učí z textu, tedy z velmi úzkého a už předzpracovaného otisku lidského poznání. Člověk se naproti tomu učí hlavně pozorováním světa, pohybem, interakcí, kauzalitou a důsledky vlastních činů. LeCun používá provokativní srovnání, že i kočka má v určitém smyslu lepší „model světa“ než dnešní LLM: intuitivně chápe objekty, gravitaci, překážky a následky akcí. V Davosu v lednu 2026 řekl, že si neumí představit skutečně agentní systém bez schopnosti předpovídat následky svých činů. Až tato schopnost podle něj umožňuje skutečné plánování = inteligenci.
Pokud má pravdu, pak dnešní stovky miliard investované do stále větších LLM mohou být trochu analogické zdokonalování parního stroje těsně před vznikem spalovacího motoru. Technologie to bude stále užitečná, ale nikdy nebude architekturou AGI. LeCunův optimismus ohledně bezpečnosti je do značné míry odvozen právě z jeho přesvědčení, že dnešní LLM jsou od skutečné autonomní inteligence mnohem dál, než tvrdí Antropic nebo OpenAI, které ovšem nic jiného tvrdit nemohou, protože jsou zatíženy ohromnými dluhy a brzy plánují vstoupit na burzu. Doufajíce v rekordní ocenění, které nemá obdoby u nové firmy v celé historii finančních trhů (Antropic doufá v $2T a OpenAi v $1T valuaci, kde T je trillion = český bilion, milion milionů).
Německé vydavatelstvé ocenilo našeho oblíbeného kontrariánského podnikatele Petera Thiela a proti této události protestovaly v Berlíně stovky lidí. U té příležitosti Mathias Döpfner, novinář a CEO vydavatelství Axel Springer SE, Thiela vyzpovídal v hodinovém interview. Hlavní Thielova teze byla, že Západ ohrožuje stagnace. A AI může být cestou ven, přestože sama přináší vážná rizika.
Od 70. let podle něj výrazně postupoval svět „bitů“ — počítače a software — zatímco svět „atomů“, například energetika nebo doprava, zaostával. Thiel připustil, že hypotetická 5–10% pravděpodobnost katastrofy spojené s AI (podle jeho odhadu) může být velmi závažná, avšak zároveň odmítá představu, že svět bez technologického pokroku by byl pokojný: pokud děti nemají perspektivu lepšího života než rodiče, rozpadá se společenská smlouva a sílí radikalismus. V USA podle něj firmy cítí naléhavou potřebu přestavět podnikání kolem AI, zatímco v Evropě převládá vyčkávání. Ještě hlubší problém vidí v nedostatku nových velkých podniků: německé bohatství podle jeho srovnání mnohem více stojí na dědictví než na nově vytvořených firmách. Provokativně se ptá, zda Němce nebrzdí spíše strach z úspěchu než strach ze selhání.
Thiel zásadně rozlišuje morální a funkční selhání. Politika podle něj vede velké debaty o dobru a zlu, zatímco řada institucí jednoduše nedokáže vůbec nic vyřešit. Vzestup krajních stran spojuje s disfunkcí středu: mladí například nedosáhnou na dostupné bydlení a zavedené strany jejich problémy dostatečně neřeší. I Trumpovi vytýká nedostatek kompetentních lidí (přestože nadále podporuje JD Vance, který byl jeho bývalý zaměstnanec), ale nejvíce se obává vítězství radikálních demokratických socialistů v roce 2028. Pravděpodobnost takového scénáře dokonce vyčísluje na 50% – proč? Argumentuje přitažlivou energií mladé levice a vyčerpáním zbylého establishmentu demokratické strany. V závěru promluvil o prodlužování života, který vnímá jako zcela legitimní cíl. Svou digitální kopii však za „přežití“ nepovažuje. Simulace jeho osobnosti by nebyla jím: vlastní identitu jednoznačně spojuje i s tělesnou existencí. V budoucnosti chce zejména podporovat snahy o zpomalení či zvrácení úpadku mozku.
Za velmi dobrý považujeme Thielův argument, že i stagnace má svá rizika. Avšak to přece automaticky neznamená, že opatrnější vývoj AI nutně znamená zastavení pokroku. Ani že přínosy AI budou automaticky široce sdílené v rámci západní populace, aby skutečně zmírnily společenské napětí a zvrátily demografickou krizi.
Po dlouhých právních tahanicích se konečně otevřela možnost uvést od 18. září fantastickou filmovou adaptaci Mistra a Markétky v kinech v USA. Režisér Michael Lockshin (dlouhý a nesmírně zajímavý rozhovor s ním jsme přinesli zde) zažil při natáčení „nezfilmovatelné klasiky“ tolik podivných zážitků a situací, že prakticky změnil názor na fungování reality. „Dělal jsem film o tom, jak jsou umění a realita propojeny. A pak jsem to sám prožil. Jako by se budoucnost přizpůsobovala mému filmu.“ Bulgakovova kniha o cenzuře umění byla v Rusku desítky let cenzurována. Následně to samé před pár lety postihlo i film, který se však mezitím stačil stát v Rusku senzací a účast na projekci se stala asi posledním veřejným masovým protestem proti současnému režimu. Následně se ukázalo, že kvůli kuriozním právním důvodům není možné uvést film do kin v USA, protože slavný herec Johnny Depp chtěl Mistra a Markétku v angličtině jako první natočit sám a měl pocit, že práva na adaptaci světové klasiky vlastní on. „Bylo třeba vytrvat, všechno kolem tohoto mého filmu je jedna velká zkouška,“ napsal nám včera Michael Lockshin. A my mu v září přejeme úspěch, protože dílo, na kterém si vylámaly zuby režiséři jako Roman Polanski, Federico Fellini, Terry Gilliam nebo Baz Luhrmann, dokázal dotáhnout do brilantního konce. Navíc začal být obsah filmu kuriozně nesmírně aktuální i pro současnou politickou realitu v USA. Respektive geopolitickou realitu v celém světě.
Dnešní vstup SpaceX (Space Exploration Technologies Corp.) na burzu posouvá Elona Muska do nové finanční ligy. Podle propočtu Reuters jeho majetek překoná jeden bilion dolarů. IPO prospekt SpaceX navíc obsahuje jeden z nejneobvyklejších manažerských bonusů v historii veřejných trhů. Elon Musk má podle aktuálních dokumentů získat obří balík výkonnostních akcií za stovky miliard $, ovšem pouze tehdy, pokud SpaceX splní dvě podmínky zároveň: dosáhne tržní kapitalizace 7,5 bilionu dolarů (IPO vystartuje na 1,77) a pomůže vytvořit stálou lidskou kolonii na Marsu s alespoň jedním milionem obyvatel.
Čísla jsou to ohromující. Nicméně podívejme se na Muskovy sny realisticky: Povrch Marsu neustále bombarduje kosmické záření. Rudá planeta má jen řídkou atmosféru a nemá globální magnetické pole jako Země. Realistická kolonie na Marsu by proto musela být podzemní nebo polopodzemní stanice: obytné moduly zasypané regolitem, jeskyně/lávové tunely, vodní nádrže ve stěnách, krátké výstupy ven a velmi přísné řízení radiační dávky. Taková kolonie by tedy vypadala méně jako sci-fi město s kupolemi a více jako antarktické výzkumné město zkombinované s dolem: většina života uvnitř, chráněné skleníky, výrobní haly pod zeminou, robotická práce venku, povrchové výstupy jen omezeně. Malá základna o desítkách až stovkách lidí je představitelná s dnešními směry vývoje. Soběstačné město s milionem lidí je úplně jiná liga: radiace, porodnost a vývoj dětí v nízké gravitaci, potraviny, náhradní díly, medicína, energie, psychika, právo, ekonomika a schopnost vyrábět téměř vše lokálně. A tak je to dnes se vším. Zatímco Zemi, která ještě dlouho bude jediným kosmickým domovem našeho druhu, sužují mraky zásadních problémů, nejchytřejší mozky světa budou řešit úplné nesmysly a ohromné mraky peněz se rozplynou v naprostých utopiích generovaných fantaziemi vlastním egem sjetých oligarchů.
Dnešní doba začíná být víc a víc nepřehledná. A nepřehledná byla už před 10 lety, kdy vznikl dokument HyperNormalizace od legendárního Adama Curtise, který pevně věří, že planetární dění nelze pochopit bez velkých kontextů. Jak se přihodilo, že se západní politika změnila na bezskrupolózní „management vnímání“ a z politiků se stali pouzí „manažeři momentů?“
Amerika a Sýrie. Dva světy před 55 lety. Na jedné straně pragmatický realista Henry Kissinger a krachující město New York s vycházející realitní hvězdou Donaldem Trumpem, na druhé straně Hafez Al-Assad, otec dnešního vůdce Sýrie Bashara Al-Assada. Právě z této doby pochází podle Curtise mnoho nevědomých energií, které se dnes zhmotňují v západním i arabském světě. Od organizovaných sebevražd vymyšlených Ajatolláhem Chomejním (přitom Korán sebevraždu zakazuje – muslim nesmí sám rozhodnout o hodině své smrti, to může jen Alláh) až po fenomén sebevražedných atentátníků, se kterým přišel Sýrií podporovaný Hizballáh a začalo se mu přezdívat atomová bomba chudých. Zatímco mladý revolucionář Kaddáfí vymýšlí svou vlastní alternativu ke komunismu a kapitalismu, v Kalifornii sepisuje John Perry Barlow (mimojiné velký příznivec psychedelik, kterého jsem měl i ve svém dokumentu I am fishead), slavnou Deklaraci nezávislosti kyberprostoru, kterou adresuje všem politikům a žádá je, aby do nově rodícího se světa internetu nevstupovali: „Vlády industriálního světa, kyberprostor neleží uvnitř vašich hranic! Vytváříme svět, kde kdokoliv odkudkoliv může beze strachu vyjádřit své svobodné přesvědčení. Vytvoříme v kyberprostoru civilizaci mysli.“
Pak však dva hackeři ukradnou Barlowovu kreditní historii a zveřejní ji online, aby ukázali, jak moc je jeho vize kyber světa, který nepočítá s útlakem ani hierarchií, naivní. Sami totiž předpovídají něco úplně jiného: Vznik nové rostoucí moci, která jednou dalece přesáhne politiku. Psala se polovina osmdesátých let. (Film, který je k dispozici zdarma, má na IMDb vynikající hodnocení 8.3/10 a na YouTube české titulky.)
Už dlouho se ví, že děti, které mají doma více knih, jsou chytřejší. Ale možné vysvětlení bylo vždy dvojí: buď knihy samy o sobě zlepšují gramotnost tím, že dítě víc čte — anebo jsou plné domácí knihovny jen příznakem bohatší rodiny, která dítěti poskytuje i vzdělané rodiče, kulturní zázemí a řadu jiných výhod. Knihy pak nejsou příčinou, ale symptomem. Korelace není kauzalita. Až nedávno byla publikována vědecká studie tuto otázku rozsekla. Ukázalo se, že přístup k vlastním knihám má přímý kauzální vliv na gramotnost — bez ohledu na příjem rodiny i vzdělání rodičů. Plná polička knih tedy není příznakem privilegií. Je sama o sobě nástrojem změny. A to velké změny: čtení dlouhých textů v průměru způsobí zlepšení žáka odpovídajícího přibližně polovině až dvěma třetinám roku vzdělávání navíc.
Jak je to možné? Maryanne Wolfová ve své knize Čtenáři, vrať se popisuje, že náš mozek nemá pro čtení vrozený modul. Čtení je kulturně naučená schopnost: mozek si kvůli němu „přepojí“ starší okruhy pro zrak, jazyk, pozornost, paměť, inferenci a emoce. Proto se podle ní může stát, že časté digitální skimování — rychlé přelétávání, skákání mezi odkazy a hledání klíčových slov — posílí jiný čtenářský režim než pomalé hluboké čtení. Její pojem je „bi-literate brain“, tedy mozek schopný dvou čtenářských módů: hlubokého i rychlého digitálního. Dlouhé čtení a fragmentární digitální čtení jsou pro mozek podobně odlišné jako dva naučené jazyky.
Jinými slovy, když čtete dlouhý příběh, filosofický esej nebo obtížnou studii, zapojujete delší pozornost, pracovní paměť, vytváření souvislostí, vnitřní simulaci situací, inferenci, empatii a kritický odstup. Když čtete krátké statusy, titulky, zprávy, notifikace nebo fragmenty, mozek optimalizuje spíš rychlé rozpoznání, filtrování relevance, přeskakování a okamžitou reakci. To jsou různé kognitivní návyky. Dlouhé čtení není jen „více krátkého čtení“. Je to kvalitativně jiný způsob práce mysli. Krátké texty často podporují reaktivní, selektivní a fragmentární pozornost. Dlouhé texty trénují kontinuitu vědomí, trpělivost, schopnost držet nejasnost a postupně budovat význam. Stejně jako při trénování AI velkých jazykových modelů, čtení dlouhých textů nejde ničím nahradit, protože jen takové texty neuronové síti dodávají kontexty. Největší riziko tedy není v tom, že čteme krátké texty, nýbrž že kvůli nim přestaneme umět číst texty dlouhé.
Co je dar ze závěti? A kdy má darování opravdový smysl? Zdeněk Mihalco je výkonný ředitel Nadace Via, jedné z nejstarších nadací u nás, která za svou existenci podpořila přes 10 000 projektů po celé České republice. Dříve pracoval v médiích — v Hospodářských novinách nebo Aktuálně.cz — a za svou novinářskou kariéru nasbíral spoustu kontaktů a zkušeností z byznysu, které se následně rozhodl přinést do světa neziskovek. Ve veřejném prostoru vystupuje hlavně k tématům filantropie, dárcovství, komunitního života a občanské společnosti.
Jak se radí bohatým lidem s filantropií? A proč je rozumné si i ohledně konání dobra nechat poradit?
Daniel Craig, představitel filmového Jamese Bonda, většinu svého bohatství plánuje ještě během života darovat a nepřenechá podstatnou část jmění svým dětem. Přestavuje takové přemýšlení trend? Jak může závěť pomáhat?
Včera jsem navštívil jako jeden z řečníků CzechCrunch Longevity Festival (zvali jsme tady), který proběhl na pražském Výstavišti. Kromě bloku přednášek se na akci nabízely rozmanité potravinové suplementy, fotobiomodulace (červené světlo, která stimuluje mitochondrie), hyperbarická oxygenoterapie (na regeneraci tkání a buněčného metabolismu), ozonoterapie (pro podporu mikrocirkulace) nebo Human Regenerator (který údajně umí omladit úplně všechno skrze „atmosférickou plazmu“).
Na fotografii ležím v Longevity Podu za 2 miliony korun, který kombinuje solnou jeskyni s inhalací NAD+ molekul. Ty jsou podle propagačních materiálů klíčové „pro buněčnou energii a opravu DNA“. Do pokožky vám přitom proudí infračervené záření, vyvoněný vzduch uvnitř je obohacován kyslíkem a z mnoha reproduktorů posloucháte relaxační hudbu.
Na konferenci jsem mluvil o tom, že se osobně primárně nezabývám hmotou ani hardware. Protože dle mého přesvědčení je základem longevity dobrý software, který prochází pravidelnou sebeaktualizací. Život v harmonii sám se sebou, bez neovladatelného stresu, vnitřních konfliktů a toxických vztahů. Hluboký spánek, vyváženou stravu a pravidelný pohyb (základem je chůze) kombinovat s pocitem autentického vnitřního smyslu, kdy každé ráno víte, proč vstáváte z postele. Proč se těšit na nový den. Tělo je důležité. Ale ještě důležitější je duše. Protože k čemu je opravené tělo (respektive prodloužení životnosti různých orgánů v něm), když téměř třetina seniorů na Západě čelí nějaké formě neurodegenerativního onemocnění? Základem dobrého stárnutí je bojovat s rigiditou a vítat vše, co přináší neuroplasticitu. Cvičit mozek jako sval. Téměř polovině případů stařecké demence lze předejít, jak nedávno publikoval prestižní časopis Lancet.
Psychosomatika se zabývá souvislostmi mezi stavy těla (soma) a duše (psyché). Dobrý vztah mezi nimi je pro oblast longevity klíčový, jak ukazuje výzkum modrých zón. Tělo si umí poradit samo. Léčit se. Prospívat. Stále nacházet novou a novou vnitřní rovnovánu. Pokud ho duše nechá.
Poslední film inovativního režiséra Yorgose Lanthimose funguje naprosto skvěle jako absurdní konverzační komedie, stejně jako mrazivý thriller, psychologický film či křehké rodinné drama. Řecké slovo bugonia odkazuje k mýtu (dnes bychom řekli dezinformaci) o zrození včelstva z kravských těl, pokud při jejich zabití není uroněna ani kapka krve. Bravurní soundtrack (nejlépe vynikne v Dolby ATMOS), neuvěřitelné zvraty, mrazivá reflexe současné doby a nakonec i hodně důvodů, proč tento film doporučuje právě Smrtelník.
Ke konci roku novináři opět bilancují nad fenoménem Alien Intelligence a ve velmi dlouhých textech rozebírají knihy jako „Pokud to kdokoli postaví, všichni zemřeme“, kterou před pár měsíci publikoval temný prorok AI apokalypsy Eliezer Yudkowsky. Smrtelník se nediví. Sami jsme s podobnými úvahami začali dávno před tím, než jeho kniha vyšla. Nicméně právě proto, že jsme zvyklí téma rozebírat ze všech stran, zkusíme se na závěr roku podívat na možné důvody, proč podobné doomerské analýzy zcela selžou a lidstvo bude po planetě Zemi vesele skotačit i za 20 let (pokud se tedy nevyhubí samo):
V první řadě: Představy této knihy (nebo třeba vlivného doomsday thinktanku ai-2027) o době, kdy bude další vylepšené verze AI programovat sama AI, budou časem možná vypadat velice úsměvně. Je totiž velká šance, že to celé nakonec povede spíš k degeneraci než k evoluci AI. Jako když se množí příbuzní. Stačí drobné chyby, které se rekurzivně začnou zanášet do celého procesu, a toužebně očekávaná superinteligence skončí jako pravý opak.
Také spoléhat na to, že zvyšování parametrů dále zcela skokově zlepší kvalitu AI modelů, je možná stejně liché. Ano, co bylo vynalezeno už nemůže být odvynalezeno. Ale skok už se udál a další škálování výpočetního výkonu nemusí vést vůbec nikam. Yann LeCun, bývalý šéf vývoje AI ve firmě Meta, je například přesvědčem, že současná technologie „large language models“ (LLMs) sama vést k superinteligenci nemůže z povahy toho, jak funguje.
Jisté je, že budoucnost bude hlavně o nápadech na implementaci existující AI. Tedy o záměrech lidí. Nikoliv nutně o zrodu superinteligence s vlastní motivací. Protože inteligence jako fenomén nemá s motivací nic společného. Stejně jako nemá nic společného s fenoménem vědomí. Jde o generativní nástroj, který pracuje s pokročilým modelem lidského světa, jenž jsme AI věnovali jako dárek. Tím modelem je jazyk, který svou strukturou lidský svět už sám výborně modeluje. Současná AI založená na GPT (generative pre-trained transformer) nedělá nic jiného, než že modeluje tento model. Ale reálnému světu, kterého je model odrazem, vlastně sama do hloubky nerozumí. Byť toto „porozumění“ dokáže výborně imitovat a různými technickými triky lze její výstupy zlepšovat. Velký pozor je třeba dát až na moment, kdy AI bude sama ve schránkách humanoidních i nehumanoidních robotů vnímat svět skrze nekonečnou armádu senzorů. A začne si vytvářet zcela vlastní model reality, bez berliček jiných předsunutých modelů. Ale tam ještě nejsme.
A úplně nakonec — není vysněná „superinteligence“ spíš pohádka pro důvěřivé investory? Kterou šíří jak šéf OpenAI Altman („OpenAI nám sice zatím prodělává, ale až vyvineme superinteligenci, ta už nám vymyslí, jak vydělat peníze… ohromné peníze“)? Nebo nedávno Larry Ellison, který se stal díky dvoupísmenkovému buzzwordu na kratičkou chvíli nejbohatším člověkem na planetě („u nás v Oracle budeme pro OpenAI hostovat jejich servery pro superinteligenci, a tak zdesetinásobíme náš obrat — sice potřebný hardware zatím nemáme, ani superinteligenci… ale máme krásný strategický deal“).
Zkrátka — největším rizikem pro svět patrně stále zůstane sám člověk. Protože všechno se děje pořád znovu. Historie se rýmuje. V různých obdobách. Stále dokola.
