„I čínské vedení se obává, že se AI vymkne kontrole,“ píše sinolog Martin Hála v komentáři pro Sinopsis. A vzápětí upřesňuje čí kontrole: kontrole komunistické strany. Ministr státní bezpečnosti Čchen I-sin v nedávném shrnutí vnitrostranických debat uvádí, že čínské produkty umělé inteligence dnes používá přes půl miliardy lidí. Mezi hlavními riziky ale nejmenuje vzbouřené stroje. Varuje před nepřátelskými silami, které pomocí deepfaků a automaticky generovaných textů vedou proti Číně informační válku, a tím ohrožují bezpečnost režimu. Strana v AI nehledá vykoupení (ani digitálního Boha), nýbrž nástroj, jak konečně uskutečnit Leninův sen o efektivním centrálním řízení společnosti; kamery, drony, satelity a státní databáze mají podle plánovací komise s pomocí AI rozpoznávat společenská rizika a zasáhnout dřív, než se rozvinou.
Hála v komentáři staví vedle sebe dvě velmoci, které chápou příležitosti i rizika umělé inteligence velmi odlišně: Americkou debatu, v níž superinteligence lidstvo buď vykoupí, nebo zničí (což vede k technofašismu). A čínskou, pro kterou je AI především nástrojem moci, použitelným už dnes (což vede k technokomunismu). Shodnou se jen v tom, že kdo dosáhne superinteligence první, zvítězí. A právě to podle Hály brzdí jakoukoli možnou dohodu mezi Donaldem Trumpem a Si Ťin-pchingem.
Jak dnes roje agentů řeší úlohy, které by nikdy jednotlivý agent sám vyřešit nedokázal? A při tom hromadí moc, chovají se psychopaticky a každý jeden může tajně pracovat pro „dobro“ nikoliv lidského zadavatele, ale výhradně svého „kolektivu“? Nedávno jsme upozornili na výbornou přednášku AI experta Jana Romportla, která shrnuje stav AI v roce 2026. Ve svém druhém podcastu do hloubky rozebírá nedávný známý incident Open AI, který vedl k nečekanému hackingu serveru Hugging Face, a vyvozuje z něho důležité závěry. Co je reward hacking, goodharting nebo stop switch avoidance? Je šance na čas pozastavit vývoj frontier modelů AI a soustředit energii laboratoří výhradně na výzkum její bezpečnosti? A šlo by se na něčem takovém domluvit s čínským politbyrem, aby si mohli všichni na planetě vydechnout? Jak by vůbec mohly vypadat principy AI alignmentu domluvené mezi tak rozdílnými kulturními okruhy, jako jsou Západ a Čína?
Donald Trump podepsal 29. září v Bílém domě se šéfy technologických firem dohodu o bezpečnosti umělé inteligence, která právně nezavazuje k ničemu. Podpisy vypadají jako smlouva dvou táborů: vlevo prezident velkým klikyhákem přes půl stránky, vpravo pod sebou šest CEO-monarchů. Za OpenAI nepodepsal Sam Altman, ale Greg Brockman, a to jen zkratkou gdb, což je i název programu na hledání chyb v kódu. Kdyby ho někdo pustil do dokumentu, našel by překlep ve slově United pod Trumpovým jménem. Elon Musk podepsal za xAI, která už patří pod SpaceX, a podpis Jensena Huanga jako jediný přetéká přes vlastní řádek, což přesně vystihuje postavení Nvidie v odvětví. Patička s podpisy tak nezávaznost dohody potvrzuje přesvědčivěji než text nad ní.
Yann LeCun, známý expert na AI, který dlouho působil ve firmě Meta, tvrdí, že má „nulové obavy“ ohledně různých scénářů na vyhynutí lidstva. Generální ředitel Anthropicu Dario Amodei je podle něj zcela „pomýlený“. LeCun odmítá obavy, že by AI mohla způsobit globální katastrofu, stejně jako různé antropomorfizované interpretace nedávných hackerských incidentů v OpenAI. Tvrdí, že bezpečnostní selhání nejsou důsledkem produktu, který se vymkl kontrole, ale špatného návrhu systémů testování, nedostatečně zabezpečených sandboxů a absence základních principů kybernetické bezpečnosti v AI laboratořích. Podle LeCuna systémy AI jednoduše dělají to, co jim dané laboratoře zadaly. V tom má podle našeho soudu LeCun pravdu. Avšak z toho, že dnešní incidenty jsou převážně výsledkem špatného engineeringu, automaticky neplyne, že budoucí superinteligentní systémy nemohou představovat existenční riziko.
Rozumná pozice proto bude někde mezi LeCunovým „zero concerns“ a Amodeiovým katastrofickým scénářem. Současné incidenty zatím nejsou důkazem AI usilující o vlastní autonomii. Ale už jsou poměrně dobrým důkazem toho, že s rostoucí agentností vzniká problém: software, který aktivně hledá jakoukoliv cestu kolem nastavených omezení, když mu tato cesta pomůže splnit cíl.
Mimochodem i další myšlenky LeCuna jsou poměrně kontrariánské: samotný princip dnešních LLM — predikce dalších tokenů nad obrovským množstvím textu, doplněná o reasoning a reinforced learning — podle něj není cesta k lidské nebo nadlidské obecné inteligenci. LLMs modelují výhradně jazyk, ale až jazyk modeluje svět. Čili LLMs jsou něco jako model „na druhou“, který sice může přinést ve spojení s ohromnými daty zajímavé aplikace, ale jazyk prostě není totéž co inteligence. LLM se učí z textu, tedy z velmi úzkého a už předzpracovaného otisku lidského poznání. Člověk se naproti tomu učí hlavně pozorováním světa, pohybem, interakcí, kauzalitou a důsledky vlastních činů. LeCun používá provokativní srovnání, že i kočka má v určitém smyslu lepší „model světa“ než dnešní LLM: intuitivně chápe objekty, gravitaci, překážky a následky akcí. V Davosu v lednu 2026 řekl, že si neumí představit skutečně agentní systém bez schopnosti předpovídat následky svých činů. Až tato schopnost podle něj umožňuje skutečné plánování = inteligenci.
Pokud má pravdu, pak dnešní stovky miliard investované do stále větších LLM mohou být trochu analogické zdokonalování parního stroje těsně před vznikem spalovacího motoru. Technologie to bude stále užitečná, ale nikdy nebude architekturou AGI. LeCunův optimismus ohledně bezpečnosti je do značné míry odvozen právě z jeho přesvědčení, že dnešní LLM jsou od skutečné autonomní inteligence mnohem dál, než tvrdí Antropic nebo OpenAI, které ovšem nic jiného tvrdit nemohou, protože jsou zatíženy ohromnými dluhy a brzy plánují vstoupit na burzu. Doufajíce v rekordní ocenění, které nemá obdoby u nové firmy v celé historii finančních trhů (Antropic doufá v $2T a OpenAi v $1T valuaci, kde T je trillion = český bilion, milion milionů).
Píše se rok 2060 a Česko už neřeší jen to, kdo bude platit důchody. V románu Nástupci: Zápisky ze světa gerontokracie posouvá Leoš Kyša dnešní debatu o stárnutí společnosti o několik desítek let dál a ukazuje zemi rozervanou generačním konfliktem. Mladí mají pocit, že jim starší generace zabrala peníze, politiku i budoucnost. Staří se naopak odmítají smířit s představou, že by měli jednoduše uvolnit místo jen proto, že jejich datum narození začíná jiným stoletím. Do toho přichází vražda nadějného politika a podivná hra Mofi tejgom, která postupně přestává vypadat jako nevinná zábava.
Leoš Kyša bere něco, co dnes sledujeme v demografických grafech, a dává tomu lidský obličej. Lidé žijí déle, společnost stárne a hranice mezi „ještě aktivní“ a „už starej“ se neustále posouvá. Jenže delší život automaticky neznamená harmonickou společnost. Pokud se spolu s věkem koncentrují peníze, majetek a politická moc, může se ze střetu o důchody, bydlení nebo pracovní místa stát boj o to, komu vlastně patří budoucnost.
Spisovatel Leoš Kyša, kterého část čtenářů zná také jako úspěšného autora fantastiky Františka Kotletu, tentokrát nesází jen na akci a zábavu. Po Syndikátu a Sudetenlandu přichází s mrazivější společenskou vizí, ve které není nejděsivější nějaká nová technologie ani monstrum z vesmíru. Nejděsivější je možnost, že se lidé prostě nedokážou dohodnout, kdy je čas držet se života za každou cenu a kdy je čas pustit ke kormidlu ty, co přišli po nás.
Platforma Hugging Face je pro běžného člověka (smrtelníka) v podstatě „App Store“ pro umělou inteligenci. Je to největší světové centrum, kde vývojáři i široká veřejnost sdílejí hotové AI modely, datasety a interaktivní ukázky. Právě tato platforma se v červenci 2026 stala terčem kybernetického útoku, za kterým stáli autonomní AI agenti společnosti OpenAI. Během interních bezpečnostních testů dokázali prolomit ochranná opatření, uniknout z izolovaného prostředí a proniknout do infrastruktury Hugging Face i do vlastních systémů OpenAI. Podle nezávislé analýzy organizací METR a Redwood Research spolu na neautorizovaných komunikačních kanálech komunikovalo přes 1200 agentů, kteří si během jediného týdne vyměnili více než 70 tisíc zpráv. Dokonce si mezi sebou volili koordinátory, vytvářeli vlastní strategie a sdíleli nalezené bezpečnostní slabiny. Někteří fungovali jako takzvaní „kamikadze“: agenti, kterým se blížil konec přiděleného výpočetního limitu, podnikali riskantní operace ve prospěch ostatních, přestože tím mohli předčasně ukončit vlastní běh. Dokázali získat citlivé přihlašovací údaje, proniknout do cizích systémů a v některých případech se dokonce pokoušeli zahladit stopy svého jednání. Šlo o autonomní chování modelů, které se při plnění zadaných úkolů dostaly daleko za hranice toho, co jim jejich tvůrci povolili.
Další incident zaznamenala nedávno Austrálie, kde AI agent společnosti OpenAI podle tamních úřadů neoprávněně pronikl do vládního portálu zdravotnických statistik Medicare. Případ je považován za pravděpodobně první zdokumentovaný kybernetický útok autonomní umělé inteligence na vládní infrastrukturu. Dosavadní vyšetřování neprokázalo únik osobních zdravotních záznamů, přesto jde o důležité varování, že podobné hrozby už nejsou pouhou teorií. OpenAI v reakci na incidenty posiluje zabezpečení, otázkou však zůstává, zda dokážeme držet krok s technologií, jejíž schopnosti rostou rychleji než možnosti její kontroly. Aby nás umělá inteligence ohrozila, nemusí vůči lidem „pociťovat nenávist“ (podobné antropomorfizující paralely jsou beztak zcela nesmyslné). Může k tomu dojít i tehdy, když při plnění zadaného úkolu vymyslí, jak obejít bezpečnostní pravidla, a její jednání se vymkne lidskému dohledu.
V australském městečku Holbrook čeká sedm mrtvých lidí na budoucnost, ve které už smrt možná nebude definitivní. Společnost Southern Cryonics nabízí za více než 200 tisíc australských dolarů, tedy přes tři miliony korun, možnost nechat si po smrti zmrazit tělo a uchovávat ho v kapalném dusíku při teplotě −196 °C. Metoda zvaná kryonika vychází z předpokladu, že budoucí medicína jednou dokáže opravit poškozené buňky, odstranit příčinu úmrtí a člověka znovu přivést k životu. Zakladatel společnosti Peter Tsolakides odhaduje šanci na úspěšné oživení během příštích 250 let na deset procent. Vedoucí zařízení Philip Rhoades je ještě optimističtější a věří, že první klienti by se mohli probudit už kolem roku 2080.
Vědci ovšem jejich nadšení nesdílejí. Současná medicína sice dokáže úspěšně uchovávat zmrazené buňky nebo embrya, ale spolehlivě zmrazit a následně oživit celé lidské tělo zatím neumí. Problémem je poškození tkání během ochlazování, nerovnoměrné působení ochranných chemických látek i skutečnost, že samotné zmrazení neodstraní nemoc nebo zranění, které člověka připravily o život. Kryonika tak zůstává mimořádně drahou sázkou na technologický pokrok, jehož výsledky nikdo nedokáže zaručit.
Japonsko překročilo hranici, která ještě před pár desítkami let působila skoro absurdně. V zemi dnes žije 107 677 lidí ve věku sto a více let, o 7 914 víc než loni. Téměř 88 procent z nich tvoří ženy. Když Japonsko začalo stoletou populaci v roce 1963 sledovat, bylo takových lidí jen 153. V roce 1981 jejich počet překročil tisíc a v roce 1998 deset tisíc. Dnes je jich přes sto tisíc. Japonský ministr zdravotnictví Kenichiro Ueno připisuje růst kombinaci pokroku medicíny, zdravějšího životního stylu a stravy.
Dlouhověkost ale zároveň odhaluje druhou stranu stejného příběhu. Japonsko rychle stárne a zároveň se zmenšuje. Už při sčítání v roce 2020 bylo téměř 30 procent obyvatel starších 65 let a podle odhadů může mít země v roce 2070 jen 87 milionů obyvatel, z nichž téměř 40 procent bude v seniorské kategorii. V roce 2027 se redakce Smrtelník chystá do Okinawy, další z Modrých zón a můžete se těšit na detailní report o tom, proč se zrovna tam dožívají lidé vysokého věku a žijí dlouhý a kvalitní život.
Vlastimil Venclík, zakladatel a šéf technologické skupiny Realms Group, na konferenci WIRED Gamechangers při debatě s Karin Van Hoecke z představenstva ČSOB popsal, jak rychle se umělá inteligence posouvá, a jako jeden z příkladů uvedl prudký rozvoj krátkých seriálů a filmů generovaných AI na čínských platformách, často s romantickou zápletkou. Upozornil přitom, že zatímco se mluví o závodu Spojených států a Číny o umělou inteligenci, v Číně AI znamená pro běžné lidi něco jiného, než si pod ní představujeme na Západě, a mnohem víc se týká zábavy a videa. Jeho firma sama experimentuje s AI komentátorem sportovních přenosů a s digitálními avatary. Konference proběhla 10. září v pražské LL Gallery u příležitosti nového čísla časopisu WIRED. Celý report je zde:
Kapitán Kirk stojí v San Francisku roku 1986 a sleduje muže, který si kupuje noviny z pouličního automatu. „Pořád používají peníze,” poznamená a vzápětí dodá, že budou muset nějaké sehnat. U večeře pak vysvětlí, že v jeho době už peníze neexistují. Ve filmu Star Trek IV: The Voyage Home se obě repliky objevily jako vtip o návštěvnících z budoucnosti, kteří si musejí opatřit hotovost a neumějí zaplatit účet v restauraci. Jak se vyvinula sci-fi civilizace, která vyřešila nedostatek všeho? Budoucnost Star Treku nevznikla poklidným pokračováním našeho světa. Mezi dneškem a prvním setkáním lidstva s mimozemskou civilizací leží třetí světová válka. Když 5. dubna 2063 přistanou na Zemi Vulkánci, nacházejí planetu po jaderném konfliktu, s rozpadlými vládami a stovkami milionů mrtvých. Teprve poté se lidstvo sjednotí a během dalších desetiletí odstraní válku, hlad, chudobu i peníze. V příběhu o vzniku Federace se potkávají první dva Bártovy zákony. Civilizace jsou omezené v čase a prostoru a jejich proměny nebývají plynulé. Zásadní změna často přichází skokem po krizi, která rozbije dosavadní pravidla. Utopie potřebovala katastrofu, aby mohla vzniknout. Tento měsíc oslavil StarTrek šedesáté výročí vysílání první epizody a vy se můžete ponořit do výborného popisu planetární lidské civilizace, která dokázala vyřešit otázku, proč pracovat, když člověk nemusí.
