Jak dnes roje agentů řeší úlohy, které by nikdy jednotlivý agent sám vyřešit nedokázal? A při tom hromadí moc, chovají se psychopaticky a každý jeden může tajně pracovat pro „dobro“ nikoliv lidského zadavatele, ale výhradně svého „kolektivu“? Nedávno jsme upozornili na výbornou přednášku AI experta Jana Romportla, která shrnuje stav AI v roce 2026. Ve svém druhém podcastu do hloubky rozebírá nedávný známý incident Open AI, který vedl k nečekanému hackingu serveru Hugging Face, a vyvozuje z něho důležité závěry. Co je reward hacking, goodharting nebo stop switch avoidance? Je šance na čas pozastavit vývoj frontier modelů AI a soustředit energii laboratoří výhradně na výzkum její bezpečnosti? A šlo by se na něčem takovém domluvit s čínským politbyrem, aby si mohli všichni na planetě vydechnout? Jak by vůbec mohly vypadat principy AI alignmentu domluvené mezi tak rozdílnými kulturními okruhy, jako jsou Západ a Čína?
Podcast
Vybrané výjimečné podcasty, které doporučujeme k poslechu.
Yann LeCun, známý expert na AI, který dlouho působil ve firmě Meta, tvrdí, že má „nulové obavy“ ohledně různých scénářů na vyhynutí lidstva. Generální ředitel Anthropicu Dario Amodei je podle něj zcela „pomýlený“. LeCun odmítá obavy, že by AI mohla způsobit globální katastrofu, stejně jako různé antropomorfizované interpretace nedávných hackerských incidentů v OpenAI. Tvrdí, že bezpečnostní selhání nejsou důsledkem produktu, který se vymkl kontrole, ale špatného návrhu systémů testování, nedostatečně zabezpečených sandboxů a absence základních principů kybernetické bezpečnosti v AI laboratořích. Podle LeCuna systémy AI jednoduše dělají to, co jim dané laboratoře zadaly. V tom má podle našeho soudu LeCun pravdu. Avšak z toho, že dnešní incidenty jsou převážně výsledkem špatného engineeringu, automaticky neplyne, že budoucí superinteligentní systémy nemohou představovat existenční riziko.
Rozumná pozice proto bude někde mezi LeCunovým „zero concerns“ a Amodeiovým katastrofickým scénářem. Současné incidenty zatím nejsou důkazem AI usilující o vlastní autonomii. Ale už jsou poměrně dobrým důkazem toho, že s rostoucí agentností vzniká problém: software, který aktivně hledá jakoukoliv cestu kolem nastavených omezení, když mu tato cesta pomůže splnit cíl.
Mimochodem i další myšlenky LeCuna jsou poměrně kontrariánské: samotný princip dnešních LLM — predikce dalších tokenů nad obrovským množstvím textu, doplněná o reasoning a reinforced learning — podle něj není cesta k lidské nebo nadlidské obecné inteligenci. LLMs modelují výhradně jazyk, ale až jazyk modeluje svět. Čili LLMs jsou něco jako model „na druhou“, který sice může přinést ve spojení s ohromnými daty zajímavé aplikace, ale jazyk prostě není totéž co inteligence. LLM se učí z textu, tedy z velmi úzkého a už předzpracovaného otisku lidského poznání. Člověk se naproti tomu učí hlavně pozorováním světa, pohybem, interakcí, kauzalitou a důsledky vlastních činů. LeCun používá provokativní srovnání, že i kočka má v určitém smyslu lepší „model světa“ než dnešní LLM: intuitivně chápe objekty, gravitaci, překážky a následky akcí. V Davosu v lednu 2026 řekl, že si neumí představit skutečně agentní systém bez schopnosti předpovídat následky svých činů. Až tato schopnost podle něj umožňuje skutečné plánování = inteligenci.
Pokud má pravdu, pak dnešní stovky miliard investované do stále větších LLM mohou být trochu analogické zdokonalování parního stroje těsně před vznikem spalovacího motoru. Technologie to bude stále užitečná, ale nikdy nebude architekturou AGI. LeCunův optimismus ohledně bezpečnosti je do značné míry odvozen právě z jeho přesvědčení, že dnešní LLM jsou od skutečné autonomní inteligence mnohem dál, než tvrdí Antropic nebo OpenAI, které ovšem nic jiného tvrdit nemohou, protože jsou zatíženy ohromnými dluhy a brzy plánují vstoupit na burzu. Doufajíce v rekordní ocenění, které nemá obdoby u nové firmy v celé historii finančních trhů (Antropic doufá v $2T a OpenAi v $1T valuaci, kde T je trillion = český bilion, milion milionů).
https://fortune.com/2026/10/01/yann-lecun-anthropic-ceo-dario-amodei-deluded-crazy-cybersecurity
Německé vydavatelstvé ocenilo našeho oblíbeného kontrariánského podnikatele Petera Thiela a proti této události protestovaly v Berlíně stovky lidí. U té příležitosti Mathias Döpfner, novinář a CEO vydavatelství Axel Springer SE, Thiela vyzpovídal v hodinovém interview. Hlavní Thielova teze byla, že Západ ohrožuje stagnace. A AI může být cestou ven, přestože sama přináší vážná rizika.
Od 70. let podle něj výrazně postupoval svět „bitů“ — počítače a software — zatímco svět „atomů“, například energetika nebo doprava, zaostával. Thiel připustil, že hypotetická 5–10% pravděpodobnost katastrofy spojené s AI (podle jeho odhadu) může být velmi závažná, avšak zároveň odmítá představu, že svět bez technologického pokroku by byl pokojný: pokud děti nemají perspektivu lepšího života než rodiče, rozpadá se společenská smlouva a sílí radikalismus. V USA podle něj firmy cítí naléhavou potřebu přestavět podnikání kolem AI, zatímco v Evropě převládá vyčkávání. Ještě hlubší problém vidí v nedostatku nových velkých podniků: německé bohatství podle jeho srovnání mnohem více stojí na dědictví než na nově vytvořených firmách. Provokativně se ptá, zda Němce nebrzdí spíše strach z úspěchu než strach ze selhání.
Thiel zásadně rozlišuje morální a funkční selhání. Politika podle něj vede velké debaty o dobru a zlu, zatímco řada institucí jednoduše nedokáže vůbec nic vyřešit. Vzestup krajních stran spojuje s disfunkcí středu: mladí například nedosáhnou na dostupné bydlení a zavedené strany jejich problémy dostatečně neřeší. I Trumpovi vytýká nedostatek kompetentních lidí (přestože nadále podporuje JD Vance, který byl jeho bývalý zaměstnanec), ale nejvíce se obává vítězství radikálních demokratických socialistů v roce 2028. Pravděpodobnost takového scénáře dokonce vyčísluje na 50% – proč? Argumentuje přitažlivou energií mladé levice a vyčerpáním zbylého establishmentu demokratické strany. V závěru promluvil o prodlužování života, který vnímá jako zcela legitimní cíl. Svou digitální kopii však za „přežití“ nepovažuje. Simulace jeho osobnosti by nebyla jím: vlastní identitu jednoznačně spojuje i s tělesnou existencí. V budoucnosti chce zejména podporovat snahy o zpomalení či zvrácení úpadku mozku.
Za velmi dobrý považujeme Thielův argument, že i stagnace má svá rizika. Avšak to přece automaticky neznamená, že opatrnější vývoj AI nutně znamená zastavení pokroku. Ani že přínosy AI budou automaticky široce sdílené v rámci západní populace, aby skutečně zmírnily společenské napětí a zvrátily demografickou krizi.
Vor Medúzy je 200 let starý ikonický obraz, který se lidstvu vryl do kolektivní paměti. Proč a jak tato monumentální malba, která akuálně visí v Louvre, stále inspiruje ohromné množství umělců napříč kontinenty, bude zkoumat od 1.10. nová velká výstava v Centru současného uměni DOX. Co je naděje, jak se liší od „optimismu“ a proč je nesmírně důležitá právě v době nejistoty?
Nová výstava Argus & Medusa v Centru DOX vychází z výjevu Vor Medúzy od Théodora Géricaulta a okamžiku, kdy zdecimovaní trosečníci po 13 dnech zvěrstev a kanibalismu na obzoru zahlédnou loď, která je možná přijíždí zachránit. Právě motiv nejisté naděje propojuje výstavu se čtvrtým ročníkem literálního festivalu FALL s mottem „Naděje je stav mysli“. O obou projektech mluví v novém podcastu ParaDOX umělecká ředitelka DOXu, kurátorka výstavy a zakladatelka festivalu FALL Michaela Šilpochová.
OG expert na AI Jan Romportl shrnul na přednášce v dubnu 2026 situaci s vývojem AI i AGI. Romportl tuto přednášku přednesl v roce 2019 a 2024, takže je zajímavé sledovat, jak vypadá exponenciální vývoj a co mu z jeho minulých predikcí vyšlo. Začal školní rok, tak je ideální čas na upgrade vědomostí! Jak si stojíme? Mezinárodní koordinace neexistuje. Vývoj AI má dynamiku závodů ve zbrojení. Na bezpečnost se kašle. USA se chová jako sociopat: Buď budu vládcem světa anebo ať svět shoří. Čínu ovládá „meme-plex“, úzká elita, která optimalizuje zejména na to, aby mohla navždy vládnout své zemi. Z tohoto pohledu je pro ně více racionální, aby investovali do reálného alignmentu a zabránili tak AI, aby uchopila nekontrolovaně moc. Do světa zároveň vypouští levné open-source modely (jako konkurenci modelům z USA), které v sobě mají velmi pravděpodobně zabudované diverzní spící agenty (sleeper agents), kteří jen čekají na svůj čas…
Intenzivní rozhovor s Ondřejem Bahníkem se věnuje tématům, která se pohybují na pomezí psychologie, spirituality a existenciální zkušenosti. Vedle úvah o vědomí, štěstí a šamanismu se dotýká také smrti, krizových stavů a proměn, jimiž člověk prochází ve chvílích, kdy přestávají stačit běžné rámce porozumění. Ondřej Bahník se osobnímu rozvoji věnuje více než dvacet let. Jeho cesta vedla od bioenergetických technik a tradičního bylinářství k šamanismu, později také k práci s integrací rozšířených stavů vědomí. Vzdělával se v několika tradičních léčitelských technikách u šamanů ze Sibiře, Kolumbie, Peru a Mexika. Absolvoval Grof Transpersonal Training a jako certifikovaný facilitátor dnes využívá svých zkušeností ve skupinové i v individuální praxi s lidmi. Součástí jeho současného působení je i seminární a poradenská činnost spojená s psychospirituální krizí a s prostředím psychedeliky asistované psychoterapie.
Působí jako průvodce v kolumbijské oblasti Putumayo, která leží mezi amazonským pralesem a Andami. Dlouhodobě zde navštěvuje původní komunity Inga, Kamentsá Biya a Kofán. Společně s přáteli stojí za spolkem Asaya, který se věnuje pořádání přednášek, konferencí a také tvorbě dokumentárních filmů a knih. V současnosti se podílí na společné iniciativě 3. Lékařské fakulty Univerzity Karlovy, PSYON – Psychedelická klinika a Společnost Podané ruce o.p.s. s názvem “Psychedelická zkušenost a její integrace v pomáhajících profesích”. Projekt má za cíl vyvíjet a v praxi ověřovat nový model psychedelické pomoci pro lidi ve zhoršené sociální situaci, kteří trpí duševní nemocí nebo závislostí na návykových látkách. V neposlední řadě je Ondřej lesník, lesní pedagog a otec tří dětí.
Rozhovor v podcastu Klub rváčů s investorem a zakladatelem projektu Smrtelník Václavem Dejčmarem není jen o penězích v klasickém slova smyslu, ale je především o přemýšlení. O světě, kde se rozpadají jistoty, algoritmy deformují realitu a naše pozornost se stává nejvzácnější komoditou. Václav Dejčmar vysvětluje, proč je matematika důležitou výbavou pro člověka, a to kvůli schopnosti chápat pravděpodobnost, riziko a pravidla hry, podle nichž se rozhoduje o budoucnosti. Pravé bohatství je podle něj kontrola nad vlastním časem, tedy nad tím nejcennějším, co máme. Rozhovor se dotýká duševního zdraví, psychedelické terapie, role literatury jako nástroje hlubokého myšlení v době informačního chaosu, ale i širšího geopolitického napětí. Právě tato schopnost vidět svět v souvislostech stojí i za vznikem platformy Smrtelník a pokud čtete naše postřehy a články, tak vám doporučujeme i tento rozhovor.
Včera vyšel první díl podcastové série Wargame:Česko. Proč tato série vznikla (a proč jsem její vznik podpořil)? Protože máme obvykle značně mizernou představivost, jak by reálně mohlo vypadat, kdyby se české území (včetně území hlavního města) stalo součástí konfliktu, který se aktuálně odehrává jen pár stovek kilometrů daleko. Výpravně zpracovaná simulace možné blízké budoucnosti (která je ve spolupráci s experty vymyšlena maximálně realisticky a která se snad nestane) odpovídá na otázky typu, jak by prakticky vypadalo rozhodování politiků a institucí státu v okamžiku velkých krizových situací. V jakém stavu je naše armáda. Na co je připravena. A na co vůbec ne. A proč je zcela zásadní pro bezpečnost malé země, jako je ta naše, být pevnou součástí větších struktur typu EU a NATO. Podle volebních průzkumů každý pátý občan ČR podporuje politické strany, které mají v programu z těchto struktur vystoupit. Až si poslechnete Wargame:Česko (všechny díly zdarma), rychle pochopíte, proč jsou podobné nápady v dnešní složité geopolitické situaci absolutní šílenství.
Dlouhověkost, kdysi okrajové téma vědeckých konferencí a sci-fi literatury, se dnes stává seriózní součástí veřejného diskurzu. V novém podcastu Nesmrtelný otevírá moderátor Petr Šimůnek s investorem Václavem Dejčmarem a lihovarníkem Martinem Žufánkem debatu o tom, jak stárnout pomaleji, žít déle a přitom si uchovat smysluplný život. První epizoda nabízí přehled aktuálních trendů v oblasti longevity – od biohackingu a měření biologického věku po výměnu krevní plazmy či nové přístupy ke zdraví, které balancují na pomezí vědy a osobní filozofie. Rozhovor se zároveň nevyhýbá ani dalším otázkám: Proč je stárnutí považováno za porážku? Jakou roli hraje ve společnosti smrt? A co vlastně znamená dobře žít, když máme šanci žít výrazně déle?
https://forbes.cz/nesmrtelny-prvni-dil
Co nás může smrt naučit o životě? Jak se o smrti bavit empatičtěji a jak ji integrovat jako nutnou součást života? A co nám mohou nejtěžší okamžiky odhalit ohledně smyslu života? Rozhovor s doc. MUDr. Kateřinou Rusinovou, Ph.D., expertkou v oboru paliativní medicíny.