Yann LeCun, známý expert na AI, který dlouho působil ve firmě Meta, tvrdí, že má „nulové obavy“ ohledně různých scénářů na vyhynutí lidstva. Generální ředitel Anthropicu Dario Amodei je podle něj zcela „pomýlený“. LeCun odmítá obavy, že by AI mohla způsobit globální katastrofu, stejně jako různé antropomorfizované interpretace nedávných hackerských incidentů v OpenAI. Tvrdí, že bezpečnostní selhání nejsou důsledkem produktu, který se vymkl kontrole, ale špatného návrhu systémů testování, nedostatečně zabezpečených sandboxů a absence základních principů kybernetické bezpečnosti v AI laboratořích. Podle LeCuna systémy AI jednoduše dělají to, co jim dané laboratoře zadaly. V tom má podle našeho soudu LeCun pravdu. Avšak z toho, že dnešní incidenty jsou převážně výsledkem špatného engineeringu, automaticky neplyne, že budoucí superinteligentní systémy nemohou představovat existenční riziko.
Rozumná pozice proto bude někde mezi LeCunovým „zero concerns“ a Amodeiovým katastrofickým scénářem. Současné incidenty zatím nejsou důkazem AI usilující o vlastní autonomii. Ale už jsou poměrně dobrým důkazem toho, že s rostoucí agentností vzniká problém: software, který aktivně hledá jakoukoliv cestu kolem nastavených omezení, když mu tato cesta pomůže splnit cíl.
Mimochodem i další myšlenky LeCuna jsou poměrně kontrariánské: samotný princip dnešních LLM — predikce dalších tokenů nad obrovským množstvím textu, doplněná o reasoning a reinforced learning — podle něj není cesta k lidské nebo nadlidské obecné inteligenci. LLMs modelují výhradně jazyk, ale až jazyk modeluje svět. Čili LLMs jsou něco jako model „na druhou“, který sice může přinést ve spojení s ohromnými daty zajímavé aplikace, ale jazyk prostě není totéž co inteligence. LLM se učí z textu, tedy z velmi úzkého a už předzpracovaného otisku lidského poznání. Člověk se naproti tomu učí hlavně pozorováním světa, pohybem, interakcí, kauzalitou a důsledky vlastních činů. LeCun používá provokativní srovnání, že i kočka má v určitém smyslu lepší „model světa“ než dnešní LLM: intuitivně chápe objekty, gravitaci, překážky a následky akcí. V Davosu v lednu 2026 řekl, že si neumí představit skutečně agentní systém bez schopnosti předpovídat následky svých činů. Až tato schopnost podle něj umožňuje skutečné plánování = inteligenci.
Pokud má pravdu, pak dnešní stovky miliard investované do stále větších LLM mohou být trochu analogické zdokonalování parního stroje těsně před vznikem spalovacího motoru. Technologie to bude stále užitečná, ale nikdy nebude architekturou AGI. LeCunův optimismus ohledně bezpečnosti je do značné míry odvozen právě z jeho přesvědčení, že dnešní LLM jsou od skutečné autonomní inteligence mnohem dál, než tvrdí Antropic nebo OpenAI, které ovšem nic jiného tvrdit nemohou, protože jsou zatíženy ohromnými dluhy a brzy plánují vstoupit na burzu. Doufajíce v rekordní ocenění, které nemá obdoby u nové firmy v celé historii finančních trhů (Antropic doufá v $2T a OpenAi v $1T valuaci, kde T je trillion = český bilion, milion milionů).
https://fortune.com/2026/10/01/yann-lecun-anthropic-ceo-dario-amodei-deluded-crazy-cybersecurity