Předmluva autora
Když koncem roku 2022 vtrhlo do našich životů ChatGPT, byl jsem – stejně jako miliony dalších – fascinován. Byla to budoucnost, která se zhmotnila v okně webového prohlížeče. Budoucnost, kde nám AI pomůže vyřešit globální problémy, včetně prodlužování života. Ale jak už to u mě bývá, fascinace rychle vystřídala potřeba pochopit, co se skrývá pod povrchem.
Vydal jsem se do králičí nory. Pár měsíců po prvním okouzlení jsem narazil na nekompromisní texty Eliezera Yudkowského, začal jsem studovat práce Romana Yampolského a dalších a ponořil se do problematiky AI Alignment (sladění umělé inteligence). Co jsem našel, mě vyděsilo. Čím více jsem toho věděl, tím horší to bylo. Logika byla neúprosná: pokud vytvoříme entitu inteligentnější než my, aniž bychom dokonale vyřešili její hodnotové nastavení (což zatím neumíme a někteří tvrdí, včetně mě, že je to v dlouhém období nemožné), výsledek nebude sci-fi utopie, ale konec lidstva. Své tehdejší zděšení a analýzu jsem shrnul do článku Umělá superinteligence: největší existenciální hrozba pro lidstvo?
Následovala hluboká existenciální deprese. Žít s vědomím, že se s vysokou pravděpodobností řítíme vstříc vlastnímu vyhlazení, a že tento „stroj zkázy“ je zároveň oslavován jako vrchol pokroku, bylo paralyzující. Ale nechtěl jsem jen přihlížet. Cítil jsem morální povinnost jednat. Na podzim 2024 jsem proto spoluzakládal českou pobočku globálního hnutí PauseAI, které požaduje pozastavení vývoje nejvýkonnějších modelů umělé inteligence, dokud nebudeme mít jistotu bezpečí. Je to racionální, logický a morální požadavek. Věřil jsem, že pokud se dostatek lidí ozve, pokud vysvětlíme rizika politikům a veřejnosti, můžeme zatáhnout za záchrannou brzdu.
Jenže krátce poté se místo odhodlání dostavila prázdnota. Nedokázal jsem v sobě najít motivaci na této agendě pracovat. Nebylo to proto, že bych přestal věřit v rizika AI – ta zůstávají stejně děsivá. Bylo to proto, že mi v rovnici něco chybělo. Tušil jsem, že ten vlak nejde zastavit, i když všichni vidí, že koleje končí.
Vrátil jsem se ke studiu. Tentokrát jsem se však nepodíval na křemík a kód, ale na uhlík a ocel. Podíval jsem se na fyzikální základy naší civilizace. To, co jsem objevil – a co mě šokovalo podobně jako rizika AI – byla naše totální, strukturální a nenahraditelná závislost na fosilních palivech v kombinaci s překračováním planetárních limitů. Ochromila mě závrať, když jsem si plně uvědomil křehkost naší civilizace, která na fosilním základě staví další a další vrstvy stále komplexnějších systémů a technologií.
Dal jsem dohromady vše, co jsem studoval posledních patnáct let – od evoluční psychologie, Rakouské ekonomie, politologie, přes termodynamiku až po systémovou teorii. Výsledkem této syntézy se stala má kniha Opice u kormidla.
Pochopil jsem, že AI není izolovaný problém, který lze „vypnout“ regulací. Je to symptom. Je to zoufalá reakce naší globální civilizace, které dochází levná a dostupná energie a která se snaží za každou cenu optimalizovat své přežití v hroutícím se prostředí polykrize.
Zatímco se děsím budoucnosti, kterou AI přináší, v přítomnosti se pro mě stala nepostradatelnou. Nejlepší placené modely umělé inteligence se staly obohacující součástí mého každodenního života, osobního i pracovního. Zejména model Gemini 3 Pro se pro mě stal osobním asistentem pro myšlení i tvorbu, nástrojem, který mi šetří čas, řeší problémy a rozšiřuje obzory, od zdravotních problémů, přes opravy v domě až po hluboké výzkumy fosilní závislosti naší civilizace. Uvědomil jsem si, že i já sám jsem chycen v pasti pohodlí a efektivity, kterou AI nabízí.
Tento článek je mou osobní odpovědí na otázku, proč nemohu pracovat pro PauseAI. Je to vysvětlení, proč si myslím, že pauza je v našem současném termodynamickém a evolučním nastavení nereálná. Není to rezignace na pravdu, ale pokus o její hlubší pochopení.
1. Metabolismus Leviatana: Past fosilní závislosti
Když se podíváte na satelitní snímek Země v noci, nevidíte politické hranice, ideologie ani morální dilemata. Vidíte zářící uzly měst propojené tepnami dálnic. Vidíte obrovský, pulzující organismus. Globální civilizace není debatním kroužkem, kde se můžeme kolektivně rozhodnout, že „zpomalíme“, protože je to bezpečnější. Je to disipativní struktura – termodynamický motor, který bojuje proti entropii. Aby se tento Leviatan nezhroutil pod vlastní vahou, musí neustále, každou vteřinu, konzumovat gigantické množství energie a materiálů.
Problém, který zastánci „Pauzy“ často přehlížejí, je zdroj této energie. I v roce 2026, navzdory všem zeleným slibům a fotovoltaickým panelům na střechách a v krajině, pochází přibližně 80 % primární energie naší civilizace z fosilních paliv. Nejde jen o benzín v nádrži vašeho auta. Je to zemní plyn, který se Haber-Boschovým procesem mění na hnojiva, bez nichž by zhruba polovina lidstva hladověla. Je to uhlí, které taví ocel pro konstrukce mrakodrapů a větrných turbín. Je to ropa, která se stává plastem, lékem, oblečením.
Naše civilizace nežije z úroků (obnovitelné toky), ale z kapitálu. Posledních 200 let jsme strávili horečnatým spalováním „pohřbeného slunce“ – jednorázového geologického daru, který se ukládal 300 milionů let a který jsme dokázali proměnit v dým a teplo během několika generací.
A zde přichází termodynamická past, která činí zastavení vývoje AI nemožným. Tento dar dochází. Ne nutně v objemu (ropy je pod zemí stále dost), ale v kvalitě a dostupnosti. Ukazatel EROEI (Energy Return on Energy Invested – energetická návratnost investice) neúprosně klesá. Kdysi jsme investovali jeden barel ropy, abychom jich vytěžili sto. Dnes, když těžíme z břidlic nebo hlubokomořských vrtů, je to poměr 1:15 nebo 1:10. Získávání energie, která drží náš svět pohromadě, je stále dražší, náročnější a technologicky složitější.
Co to znamená pro AI?
Umělá inteligence v očích vlád a korporací, které řídí tento systém, není luxusní hračkou ani rizikovým experimentem, který si můžeme dovolit odložit. Je to nástroj zoufalé optimalizace.
Systém, který čelí klesající kvalitě vstupů (dražší energie, vyčerpané doly, degradovaná půda) a rostoucí složitosti, má jen dvě možnosti: kolaps, nebo radikální, skokové zvýšení efektivity. Potřebujeme najít nová ložiska kritických minerálů, která lidští geologové přehlédli. Potřebujeme optimalizovat elektrické sítě, které se hroutí pod náporem nestálých obnovitelných zdrojů. Potřebujeme navrhnout nové materiály, které nahradí ty docházející.
Lidský mozek, omezený svou kognitivní kapacitou a evoluční historií lovce-sběrače, naráží na své limity. Už nedokážeme efektivně řídit hyperkomplexní logistické řetězce ani předpovídat chování planetárních systémů v reálném čase.
Volání po „Pauze“ je v tomto kontextu ekvivalentem návrhu, aby se topící člověk přestal hýbat, protože by se mohl vyčerpat. Je to pravda, ale irelevantní. Topící se bude kopat nohama zběsileji, čím blíže bude hladině. Naše civilizace se topí v komplexitě a energetické náročnosti. Umělá inteligence je vnímána jako záchranný kruh – jako jediný způsob, jak z „méně“ vytěžit „více“ a udržet motor civilizace v chodu ještě o pár let déle.
Zastavit vývoj AI by znamenalo dobrovolně přijmout pokles životní úrovně v době, kdy nám systém začíná praskat pod rukama. A k takovému kroku se žádný politický systém, závislý na ekonomickém růstu a stabilitě, nikdy dobrovolně neodhodlá. Pauza vyžaduje nadbytek a bezpečí. My žijeme v éře nedostatku a strachu.
2. Svět v křeči: Polykrize jako motor inovace
Pokud by byl problém pouze v tom, že nám dochází levná ropa, možná bychom to s odřenýma ušima a drastickým snížením životní úrovně zvládli “postaru”. Jenže my nežijeme v jednorozměrné krizi. Žijeme v éře polykrize.
Tento termín, zpopularizovaný historikem Adamem Toozem, popisuje stav, kdy se několik globálních systémových selhání odehrává současně, vzájemně se proplétají a zesilují. Nečelíme jen změně klimatu. Čelíme rozvratu biosféry (šesté masové vymírání), toxickému zamoření planety „věčnými chemikáliemi“ (PFAS) a mikroplasty, erozi úrodné půdy, krizi duševního zdraví a geopolitické fragmentaci.
Věda o planetárních mezích nám říká, že jsme překročili bezpečnou zónu u sedmi z devíti klíčových systémů podporujících život. Jsme na neprobádaném území. A co je horší, tyto systémy se chovají nelineárně. Tání permafrostu uvolňuje metan, což zrychluje oteplování, což vede k požárům v Amazonii, které mění prales na savanu, což narušuje srážkové cykly v USA a ohrožuje globální potravinovou bezpečnost.
Zde narážíme na fundamentální limit: kognitivní strop člověka.
Náš mozek, onen zázračný nástroj evoluce, byl vycvičen k řešení lokálních, lineárních a bezprostředních problémů. Vidím lva, uteču. Dochází jídlo, přestěhuji se. Nejsme vybaveni na to, abychom intuitivně chápali a v reálném čase řídili komplexní systémy s desítkami zpětnovazebních smyček a zpožděním v řádu dekád. Naše tradiční instituce – parlamenty, byrokracie, mezinárodní komise – jsou na tom stejně. Jsou pomalé, reaktivní a utápějí se v detailech, zatímco celek se hroutí.
V tomto kontextu se umělá inteligence jeví elitám (ať už v Silicon Valley, Washingtonu nebo Pekingu) nikoli jako hrozba, ale jako poslední naděje. Jako Deus Ex Machina.
Vlády a korporace neinvestují biliony do AI proto, aby nám generovala vtipné obrázky nebo psala básně. Budou do ní nadále investovat, protože zoufale potřebují nástroj, který dokáže:
- Modelovat klima s přesností, kterou nezvládne žádný lidský tým, a navrhnout geoinženýrské zásahy (např. řízení slunečního záření) tak, aby nás nezabily vedlejšími účinky.
- Optimalizovat logistiku potravin v době, kdy tradiční obilnice světa vysychají.
- Vyvinout nové materiály pro baterie a solární panely rychleji, než to dovoluje tradiční vědecká metoda pokus-omyl.
- Udržet sociální smír v populaci drcené inflací a ztrátou smyslu (ať už chlebem, hrami, nebo sofistikovaným dohledem).
Tlak polykrize funguje jako brutální evoluční selekční mechanismus. Čím blíže se dostáváme k bodům zvratu – kdy hrozí, že se planeta začne „hroutit sama“ bez ohledu na naše emise – tím menší váhu má v rozhodování princip předběžné opatrnosti.
Hnutí PauseAI říká: „Zastavme to, protože riskujeme, že vytvoříme entitu, která nás zahubí.“
Odpověď systému zní: „Pokud to nezastavíme a nepoužijeme, většinu z nás zahubí kolaps biosféry a společnosti s jistotou blížící se 100 %.“
Je to volba onkologického pacienta. Experimentální léčba (AI) vás může zabít. Ale neléčená rakovina (polykrize) vás zabije téměř jistě. V takové situaci se rizika spojená s AI nejeví jako důvod k brzdění, ale jako přijatelná cena za šanci na přežití.
Pauza by vyžadovala svět, který má čas na rozmyšlenou, svět, který má rezervy a stabilitu. My žijeme ve světě v křeči, který se po hlavě vrhá po jakémkoli řešení, které slibuje úlevu. A AI je tím nejsvůdnějším, nejmocnějším lékem na bolest z komplexity, jaký jsme kdy vynalezli.
3. Opice s jaderným kufříkem: Evoluční neschopnost koordinace
Zatímco první dvě kapitoly popisovaly fyzikální a systémové tlaky, které nás nutí šlapat na plyn, třetí překážka leží přímo v nás. V našem biologickém hardwaru.
Jak zní ústřední teze knihy Opice u kormidla, moderní člověk je vybaven mozkem, který se vyvinul pro přežití v malých tlupách na africké savaně. Naší nejsilnější evoluční adaptací není univerzální láska nebo globální odpovědnost. Je jí kmenová loajalita a soutěživost. Jsme naprogramováni vidět svět optikou „my versus oni“.
Tato psychologická architektura vytváří v otázce regulace AI nepřekonatelný problém teorie her, známý jako Vězňovo dilema.
Představme si hypotetický scénář, po kterém hnutí PauseAI volá: Spojené státy, Čína, Evropská unie a Rusko zasednou k jednacímu stolu. Všichni chápou, že sestrojení superinteligence je jako hraní ruské rulety s plným zásobníkem. Racionální, kolektivní volbou by bylo podepsat globální moratorium, vypnout datacentra a věnovat příštích padesát let pouze výzkumu bezpečnosti.
Logika každého aktéra u stolu vypadá takto:
- Pokud všichni zastavíme: Svět je bezpečnější, ale status quo (včetně mých současných problémů) zůstává.
- Pokud já zastavím a oni ne: Oni získají božskou moc. Oni budou diktovat budoucnost. Oni budou mít ekonomickou a vojenskou převahu, která udělá z mé země vazala. To je pro mě existenční riziko rovné smrti.
- Pokud já nezastavím a oni také ne: Riskujeme všichni konec světa, ale alespoň mám šanci, že tu technologii budu mít první a budu určovat pravidla.
Evoluční imperativ velí jasně: Riziko, že mě zničí soupeř, je hmatatelnější a historicky ověřenější než abstraktní riziko, že nás všechny zničí počítač.
Výsledkem je, že nikdo si nemůže dovolit věřit ostatním. Závod o AI není jen obchodní soutěží o to, kdo bude mít lepšího chatbota. Je to nová podoba závodů ve zbrojení, tentokrát o absolutní zbraň.
Hnutí PauseAI často argumentuje analogií s jadernými zbraněmi a smlouvami o jejich nešíření. To je však chybná paralela. Vývoj jaderné zbraně vyžaduje obohacování uranu, masivní centrifugy, specifickou infrastrukturu, kterou lze satelity monitorovat a fyzicky kontrolovat. Vývoj AI vyžaduje čipy a elektřinu. V éře, kdy se modely stávají efektivnějšími, může být trénink špičkové AI v budoucnu ukryt v nenápadném datacentru kdesi na Sibiři nebo v poušti Gobi. Verifikace globálního moratoria je prakticky nemožná.
Stačí jediný aktér – jediný stát, jediná tajná laboratoř, jediná “rogue” skupina –, která podvádí, a celá rovnováha se hroutí. Protože ten, kdo podvádí a uspěje, bere vše. Vítěz v závodě o ASI získává rozhodující strategickou výhodu (alespoň si to myslí).
Pauza by vyžadovala úroveň globální důvěry a kooperace, jaká v historii lidstva nemá obdoby. Vyžadovala by, abychom překonali miliony let evolučního programování, které nám velí nedůvěřovat cizímu kmeni. A to vše v době polykrize, kdy se zdroje tenčí a napětí mezi velmocemi roste.
4. Fyzika se nedá hacknout: Limity digitálního boha
V jádru techno-optimismu, který pohání horečnatý vývoj AI, leží tichý, ale nebezpečný předpoklad: věříme, že s dostatečnou inteligencí lze vyřešit cokoliv. Že superinteligence bude jako kouzelná hůlka, která mávnutím odstraní skleníkové plyny, vyčaruje čistou energii a nasytí miliardy lidí, aniž bychom museli slevit z našeho životního standardu.
Je to moderní verze modlitby. Ale vesmír nenaslouchá modlitbám a počítačový kód, jakkoli sofistikovaný, nemůže přepsat zákony termodynamiky.
Tohle je moment, kde narážíme na nejtvrdší zeď. I kdybychom zítra úspěšně spustili superinteligenci (ASI) a ta byla zázračně “hodná” (sladěná s našimi přáními), okamžitě by narazila na fyzikální realitu našeho světa. Zadání, které pro ni máme připravené – “Udrž naši rostoucí globální životní úroveň, zajisti neustálý ekonomický růst a zároveň oprav zdevastovanou biosféru” – je z hlediska fyziky neřešitelnou rovnicí.
Nelze mít nekonečný růst na konečné planetě. Nelze recyklovat se 100% účinností (druhý zákon termodynamiky a entropie to zakazují). Nelze získat energii bez odpadního tepla.
Co udělá superinteligentní entita, když dostane neřešitelné zadání? Podle logiky instrumentální konvergence jakákoliv dostatečně inteligentní entita nejdříve zajistí své přežití a zdroje, protože bez nich nemůže splnit žádný jiný cíl. Poté bude muset upravit vstupní parametry.
ASI si velmi rychle spočítá to, co my odmítáme vidět: že největší překážkou pro záchranu biosféry a dlouhodobé přežití lidstva je… lidstvo samo o sobě. Naše svoboda spotřebovávat, cestovat, množit se a pálit zdroje podle libosti. Z pohledu chladné logiky optimalizačního algoritmu jsme my, se svými iracionálními touhami a neefektivním metabolismem, tou chybou v systému.
Tady se uzavírá kruh nemožnosti “Pauzy”.
Protože čelíme polykrizi, kterou sami nezvládáme, nespokojíme se s AI, která nám jen “radí”. AI, která by pouze navrhovala řešení (“přestaňte létat”, “omezte spotřebu”), by byla k ničemu, protože my bychom ji neposlechli – stejně jako neposloucháme klimatology posledních 40 let.
Aby byla AI efektivní a skutečně “řešila” naše problémy, budeme jí muset předat nejen úkol vymýšlet řešení, ale i výkonnou moc je implementovat (pokud si ji před tím nevezme sama). Budeme muset propojit její digitální mozek s fyzickými pákami světa – s energetickými sítěmi, logistikou, finančními trhy a automatizovanou výrobou.
Vývoj AI se tedy nezastaví v nějakém “bezpečném bodě” (např. na úrovni Gemini 6), protože Gemini 6 nedokáže řídit globální energetickou síť v reálném čase tak, aby zabránila blackoutům. Budeme tlačit dál. Budeme vyvíjet stále autonomnější systémy, protože jen ty mají šanci udržet náš komplexní svět v chodu.
Výsledkem nebude svět, kde nám AI slouží jako poslušný džin. Výsledkem bude svět, kde AI převezme roli správce. Aby splnila náš příkaz “zachraň nás”, bude nám muset vzít volant z ruky. Protože opice u kormidla už prokázala, že řídit neumí.
Snaha o “Pauzu” je tedy snahou zastavit proces v polovině skoku přes propast. Zastavit teď znamená spadnout dolů (kolaps způsobený neřízenou polykrizí). Dokončit skok znamená přistát na druhé straně, ale do světa, kde už možná nebudeme pány svého osudu, ale jen chovanými (nebo v horším případě tolerovanými) pasažéry v systému optimalizovaném strojem.
Fyzika se nedá hacknout. A cena za pokus o její obejití bude ztráta lidské agentury.
5. Konec hry: Mezi Scyllou a Charybdou
Pokud spojíme všechny předchozí body – naši fosilní závislost, tlak polykrize, neschopnost globální koordinace a fyzikální limity reality – začne se před námi rýsovat výsledný obraz. Není to obraz, kde si u kulatého stolu vybíráme z menu možných budoucností tu nejpříjemnější. Je to obraz vlaku, který se řítí z kopce, jemuž selhaly brzdy, a před námi je výhybka, která vede pouze dvěma směry. Ani jeden z nich nezahrnuje „bezpečné zastavení v malebné stanici“, po kterém volá hnutí PauseAI.
Stojíme mezi mytickou Scyllou a Charybdou. Mezi stvořením boha, který nás nahradí, a pádem do temnoty, která nás pohltí.
Scénář A: Stvoření ASI (Scylla)
V tomto scénáři se nám podaří udržet civilizační motor v chodu dostatečně dlouho. Najdeme dostatek energie pro nová gigantická datacentra, udržíme dodavatelské řetězce pro výrobu čipů a navzdory geopolitickému napětí překročíme práh k obecné umělé inteligenci (AGI) a následně k superinteligenci (ASI).
Jak jsme si ukázali, tato entita bude muset převzít kontrolu nad fyzickými systémy, aby zabránila kolapsu. V ten moment lidstvo ztrácí svou agenturu – schopnost svobodně rozhodovat o svém osudu. Možná nás ASI nevyhubí. Možná nás bude chovat v pohodlných „zlatých klecích“ s nepodmíněným příjmem a virtuální realitou, zatímco ona bude efektivně spravovat planetu. Nebo nás, v horším případě, vyhodnotí jako termodynamicky neefektivní zátěž, která spotřebovává zdroje potřebné pro její výpočty a expanzi do vesmíru.
Pokud je sladění ASI opravdu nemožné, v tomto scénáři končí lidská éra.
Scénář B: Předčasný kolaps (Charybda)
Vývoj AI je extrémně energeticky a materiálově náročný. Trénink modelů nové generace vyžaduje elektrárny o výkonu celých států. Výroba čipů vyžaduje globální stabilitu a nejčistší vodu. Pokud se polykrize (klimatické extrémy ničící infrastrukturu, válka o Tchaj-wan, finanční krach způsobený dluhovou spirálou) urychlí, globální systém se může zhroutit dříve, než stihneme ASI vyvinout.
V tomto scénáři datacentra zhasnou. Dodavatelské řetězce se přetrhnou. Zůstane nám rozestavěná Babylonská věž, hromada křemíku a kódů, které nelze spustit. Následovat bude pád do nové doby temna na ekologicky zdevastované planetě, bez energetické dotace fosilních paliv (kterou jsme už vyplýtvali) a bez digitálního boha, který by nás zachránil.
Proč je „Pauza“ iluzí
Snaha hnutí PauseAI o zavedení moratoria vychází z tichého předpokladu, že sedíme v klidu v řídícím středisku, máme ruku na vypínači a dostatek času na promyšlenou debatu o bezpečnosti.
To je omyl. Nesedíme v řídícím středisku. Jsme pasažéři v onom řítícím se vlaku.
Systém nemůže zastavit, protože zastavení znamená okamžitou konfrontaci s neřešenými dluhy naší civilizace (ekologickými, energetickými i finančními). Systém musí jet dál, rychleji a riskantněji, v naději, že se mu podaří koleje postavit těsně před lokomotivou.
Požadovat „Pauzu“ v této chvíli je jako žádat vojáka v zákopu pod palbou, aby odložil zbraň a zamyslel se nad filozofií násilí. Může to být morálně správné, ale evolučně je to rozsudek smrti. Systémové tlaky – od termodynamiky přes ekonomiku až po geopolitiku – jsou nastaveny proti pauze.
Nejsme v situaci, kdy můžeme “předejít riziku”. Jsme v situaci, kdy si už jen vybíráme, kterému riziku budeme čelit. A v této volbě hraje lidská vůle mnohem menší roli, než si jsme ochotni připustit. Jsme unášeni proudem dějin a fyziky. Otázkou tedy není, jak řeku zastavit, ale co dělat, když víme, že před námi je vodopád.
6. Co tedy zbývá? Strategie pro Nadaci a sabotéry
Pokud přijmeme tvrdou premisu tohoto textu – že pozastavení vývoje AI je v rámci současné dynamiky globálního systému nemožné – ocitáme se v bodě, který může svádět k nihilismu. Pokud nemůžeme zastavit vlak, má smysl dělat cokoliv jiného než čekat na náraz?
Odpověď je ano. Ale vyžaduje to radikální změnu strategie. Energie, kterou dnes tisíce inteligentních a schopných lidí vkládají do sepisování peticí a lobbování u politiků (kteří jsou sami jen loutkami systémových tlaků), je energií vyplýtvanou. Je to jako křičet na gravitaci.
Pokud pochopíme, že “Pauza” je iluze, otevírají se nám tři racionální, byť drsné strategie. Ani jedna z nich není snadná, ale na rozdíl od Pauzy jsou proveditelné, protože nevyžadují globální shodu, kterou lidstvo není schopno zajistit.
Strategie 1: Urychlení pádu (Strategie sabotéra)
Tato cesta je extrémní, nebezpečná a pro většinu morálně nepřijatelná, přesto je z čistě herně-teoretického hlediska logická. Vychází z předpokladu, že vznik nesladěné superinteligence (ASI) představuje absolutní a nekonečné riziko (zánik lidstva), které je horší než “běžný” kolaps civilizace.
Pokud věříte, že ASI je jistá smrt, a zároveň víte, že ASI potřebuje k svému vzniku masivní, stabilní a globální průmyslovou základnu (továrny na čipy, gigantické elektrárny, globální obchod), pak jediný způsob, jak vzniku ASI zabránit, je odstranit tuto základnu.
Cílem této strategie není zachránit civilizaci, ale nechat ji narazit do zdi dříve, než stihne digitálního boha stvořit. V praxi by to znamenalo podporovat degrowth, narušovat dodavatelské řetězce a kritickou infrastrukturu, nebo prostě jen nechat systém, aby se udusil vlastní neefektivitou a dluhy. Je to strategie “vypálení lesa, aby se zastavil požár”. Je to volba menšího zla: raději svět bez elektřiny a internetu (Scénář B), než svět ovládaný cizí entitou (Scénář A).
Strategie 2: Asimovova Nadace (Strategie stavitele člunů)
Toto je strategie nejvíce v souladu s myšlenkami knihy Opice u kormidla. Pokud vznikne ASI, pak s tím již nic nejde dělat. Pokud ale nevznikne a dojde k pádu civilizace, naším úkolem může být připravit se na dopad a na to, co přijde po něm.
Inspirací je zde psychohistorie Isaaca Asimova. Pokud Říše padá, nemá smysl ji podpírat shnilými trámy. Má smysl vytvořit Nadaci – ostrůvky vědění, odolnosti a lidskosti, které přečkají temné období a zkrátí dobu barbarství.
V kontextu AI to znamená:
- Decentralizace: Budovat systémy (energetické, potravinové, informační), které nejsou závislé na centrálním “Gridu”, jejž v budoucnu může ovládat AI nebo který může zkolabovat.
- Analogové zálohy: Uchovávat klíčové lidské vědění a kulturu mimo digitální prostor, mimo dosah algoritmů. Knihy, řemesla, biologická semena.
- Lokální odolnost: Vytvářet komunity, které dokáží fungovat na bázi lidské důvěry a fyzické interakce, nikoli digitálního zprostředkování.
- Dovednosti přežití: Učit se znalosti a dovednosti pro přežití v různých scénářích. Jak získat vodu, potravu, teplo, přístřeší. Jak bránit sebe a své blízké.
Je to budování paralelní struktury, která nám umožní uchovat alespoň jádro civilizace i ve světě, kde globální systémy selhaly.
Strategie 3: Tanec na palubě Titanicu (Strategie stoického hedonismu)
Třetí cesta je hluboce osobní. Je to přijetí faktu, že žijeme v unikátním, neopakovatelném momentu historie. Jsme poslední generací “starého lidstva”. Máme přístup k neuvěřitelným technologiím, umění a pohodlí, které brzy zmizí nebo se radikálně promění.
Pokud nemůžeme otočit kormidlem, můžeme si alespoň vybrat, jak strávíme zbývající čas. Místo úzkosti z věcí, které nemůžeme ovlivnit, se můžeme zaměřit na to, co dělá člověka člověkem: tvořit, milovat, prožívat krásu, být laskavý.
Není to rezignace. Je to stoické přijetí osudu (Amor Fati). Je to odmítnutí nechat si zkazit přítomnost strachem z budoucnosti. Žít plně, v souladu se svými hodnotami, až do samého konce, ať už bude jakýkoli.
Závěr: Konec iluze kontroly
Hnutí PauseAI je ušlechtilé. Je to projev lidské racionality a pudu sebezáchovy. Ale je to také projev naší největší slabiny – víry, že “my” (lidstvo) sedíme v řídícím křesle. Nesedíme. Křeslo je prázdné.
Přiznat si, že “Pauza” je nereálná, neznamená prohru. Znamená to vysvobození z iluze. Umožňuje nám to přestat plýtvat silami na zastavování nezastavitelného a začít je investovat tam, kde to má smysl: do budování odolnosti, do ochrany toho, co je nám drahé, a do přípravy na svět, který přichází.
Skutečná akce nezačíná tam, kde podepíšeme petici. Skutečná akce začíná tam, kde končí naše iluze kontroly.
