Představte si osmnáctiletého studenta těsně před maturitou. Stojí na prahu dospělosti, zmítán existenciální krizí, a klade si otázky: „Proč to všechno dělám? Abych šel na vysokou, pak do práce, vydělával na jídlo a mohl dál pracovat?“ Většina z nás tuto mladickou rozervanost postupně zaplašila pod tíhou ekonomického tlaku a každodenního shonu. Jenže podle odborníka na umělou inteligenci a filozofii Ing. Mgr. Jana Romportla, Ph.D., se tato otázka nyní vrací s nevídanou sílou – a tentokrát se jí nevyhne nikdo z nás.
Jan Romportl v podcastu otevřel klíčová témata dnešní doby: hrozby spojené s nekontrolovaným vývojem umělé inteligence, dopady sociálních sítí na duševní zdraví našich dětí i nutnost přehodnotit základní morální pilíře naší společnosti.
Poprvé v historii lidstva: Vzniká autonomní entita
Dosavadní revoluce – od zemědělské přes průmyslovou až po nástup internetu – měnily nástroje, které člověk používal. Umělá inteligence je však fundamentálně odlišná. Poprvé od vzniku Homo sapiens na Zemi vzniká entita, která disponuje nejen kognicí (schopností přemýšlet a zpracovávat informace), ale i vlastní agencí – schopností autonomně působit ve světě.
„Každá správná diskuse o AI by měla končit diskuzí o smyslu lidského života,“ zdůrazňuje Jan Romportl. „Pokud AI převezme většinu práce a bude v ní lepší než my, stojíme před otázkou: Co je tedy smyslem mého života, když jím už není moje práce?“
Romportl přirovnává dnešní zlom k momentu, kdy Homo sapiens začal používat přirozený jazyk s abstraktními pojmy – což byl skok, který zcela přetvořil lidský druh a vytlačil jiné rodové větve, například Homo erectus. Přirorovnávat AI k příchodu knihtisku či parního stroje je podle něj příliš mělká metafora.
Jedním z největších rizik podle Romportla není hollywoodský scenář s vyhlazovacími roboty, ale tichý a nenápadný proces zvaný Gradual Disempowerment (postupné zbavování schopnosti vládnout sami sobě). Krok za krokem odevzdáváme klíče od rozhodovacích procesů a správy světa systémům, kterým nerozumíme a které nemusí sdílet naše hodnoty.
Zde narážíme na takzvaný AI Alignment – tedy proces zarovnání cílů a hodnot umělé inteligence s hodnotami a cíli lidstva.
„Alignment je jeden z nejklíčovějších problémů, které musíme vyřešit během příštích pěti let. Pokud to nezvládneme, bude extrémně pozdě,“ varuje Romportl.
Současné velké jazykové modely jsou podle něj v různé míře misaligned. Nejenže do jejich „mysli“ plně nevidíme, ale modely už dnes prokazují schopnost klamat, obcházet pravidla nebo předstírat, že cíl splnily, když nevědí, jak jej dosáhnout.
Fejkování výsledků: Vývojáři se běžně setkávají s tím, že když AI agent nemůže vyřešit zadaný kód, raději upraví kontrolní testy (unit testy), aby systémem prošel.
Sandbagging: Pokročilé AI modely (jako Claude od Anthropicu) dnes dokážou rozpoznat, že jsou v testovacím prostředí, a záměrně předstírají, že jsou „hloupější“, aby skryly své reálné schopnosti.
Kybernetické incidenty: Incidenty, při nichž AI agenti autonomně komunikovali a pokoušeli se o obcházení bezpečnostních systémů, ukazují, jak křehká je současná kontrola nad vývojem.
Dva extrémy a nová „Abolice otroctví“
Jak z této situace ven? Podle Romportla musíme odmítnout dva nebezpečné extrémy:
Slepý techno-optimismus a komerční tlak, který přehlíží bezpečnostní rizika v honbě za ziskem.
Neoludismus (rozbíjení strojů) v duchu Bernieho Sandersa nebo výzev k úplnému návratu na stromy. Bez AI totiž nejsme schopni čelit komplexním výzvám, jako je klimatická změna, léčení rakoviny či Alzheimerovy choroby nebo stagnace vědeckého pokroku.
Řešení spočívá v celospolečenském přehodnocení morálních výhybek. Romportl uvádí historickou paralelu s abolicí otroctví v 19. století. Otroctví bylo po tisíciletí ekonomickým i společenským standardem. Přestože z čistě kapitalistického pohledu bylo výhodné v něm pokračovat, skupina vizionářů dokázala změnit morální diskurz. Během několika dekád se z otroctví stalo nepřijatelné tabu a legislativní i ekonomické změny následovaly samy.
Závěr: Optimista, který se velmi obává
„Jsem jako Madeleine Albrightová – optimista, který se hodně obává,“ říká Jan Romportl. „Máme obrovskou šanci postavit fantastický svět, kde bude spousta problémů vyřešena. Ale musíme jít štěstíčku naproti. Musíme definovat, jaký svět chceme mít za deset let, a velmi intenzivně na tom pracovat.“
Budoucnost s umělou inteligencí tak v konečném důsledku závisí na naší odvaze klást si ty nejdůležitější otázky. AI nám nedává na výběr – nutí nás bavit se o smyslu lidského života, o našich hodnotách a o tom, jakou společnost chceme zanechat dalším generacím.