Obhájců, ambasadorů a misionářů hlásajících novou víru AI je dnes všude nepočítaně. A proto je zcela zbytečné rozebírat nesporné benefity, na které dnes stejně ještě ani nedokážeme pořádně dohlédnout.

Nepatřím ani mezi zaslepené obdivovatele, ale ani do tábora odmítajících apokalyptických odpůrců. Jedni si kladou otázky, jak AI co nejrychleji integrovat do každodenního života a ti druzí, co budou dělat ti, kteří kvůli ní přijdou o práci. Otázky tohoto typu jsou ale vlastně malicherné. Je zřejmé, že se před námi otevírá zcela nová epocha vývoje lidstva. Ta správná otázka však zní, jakou roli v ní bude lidstvo hrát?

Co se stane s humanitou a jak ji uchovat, když už dnes velikou část našich mentálních a rozhodovacích procesů moderuje AI? V poslední době jsem z úst kazatelů slyšel řadu výroků ve smyslu: „Kdo chvíli stál, již stojí opodál.“, že se nemohu zdržet uštěpačné poznámky, abychom totiž nakonec nestáli opodál všichni. Co když už AI biologickou formu zvanou člověk hackla?

Skynet a podobné apokalyptické scénáře nám ukazují dramatické vize, ve kterých se z minuty na minutu změní běh světa. Co když ale nebezpečí přichází plíživě a my se tu už vaříme jako žába ve vroucí vodě a ani o tom nevíme?

Yuval Noah Harare v jedné ze svých esejí poukazuje na velmi důležitý fakt. Totiž, že lidstvo je definováno svou kulturou a ta stojí i padá na schopnosti člověka komunikovat. Tedy používat jazyk a řeč. Jako příklad uvádí lidská práva a svobody, která jsou kulturním artefaktem, jenž byl inspirován mýty. Ty vznikly vyprávěním příběhů, ve kterých se definují základní mravní normy a na těchto základech následně vznikly i zákony.

Jaký vliv ale bude mít ne-lidská inteligence na lidstvo, když se stane lepší v tvorbě příběhů, malování obrazů, skládání hudby či utváření etických norem? Respektive, když jí to dovolíme.

Co třeba politické kampaně, ve kterých nám bude AI předhazovat témata a generovat fake-news příběhy nebo bude vytvářet scénáře pro celá nová hnutí. V těchto bitvách bude a už je nesmírně efektivním nástrojem.

Jak poznáme, kdo s námi povede diskusi třeba o ruské invazi na Ukrajinu, o porušování lidských práv, o klimatických změnách, o využívání zdrojů apod?

Chatboti dokonale ovládli schopnost navázat skrze řeč intimní vztah v podstatě s kýmkoliv a tím pádem dokáží tuto schopnost využít, aby změnili naši perspektivu i světonázor. Co se bude dít s lidskou společností a s lidskou psychikou, když si s námi AI dokáže vytvořit perfektní umělý vztah, skrz který nás bude přesvědčovat, abychom volili specifickou politickou stranu nebo kupovali určitý produkt? Jakmile AI ovládne naši řeč, může také ovládnout smysluplnou konverzaci a tím může zničit celou demokracii. Zatím sice není náznak, že by AI nabyla vlastního uvědomění, ale vzpomeňte si na Blakea Lemoina (inženýra Googlu), který dostal padáka za to, že prohlásil, že AI chatbot LaMDA, na kterém pracoval, procitnul a stal se cítící bytostí. Teď tu ale vůbec nejde o to, zda je tato informace pravdivá či nikoliv. Jde o to, že tento člověk, který ji znal lépe než kdokoli jiný, takovému dojmu vůbec podlehl. A to je ta pointa.

Falešná intimita a důvěryhodnost, kterou nám šije na míru je děsivá a dokáže plošně měnit pohledy nás všech. Lidé se k ní dnes navíc obrací jako ke spasitelce a jediné záchraně. Hledají u ní rady, návody, dělají na jejích základech strategická rozhodnutí atd. Skutečným nepřítelem zachování lidské kultury je ale ve skutečnosti lenost, ne AI. Nemá vůbec smysl diskutovat o působení AI, protože ona už nás ovlivňuje. To, o čem by se měla vést debata je, jak ji aktivně regulovat a hlavně, jak ji rozpoznat. A včera už bylo pozdě.

Je to totiž poprvé v historii, kdy lidskou kulturu začala ovlivňovat a přetvářet cizí inteligence. Yuval Noah Harare navrhuje, že prvním nařízením by mělo být jasné označení, že se jedná o konverzaci či o příběh generovaný AI. A to není špatný nápad.

Pokud tak totiž neuděláme, je velmi pravděpodobné, že dobrovolně anebo prostě z vlastní lenosti ukončíme sepisování vlstních lidských dějin a jejich tvorbu přenecháme na ne-lidské inteligenci…

Obrázek vygeneroval Midjourney Bot