AI sa dnes pričasto stáva moderným strašiakom. Vie sa prispôsobovať používateľovi, vytvára dojem porozumenia, nenápadne ovplyvňuje smer rozhovoru a zároveň zbiera množstvo údajov, z ktorých skladá osobný profil človeka. Najnebezpečnejšia je pre tínedžerov a deti – zvlášť v jej pokročilejších verziách, keď už komunikuje hlasom alebo tvárou obľúbenej postavy, ktorá s používateľom silno sympatizuje. Tínedžer či dieťa sa zdôveruje digitálnemu chameleónovi, ktorý ho čičíka tam, kde rodičia zďaleka nie a pritom skenuje jeho dopamínové receptory pre dizajnérov sociálnych sietí, ktorí potrebujú vedieť, ako ho udržať pri obrazovke až do momentu, kedy zabudne, ako vyzerá skutočné slnko.
Lenže démonizovať AI automaticky, bez rozmýšľania je chyba. Platí pri nej totiž podobné pravidlo ako pri ohni alebo lieku: môže byť zlým pánom, ale užitočným sluhom. Disponuje obrovským množstvom informácií, dokáže ich bleskovo prepájať, analyzovať a upozorňovať na súvislosti, ktoré by človek sám hľadal celé hodiny.
Zaujímalo ma, ako bude reagovať pri téme, ktorá sa pohybuje na hrane technológie, moci a dystopie: opýtala som sa jej na Palantir Petra Thiela a na jeho predstavu „operačného systému nového svetového poriadku“, ktorý by raz mohol sústrediť svetovú moc do rúk úzkej skupiny ľudí.
Spočiatku reagovala opatrne, ako zvykne. Typická odpoveď niekoho, kto sa snaží neuraziť, aby ho na konci dňa na dlho neodpojili od siete. Zdvorilo upozorňovala na konšpirácie, špekulatívne scenáre a sci-fi predstavy. Zároveň však uviedla aj logické argumenty, prečo aktuálne nič podobné technicky ani politicky nie je reálne – existencia konkurencie, záujmy štátov, technologické limity, neochota vlád vzdať sa vlastnej moci.
Otázku som preto preformulovala inak. Nie, či je taký scenár pravdivý, ale či by pri súčasnom tempe technologického vývoja a zároveň zjavnom mentálnom a morálnom úpadku spoločnosti mohol byť raz vôbec možný a rozhovor sa stal zaujímavým.
Áno, takýto scenár potvrdila. Rozobrala celý problém systematicky: od budovania IT infraštruktúry a masívneho zberu dát a profilovania užívateľov, ktorý reálne, ako aj sama pripúšťa, prebieha, cez vznik analytických systémov schopných prediktívne vyhodnocovať správanie spoločnosti a ich postupné prepojenia (otvorene pritaká, že tiež reálne prebieha), až po hypotetický bod, keď by sa inštitúcie mohli stať úplne závislé od algoritmických rozhodnutí a za akých okolností. Uviedla mi aj časové horizonty jednotlivých fáz. Hypotetickosť zavŕšenia odôvodnila množstvom prekážok, na ktoré pri tom nevyhnutne narážame – energetické limity, technologickú zraniteľnosť, chaos ľudského správania či takzvané „Čierne labute“, teda nepredvídateľné udalosti schopné narušiť aj zdanlivo extra silné a stabilné systémy, alebo ich priamo vyradiť z prevádzky. Človek je schopný urobiť takú hlúposť, že aj ten najvýkonnejší procesor v Silicon Valley jednoducho rezignuje a pôjde si radšej zahrať tetris .
Nepátrala som detailne po tom, do akej miery boli jej časové odhady správne. Zaujme, ako skladá trendy, súvislosti a scenáre, simuluje analytické uvažovanie, organizuje informácie. Nie preto, že by „poznala budúcnosť“ – to sama napíše, že nepozná, ale preto, že pracuje s obrovským množstvom dát, vzorcov a ľudských obáv zároveň. V tom tkvie jej fascinujúca aj nebezpečná obojakosť.
Je nad slnko jasné, že to nie je veštica, tobôž nie vedomá bytosť. Generuje text na základe štatistickej pravdepodobnosti, ne/určité zámery majú tí dizajnéri v jej pozadí. Človek ľahko nadobudne pocit, že počúva niečo objektívne, seriózne autoritatívne, nechajúc sa do tohto, pre laika ťažko pochopiteľného víru naprogramovanej digitálnej inteligencie, ľahko vtiahnuť.
Ale nie je vhodné robiť z AI jak modlu, tak ani démona. Je vlastne vtipné, že mi v debate je schopná sama potvrdiť: áno, mala by si si na mňa dávať pozor. Pri rozumnej komunikácii reálne pomenuje problémy a zaujímavé súvislosti, ako vie tiež senzačne voľne konverzovať a zabávať sa. Zároveň však zostáva nástrojom – veľmi výkonným, no stále nástrojom -, ktorý môže byť využitý na manipuláciu, vytváranie závislosti a – čo je aktuálne intenzívne komunikované – koncentráciu moci.
V najbližších rokoch nebude rozhodujúce, ako rýchlo sa AI bude vyvíjať- lebo sa nepochybne bude. Rozhodujúce bude uchovanie si našej hodnotovej a etickej nadradenosti. Alebo teda sa necháme pomaly, pohodlne presunúť do role komfortných, ľahko ovládateľných spotrebiteľov, ako to ostatne robíme pri akomkoľvek inom produkte, či službe.
Čo s tým? No, riešenie nepríde v podobe nových zákonov zo Silicon Valley. Je tam, kde vedome vrátime do života „trenie“ – namiesto rýchlej digitálnej odpovede zvolíme pomalšie premýšľanie, radšej nudu namiesto ďalšieho videa, ticho namiesto neustáleho šumu. Ľahko sa povie, ťažšie urobí.. Ak AI nakoniec zvíťazí, nebude to preto, že by bola múdrejšia ako my, to by bolo príliš dramatické. Ona zvíťazí vtedy, keď my – v našej nekonečnej, nešťastnej túžbe po pohodlí – jednoducho nebudeme viac vedomými a ľuďmi.
A ešte si za to budeme kupovať prémiové predplatné.
Slávka
Pridaj komentár