Kult umělé inteligence

Robert Evans

The Cult of AI

Rolling Stone

Jan 27, 2024

Sledoval jsem video z úvodního projevu na veletrhu spotřební elektroniky, který byl věnován zařízení Rabbit R1, jež slibuje, že bude fungovat jako osobní asistent, když se mě zmocnil pocit zmaru.

Nebylo to jen tím, že generální ředitel společnosti Rabbit Jesse Lyu vyzařuje energii Steva Jobse ve stylu Kirklanda. A nebylo to ani Lyuovou trapnou ukázkou toho, jak dokáže kamera Rabbitu rozpoznat fotografii Ricka Astleyho a Rickrollovat majitele - i když ten segment byl tak cringe, že mi způsobil bolest na hrudi.

Ne, skutečná předtucha přišla během segmentu, kdy Lyu udýchaně vysvětloval, jak vám Králík může objednat pizzu, přičemž mu řekl, že "nejobjednanější varianta je fajn", a výběr večeře nechal na webové stránce Pizza Hut. Poté pokračoval v tom, že Králík za něj naplánoval celý výlet do Londýna. Zařízení zcela zjevně jen vytáhlo několik památek k vidění z nějakého seznamu top 10 na internetu, který velmi pravděpodobně vytvořila sama umělá inteligence.

Většina schopností Králíka dobře odpovídala stávajícím hlasově aktivovaným produktům, jako je například Amazon Alexa. Jeho nárok na to, že je něčím výjimečný, spočívá ve schopnosti vytvořit "digitální dvojče" uživatele, které může přímo využívat všechny vaše aplikace, takže vy, člověk, nemusíte. Může dokonce využívat Midjourney k tomu, aby za vás vytvářel obrázky s umělou inteligencí, čímž odstraní další úroveň lidské účasti a všechny nás zažene hlouběji do údolí podivna.

O tom, jak bude Králík skutečně spolupracovat se všemi těmito aplikacemi nebo jak budou vaše data zabezpečena, toho víme jen velmi málo, ale prvních 10 000 předobjednávkových kusů se na veletrhu CES vyprodalo hned po oznámení. Byl to nejdiskutovanější produkt na veletrhu a všude, kam jsem přišel, se o něm šuškalo. Mezi prvními zájemci se lidé nemohli dočkat, až budou moci předat další část své samostatnosti glorifikovanému chatbotu. Tady se mi v útrobách začal hromadit pocit zmaru.

"Myslím, že Copilota má každý. Všichni si dělají Copilota. To je prostě skvělý způsob, jak nás jako lidi zrychlit, ne?"

Nedlouho po zhlédnutí této keynote jsem se ocitl na panelu o deepfakes a "syntetických informacích" (což je módní výraz pro břečku generovanou umělou inteligencí), který pořádala poradenská společnost Deloitte. Jedním z panelistů byl Bartley Richardson, manažer infrastruktury AI v technologické společnosti NVIDIA. Panel zahájil prohlášením, že se mu líbí asistent umělé inteligence společnosti Microsoft, Copilot. Microsoft se chlubí, že Copilot umí vše od vyhledání nejlépe hodnoceného mlýnku na kávu až po odpověď na otázku "Kam mám cestovat, když chci zažít duchovní zážitek?"

Bartley se zřejmě zajímal o Copilota jako o jakousi digitální náhradu za svůj čas a úsilí. Porotě řekl: "Myslím, že Copilota má každý. Každý si dělá Copilota. Každý chce mít Copilota, že? Možná v budoucnu bude existovat Bartleyho Copilot.... To je prostě skvělý způsob, jak nás jako lidi zrychlit, ne?"

I když mi myšlenka "zrychlení" lidstva prostřednictvím oslavovaného Clippyho připadá znepokojivá, ve světle něčeho, co jsem slyšel na jiném panelu společnosti Deloitte, od jedné z Bartleyho spolupracovnic, interní právničky společnosti NVIDIA Nikki Popeové, mi tento komentář připadal opravdu neotřelý: Na panelu o "řízení" rizik spojených s umělou inteligencí citovala interní průzkum, který ukázal, že spotřebitelé méně důvěřují značkám, pokud používají umělou inteligenci.

To koresponduje s výzkumem zveřejněným v prosinci loňského roku, který zjistil, že jen asi 25 % zákazníků důvěřuje rozhodnutím učiněným AI oproti rozhodnutím učiněným lidmi. Mohlo by se zdát, že vedoucí pracovník, který má přístup k těmto údajům, nebude chtít přiznat, že používá produkt, kvůli kterému by mu lidé méně důvěřovali. Nebo možná měli pocit, že ztráta trochy důvěry jim stojí za to, aby část své odpovědnosti přenechali stroji.

Bylo jasné, že Lyu se považuje za nového Steva Jobse, stejně jako bylo jasné, že manažeři jako Bartley nechtějí přijít o náskok v další velké věci. Ale když jsem sledoval, jak se tento hype cyklus rozvíjí, moje mysl nebyla přitahována starými vzpomínkami na keynotes společnosti Apple nebo na třpytivé vzrušení z prvního dotcomového boomu. Místo toho jsem přemýšlel o kultech. Konkrétně o termínu, který poprvé definoval psycholog Robert Lifton ve svém raném díle o dynamice kultů: "dobrovolné sebeodevzdání". To se děje, když lidé předají svou vlastní vůli a moc rozhodovat o vlastním životě guruovi.

Členové kultů jsou v médiích často líčeni jako slabomyslní a hloupí. Scientologická církev - dlouho obviňovaná z toho, že je sektou, což donekonečna popírala - se však hojně rekrutuje mezi bohatými a mocnými. Mezi členy sekty The Finders, která vznikla v 70. letech minulého století v oblasti Washingtonu, patřil bohatý majitel ropné společnosti a několik členů s tituly z Ivy League. Všichni souhlasili s tím, že spojí své peníze a předají kontrolu nad tím, kde pracují a jak vychovávají své děti, svému vůdci sekty. Haruki Murakami napsal, že členové Aum Šinrikjó, z nichž mnozí byli lékaři nebo inženýři, "aktivně usilovali o to, aby je někdo ovládal."

Možná se to zdá jako přehnané. Ale čím hlouběji se ponoříte do lidí - a subkultur, které umělou inteligenci posouvají vpřed -, tím více si začnete všímat kultovní dynamiky.

Zde bych měl uvést výhradu: Na základní technologii, které říkáme "AI", není nic špatného. Tento široký prapor zahrnuje tak rozmanité nástroje, jako jsou programy na rozpoznávání textu nebo obličeje, chatboti a samozřejmě různé nástroje na klonování hlasů a generování deepfakes obrázků bez licence, s lichým počtem prstů. Na veletrhu CES bylo k vidění několik skutečných produktů, které využily slib strojového učení (obzvlášť mě zaujal teleskop, který využíval umělou inteligenci k vyčištění světelného znečištění na snímcích). Ale dobré věci žily vedle nesmyslů, jako je "ChatGPT pro psy" (ve skutečnosti jen aplikace na čtení řeči těla vašeho psa) a masturbátor s umělou inteligencí pro předčasné ejakulátory.

A samozřejmě, špatné nápady a iracionální bujarý život jsou na veletrhu CES běžné. Od roku 1967 poskytuje hlavní veletrh technologického průmyslu každému, kdo dává pozor, náhled na to, jak o sobě mluví velké technologické firmy a jaká je naše společná budoucnost. Ale to, co jsem viděl letos i loni, a to jak od nadšených futuristických fanoušků, tak od titánů průmyslu, je jakýsi druh bezuzdného mesiášského nadšení, které se dá přirovnat spíše ke scientologii než k iPhonu.

Myslím to doslova.

"Věříme, že jakékoli zpomalení umělé inteligence bude stát životy. Úmrtí, kterým bylo možné zabránit díky UI, jejíž existenci bylo zabráněno, jsou formou vraždy."

MARC ANDREESSEN JE SPOLUZAKLADATELEM společnosti Netscape a kapitálové firmy Andreessen-Horowitz. Je jedním z nejvlivnějších investorů v historii technologií a do začínajících podniků zabývajících se umělou inteligencí vložil více peněz než téměř kdokoli jiný. V loňském roce zveřejnil na webových stránkách Andreessen-Horowitz něco, co nazval "Technooptimistický manifest".

Na první pohled je to chvalozpěv na příslib umělé inteligence a výzva, abychom přijali příslib technologie a nebrali ohled na pesimismus. Spousta lidí tento článek označila za logicky chybný (ignoruje, že velká část technologického pesimismu je způsobena skutečnými škodami způsobenými některými společnostmi, do nichž Andreessen investoval, například Facebookem). Méně pozornosti vzbudil mesiášský podtext Andreessenova přesvědčení:

"Věříme, že umělá inteligence může zachránit životy - pokud jí to dovolíme. Medicína, kromě mnoha jiných oborů, je v době kamenné ve srovnání s tím, čeho můžeme dosáhnout se spojenou lidskou a strojovou inteligencí pracující na nových lécích. Existují desítky běžných příčin úmrtí, které lze pomocí umělé inteligence napravit, od automobilových nehod přes pandemie až po válečnou střelbu na vlastní. "

V době, kdy píšu tyto řádky, používá izraelský stát program umělé inteligence nazvaný Evangelium, který mu pomáhá při leteckých úderech, jež byly široce odsuzovány pro vysoký počet civilních obětí. Vše ostatní, co zde Andreessen uvádí, je do značné míry teoretické (příslib samořídících automobilů se již ukázal jako poněkud přehnaný). Umělá inteligence je sice příslibem pro zlepšení naší schopnosti analyzovat velké soubory dat používané v mnoha druzích vědeckého výzkumu (a také nové biologické zbraně), ale všichni jsme se nedávno přesvědčili, že pandemii nezastavíte pouze pomocí medicíny. Na každém kroku se musíte potýkat s dezinformacemi a umělá inteligence usnadňuje šíření lží ve velkém měřítku.

Andreessen nemá čas na pochybovače. Pochybnosti o výhodách umělé obecné inteligence (AGI), což je průmyslový termín pro skutečně vnímající umělou inteligenci, jsou vlastně jediným hříchem jeho náboženství.

"Věříme, že jakékoli zpomalení AI bude stát životy," stojí v jeho manifestu. "Úmrtí, kterým bylo možné zabránit díky AI, jejíž existenci bylo zabráněno, jsou formou vraždy."

A vražda je hřích. Čím více se do Andreessenovy teologie noříte, tím více vám začíná připadat jako forma techno-kapitalistického křesťanství. Umělá inteligence je spasitel a v případě zařízení, jako je Rabbit, se může stát doslova naším vlastním, osobním Ježíšem. A kdo je, jak se možná ptáte, Bůh?

"Věříme, že tržní ekonomika je objevitelský stroj, forma inteligence - objevitelský, evoluční, adaptivní systém," píše Andreessen.

To je prizma, skrze kterou tito kapitalisté vidí umělou inteligenci. Proto se rozhodli uvést AGI v život. Všechna ta ztracená pracovní místa, všechny ty nesouvislé floskule, které dusí náš internet, všichni ti překupníci z Amazonu, kteří používají ChatGPT k psaní popisů produktů, to všechno je jen vyjádření vůle trhu. Umělci musí být plagiováni a dětem musí být na YouTube předkládány hodiny procedurálně generované břečky a lží, abychom jednoho dne mohli dosáhnout země zaslíbené: kódu, který dokáže přechytračit člověka.

Lidé jako Sam Altman ze společnosti OpenAI považují AGI za nevyhnutelnost, protože potřebují, aby byla alespoň vnímána jako nevyhnutelná, aby jejich společnost měla co nejvyšší cenu akcií při vstupu na burzu. Tento mesiášský zápal si osvojily i kohorty méně vlivných technologických manažerů, kteří prostě potřebují, aby AI byla skutečná, protože řeší nějaký jejich finanční problém.

V měsících předtím, než se ChatGPT dostal do povědomí veřejnosti, se zhroutilo financování rizikového kapitálu pro velké technologické firmy. Důvodem, proč byl veletrh CES tak plný náhodných produktů se značkou AI, bylo to, že nalepení těchto dvou písmen na novou společnost je považováno za něco jako talisman, rituál, který má přivolat období dešťů. Mimo to výrobci notebooků považují přidávání programů AI, jako je Copilot od Microsoftu, za způsob, jak zvrátit několik posledních let klesajících prodejů.

Terminologie, kterou tito technologičtí manažeři kolem AI používají, je fundovanější než Andreessenova proroctví, ale stejně iracionální.

Každý přínos umělé inteligence byl uváděn v neurčitých termínech: Díky ní bude vaše společnost "svižnější" a "efektivnější". O škodách se hovořilo méně často, ale s hroznou konkrétností, která vedle vágnosti vynikla. Na začátku panelu o deepfake Ben Colman, generální ředitel společnosti Reality Defender, která se zabývá odhalováním uměle vytvořených médií, prohlásil, že jeho společnost očekává v letošním roce celosvětově podvody za půl bilionu dolarů (pozn. př.: 500 000 000 000 USD , pět set tisíc milionů amerických dolarů), a to jen díky AI, která klonuje hlas.

Jeho čísla jsou v souladu s tím, co očekávají další výzkumníci. To mě vyděsilo. Minulý rok jsme se dozvěděli o příběhu matky, které volalo něco, co znělo jako jejich unesená dcera, ale ve skutečnosti to byl podvodník využívající umělou inteligenci. Na veletrhu CES, stejně jako v Substacích a bulletinech kultistů AI není čas se takovými hrůzami zabývat. Jediný seriózní návrh, který tito lidé předkládají, je plnou parou vpřed.

"Všichni byste měli být nadšení," říká nám viceprezident inženýrství společnosti Google Behshad Behzadi během panelové diskuse s vedoucím pracovníkem společnosti McDonald's. "Všichni byste měli být nadšení," říká nám viceprezident inženýrství společnosti Google Behshad Behzadi. Pokud umělou inteligenci nevyužíváme, varuje Behshad, přicházíme o hodně. Varianty tohoto názoru slyším stále dokola. Nejen "Tahle věc je skvělá", ale i "Jste tak trochu odsouzeni k záhubě, pokud ji nezačnete používat."

"Pokud vytvoříme umělou inteligenci, která bude nesmírně nerovnoměrně zacházet s jednou skupinou ve prospěch jiné skupiny, skupiny, která je znevýhodněná nebo zbavená práv, je to pro tuto skupinu existenční hrozba."

NIKKI POPEOVÁ BYLA JEDINÝM kvazi-skeptikem, kterému bylo na veletrhu CES umožněno vystoupit. Během diskuse o "řízení" rizik umělé inteligence s viceprezidentem společnosti Adobe Alexandru Costinem vyzvala publikum, aby se zamyslelo nad přímou škodou, kterou algoritmická zaujatost působí marginalizovaným komunitám. Umělá inteligence jako bůh (nebo ďábel) možná někdy přijde. Ale systémy, které existují dnes, tady v reálném světě, už s lidmi vyjebávají.

"Pokud vytvoříme AI, která s jednou skupinou zachází nesmírně nerovnoměrně ve prospěch jiné skupiny," řekla Popeová, "se skupinou, která je znevýhodněná nebo zbavená práv, je to pro tuto skupinu existenční hrozba."

Costin tvrdil, že největším rizikem generativní umělé inteligence není podvod nebo plagiátorství, ale její nevyužití. Vyjádřil přesvědčení, že jde o stejně velkou inovaci jako internet, a dodal: "Myslím, že lidstvo najde způsob, jak ji zkrotit v našem zájmu. Doufejme."

Celý týden byl takový: konkrétní a zničující škody spojené s vágními tvrzeními o výhodách, které se uvádějí jako lék na všechny neduhy lidstva.

Nemyslím si, že každý vedoucí pracovník, který se snaží profitovat z umělé inteligence v technologiích, věří v Andreessenova mesiášského robotického boha. Například Altman z OpenAI je mnohem cyničtější. Loni s radostí varoval, že AI nás může všechny zabít, a prohlásil, že AGI pravděpodobně dorazí během příštího desetiletí. Před několika dny v Davosu byl mnohem mírnější a prohlásil: "Myslím, že už se nikdo neshodne na tom, co AGI znamená". Altman je zkušený obchodník a rád se opírá do tohoto starého náboženství, když chce vyvolat rozruch v médiích, ale mezi svými kolegy plutokraty se k AI chová jako ke každé jiné výnosné technologii.

Většina manažerů, kteří doufají, že na AI vydělají, je na tom podobně. Všechny volné peníze právě teď směřují do podniků zabývajících se umělou inteligencí. Vědí, že nejlepší způsob, jak se za těmito penězi hnát, je zahodit logiku do větru a slibovat masám, že když necháme tuto technologii, aby se prohnala všemi oblastmi lidského snažení, nakonec se to vyplatí.

Je to pro ně racionální, protože vydělají hromady peněz. Ale pro nás je iracionální nechat je to udělat. Proč bychom měli chtít připravit umělce a ilustrátory o práci? Proč bychom měli akceptovat svět, ve kterém je nemožné promluvit si s člověkem, když máte problém, a místo toho jste předhozeni chrlícímu hejnu chatbotů? Proč bychom měli Altmanovi dovolit, aby shromažďoval světové znalosti a přeprodával nám je zpět?

Nechtěli bychom a nebudeme, pokud nás nepřesvědčí, že je to jediný způsob, jak vyřešit všechny problémy, které nás děsí. Změna klimatu, lék na rakovinu, konec válek nebo alespoň konec strachu z toho, že se staneme obětí zločinu nebo terorismu, to všechno se uvádí jako výhody nastupujícího věku umělé inteligence. Jen kdybychom se dostali do země AGI zaslíbené.

To je logika, která stojí za nejnovější subkulturou Silicon Valley: efektivním akceleracionismem neboli e/acc. Podstata tohoto hnutí zapadá do Andreessenova manifestu: Vývoj umělé inteligence musí být urychlen bez omezení, bez ohledu na náklady. Altman naznačil své sympatie k této ideologii v odpovědi na Twitteru jednomu z jejích hlavních myšlenkových vůdců: "Nemůžete mě předběhnout."

E/acc se věnovala řada novinářů, ale většině těchto zpráv uniká, jak velmi... duchovní se některé z nich zdají být. "Beff Jezos", pseudonym bývalého inženýra Googlu, který hnutí e/acc zpopularizoval, ve svém příspěvku na Twitteru z 21. ledna uvedl: "Pokud váš produkt není způsobilý spontánně vytvořit kult, pravděpodobně není dostatečně úderný."

Jeden z úvodních dokumentů celého systému víry začíná slovy: "Akceleracionismus je prostě sebeuvědomění kapitalismu, které sotva začalo." Opět se setkáváme s tvrzením, že AI je nějakým způsobem spjata se schopností kapitalismu, který je svým způsobem inteligentní, že zná sám sebe. Jak jinak si to máme vyložit než jako víru v boha, kterého vybudovali ateisté milující peníze?

Tento argument pokračuje tím, že na ničem nezáleží víc než na rozšíření "světla vědomí" ke hvězdám, což je víra, kterou prosazuje sám Elon Musk. Umělá inteligence je síla, kterou k tomu trh použije, a "tuto sílu nelze zastavit". Následují divoká tvrzení, že nevyhnutelně vzniknou "formy života nové generace". A pak, o pár vět níže, se dočkáte kopance:

"Ti, kdo jako první zavedou a budou kontrolovat hyperparametry AI/technokapitálu, mají obrovskou moc nad budoucností vědomí."

AI není jen bůh, ale bůh, kterého můžeme vytvořit, a tak můžeme utvářet budoucnost reality podle svých zvláštních rozmarů. Pro tuto myšlenku existuje i další příspěvek Beffa Jezose: "Pomůžete-li homo-techno-kapitalistickému stroji vybudovat velkolepější budoucnost, jakou si přeje, budete do ní zahrnuti."

"Akceleracionismus je prostě sebeuvědomění kapitalismu, které sotva začalo".

Pokus o zpomalení tohoto procesu má samozřejmě "rizika". Ještě se zastaví před výhrůžkami na adresu těch, kteří by se mohli snažit zpomalit vývoj umělé inteligence, ale stejně jako Andreessen naznačují morální vinu na strašlivých zločinech pro skeptiky, kteří se jim postaví do cesty.

Když jsem poslouchal, jak se mi lidé z PR snaží prodat falešnou vagínu poháněnou umělou inteligencí, vzpomněl jsem si na Andreessenova tvrzení, že umělá inteligence vyřeší automobilové havárie, pandemie a nesčetné další hrůzy. Zejména jsem myslel na jeho tvrzení, že z tohoto důvodu se zastavení vývoje UI podobá vraždě. Připomnělo mi to jiného bohatého samozvaného futuristu s plánem na záchranu světa.

Scientologická církev, založená spisovatelem sci-fi L. Ronem Hubbardem a založená na řadě praktik, které jeho stoupenci nazývají "tech", tvrdí, že její stoupenci "zbaví planetu šílenství, válek a zločinu a místo nich vytvoří civilizaci, v níž bude existovat zdravý rozum a mír". Scientologický "tech" je pro budoucnost lidstva tak důležitý, že hrozby proti němu ospravedlňují jejich nechvalně známou politiku "fair game" (pozn. př.: přen. vybraná lovná kořist). Osoba prohlášená za fair game "může být jakýmkoli scientologem zbavena majetku nebo zraněna jakýmikoli prostředky....".

Hříšníci přece musí být potrestáni.

NEJZAJÍMAVĚJŠÍ na tom všem je, že část komunity věřící v AI si vytvořila nejen potenciálního boha, ale i peklo. Jednou z internetových subkultur, která ovlivnila zrod e/acc, jsou racionalisté. Ti se zformovali na počátku nového tisíciletí kolem série blogových příspěvků muže jménem Eleizer Yudkowsky.

Yudkowsky, samozvaný autodidakt, nenavštěvoval střední ani vysokou školu a místo toho se proslavil blogováním o teorii her a logice. Jeho internetová komunita LessWrong se stala centrem raných diskusí o umělé inteligenci. Postupem času se Yudkowsky vypracoval na výzkumníka a filozofa v oblasti umělé inteligence. Po určitou dobu byl mezi některými technologickými a finančními odborníky považován za jakéhosi guru (bývalá generální ředitelka společnosti Alameda Research Caroline Ellisonová miluje jeho fanouškovské dílo o 660 000 slovech o Harrym Potterovi).

V posledních letech se Yudkowsky stal terčem posměchu mnoha technologických osobností. Lidé z e/acc ho považují za obzvláště absurdního. Je to proto, že sdílí jejich názor na umělou inteligenci jako na potenciální božstvo, ale věří, že AGI nevyhnutelně všechny zabije. Proto musíme datová centra bombardovat.

Jeden z Yudkowského prvních následovníků dokonce vytvořil ekvivalent Pascalovy sázky o umělou inteligenci. V roce 2010 položil uživatel LessWrong jménem Roko tuto otázku: Co kdyby se jinak benevolentní umělá inteligence rozhodla, že musí mučit každého člověka, který by nepracoval na jejím vzniku?

Logika jeho odpovědi vycházela z vězňova dilematu, konceptu teorie her. Nemá cenu to vysvětlovat, protože je to hloupé, ale Roko dospěl k závěru, že AI, která by to tak cítila, by logicky trestala své odpadlíky na věčné časy tím, že by pro jejich vědomí vytvořila VR peklo, v němž by mohli věčně přebývat.

Ač to zní hloupě, lidé věřili tomu, co se stalo známým jako Rokův bazilišek, natolik silně, že někteří hlásili noční můry a extrémní úzkost. Yudkowsky to odmítl jako zjevně absurdní - a to je -, ale diskuse o tomto konceptu zůstává vlivná. Elon Musk a Grimes se údajně dali dohromady právě díky diskuzi o Rokově baziliškovi.

To je pro nás důležité, protože je to další bod, který ukazuje, že lidé, kteří berou umělou inteligenci vážně jako skutečnou inteligenci, se zřejmě neubrání tomu, aby z ní neudělali náboženství. Možná, že všechna přesvědčení tak pevně zakořeněná ve víře se řídí podobnými vzorci. A je moudré mít na paměti, že příslib skutečně inteligentní, sebeuvědomělé umělé inteligence je stále otázkou čiré víry.

V článku publikovaném ve výzkumném časopise Frontiers in Ecology and Evolution Dr. Andreas Roli a jeho kolegové tvrdí, že "AGI není v současném algoritmickém rámci výzkumu umělé inteligence dosažitelná". Jedním z bodů, které uvádějí, je, že inteligentní organismy mohou jak chtít věci, tak improvizovat, což jsou schopnosti, které žádný dosud existující model nevytvořil. Tvrdí, že algoritmická AI tento skok nedokáže.

To, co nazýváme AI, postrádá svévůli, schopnost činit dynamická rozhodnutí z vlastní vůle, volby, které "nejsou čistě reaktivní, nejsou zcela determinovány podmínkami prostředí". Midjourney dokáže přečíst výzvu a vrátit se s grafikou, které podle svých výpočtů splní kritéria. Pouze živý umělec se může rozhodnout, že bude hledat inspiraci a technické znalosti, a pak vytvoří umění, které Midjourney stráví a vyblivne.

Roliho článek nebude posledním slovem o tom, zda je AGI možná, nebo zda náš současný algoritmický rámec může dosáhnout tohoto vznešeného cíle. Jde mi o to, že cíle, které Andreessen a parta e/acc nyní obhajují, jsou založeny na víře, nikoli na faktech. Na víře, která z člověka dělá vraha, protože o ní pochybuje.

Andreessen ve svém manifestu tvrdí: "Našimi nepřáteli nejsou špatní lidé - ale spíše špatné myšlenky". Zajímalo by mě, kde mě to v jeho očích nechává. Nebo třeba doktora Roliho. V historii jsme již mnohokrát viděli, co se stane, když se příslušníci nějaké víry rozhodnou, že někdo z jiného systému víry je jejich nepřítel. Již jsme viděli, jak s umělci a držiteli autorských práv zachází právní složka průmyslu umělé inteligence jako s "fair game".

Kdo bude dalším kacířem?

Rozhodl jsem se, že se jím stanu ještě před koncem veletrhu, a to na panelu na téma "Zážitky v restauracích a obchodech řízených umělou inteligencí". Behshad Behzadi (viceprezident společnosti Google) prohlásil, že AI by mohla být ekvivalentem získání milionu zaměstnanců navíc. Michelle Gansleová, ředitelka pro data a analytiku společnosti McDonald's, se pochlubila, že její společnost využila AI k tomu, aby jim pomohla zastavit podvody v hodnotě 50 milionů dolarů za jediný měsíc.

Řekl jsem jim, že mám pocit, že většina z těch 50 milionů dolarů podvodů byla také provedena s pomocí AI. A že milion zaměstnanců navíc pro Google se bude přinejmenším rovnat milionu nových zaměstnanců v rukou obchodníků s dezinformacemi, podvodníků a dalších špatných aktérů.

"Jaká je pravděpodobnost, že tyto náklady budou vyváženy zisky?" zeptal jsem se. Zeptal jsem se jich obou."

Behzadi souhlasil, že to jsou problémy, a řekl: "Myslím, že právě proto by asi měly být věci regulovány." Byl si jistý, že přínosy převáží nad škodami. Gansle s Behzadim souhlasila a připomněla rozhovor s Davidem Bowiem z roku 1999 o budoucnosti internetu. (Předtím řekla, že podle ní jeho desítky let stará naděje na budoucnost internetu lépe odpovídá příslibu umělé inteligence).

Bylo pro mě těžké nesrovnávat to s nedávným vystoupením George Carlina, které vygenerovala umělá inteligence. Obojí v podstatě vkládá slova do úst mrtvého člověka kvůli výdělku. To mě přivedlo do kyselé nálady, ale pak se hned po mně někdo z publika zeptal, jestli si někdo z nich myslí, že Blockchain, velká technologická mánie z doby před několika lety, má v AI nějakou roli. Nemohli dost rychle říct ne.

A to mi vlastně přineslo trochu naděje. Třeba se dočkáme dobrotivého boha umělé inteligence Marca Andreessena nebo křemíkového ďábla Eleizera Yudkowského. Nebo možná nakonec přežijeme my, kacíři.