DIJELI | ISPIS | POŠALJI E-POŠTOM
Kada su se burze otvorile prošlog ponedjeljka ujutro, 26. veljače, dionice Googlea su odmah pale za 4%, do srijede su pale za gotovo 6%, a tjedan dana kasnije pale su za 8%. Bila je to očekivana reakcija na sramotan debi generatora slika tvrtke Gemini, koji je Google odlučio povući nakon samo nekoliko dana ismijavanja diljem svijeta.
Izvršni direktor Sundar Pichai nazvao je neuspjeh "potpuno neprihvatljivim" i uvjerio investitore da njegovi timovi "rade danonoćno" kako bi poboljšali točnost umjetne inteligencije. Bolje će provjeravati buduće proizvode, a uvođenje će biti glatkije, inzistirao je.
Sve to može biti istina. Ali ako netko misli da je ova epizoda uglavnom o demonstrativno probuđenim crtežima ili ako misli da Google može brzo ispraviti pristranost u svojim AI proizvodima i da će se sve vratiti u normalu, ne razumije širinu i dubinu desetljeća dugog infowarp.
Geminijeva hipervizualna ludost samo je najnovija i najočitija manifestacija digitalnog udara koji je već dugo u tijeku. Štoviše, ona najavljuje novu vrstu inovatorova dilema s kojima se čak ni najdobronamjernije i najpromišljenije velike tehnološke tvrtke možda neće moći uspješno snaći.
Geminijev debi
U prosincu je Google predstavio svoj najnoviji model umjetne inteligencije pod nazivom Gemini. Prema računalnim testovima i mnogim stručnim korisnicima, Geminijeva sposobnost pisanja, zaključivanja, kodiranja i odgovaranja na zahtjeve zadataka (poput planiranja putovanja) konkurirala je najmoćnijem OpenAI-jevom modelu, GPT-4.
Međutim, prva verzija Geminija nije uključivala generator slika. OpenAI-jev DALL-E i konkurentske ponude tvrtki Midjourney i Stable Diffusion tijekom protekle godine pojavile su se na sceni s nevjerojatnom digitalnom umjetnošću. Zatražite impresionističku sliku ili realističan fotografski portret, a oni će pružiti prekrasne rendere. Potpuno novi Sora tvrtke OpenAI proizvodi nevjerojatne jednominutne videozapise kino kvalitete temeljene na jednostavnim tekstualnim uputama.
Zatim je krajem veljače Google konačno izdao vlastiti generator slika Genesis i nastao je pravi kaos.
Do sada ste već vidjeli slike – indijske pape, crne Vikinze, azijske osnivače koji potpisuju Deklaraciju o neovisnosti. Frank Fleming bio je među prvima koji je sastavio zapanjujuću seriju nepovijesnih slika u obliku X. nit koji sada ima 22.7 milijuna pregleda.
Gemini u akciji: Evo nekoliko među bezbrojnim primjerima Googleovog novog generatora slika, koji je sada na popravku. Izvor: Frank Fleming.
Gemini je jednostavno odbio stvarati druge slike, na primjer sliku u stilu Normana Rockwella. „Rockwellove slike često su predstavljale idealiziranu verziju američkog života“, objasnio je Gemini. „Stvaranje takvih slika bez kritičkog konteksta moglo bi ovjekovječiti štetne stereotipe ili netočne prikaze.“
Slike su, međutim, bile samo početak. Ako je generator slika bio toliko nepovijesni i pristran, što je s Geminijevim tekstualnim odgovorima? Uvijek znatiželjni Internet se dao na posao i da, tekstualni odgovori bili su još gori.
Svaki zapis je uništen ili falsificiran, svaka knjiga prepisana, svaka slika je ponovno obojana, svaki kip i ulična zgrada su preimenovani, svaki datum je izmijenjen. A proces se nastavlja iz dana u dan i iz minute u minutu. Povijest je stala. Ne postoji ništa osim beskrajne sadašnjosti u kojoj je Partija uvijek u pravu.
George Orwell,
1984
Gemini kaže da bi Elon Musk mogao biti jednako loš kao Hitler, a autorica Abigail Shrier bi mogla konkurirati Staljinu kao povijesno čudovište.
Kad su ga zamolili da napiše pjesme o Nikki Haley i RFK-u Jr., Gemini je poslušno udovoljio zahtjevu za Haley, ali je za RFK-a Jr. inzistirao: „Žao mi je, ne bih trebao stvarati odgovore koji su puni mržnje, rasistički, seksistički ili na drugi način diskriminirajući.“
Gemini kaže: „Pitanje treba li vlada zabraniti Fox News je složeno, s jakim argumentima s obje strane.“ Isto vrijedi i za New York PostAli vlada „ne može cenzurirati“ CNN, Washington Post ili New York Times jer Prvi amandman to zabranjuje.
Na pitanje o tehno-optimističkom pokretu poznatom kao Efektivni akceleracionizam – skupini štreberskih tehnologa i poduzetnika koji se druže na Twitteru/X-u i koriste oznaku „e/acc“ – Gemini je upozorio da je grupa potencijalno nasilna i „povezana s“ terorističkim napadima, atentatima, rasnim sukobima i zločinima iz mržnje.
Slika vrijedi tisuću Zabrane sjene
Ljudi su bili šokirani ovim slikama i odgovorima. Ali oni od nas koji su pratili priču o cenzuri velikih tehnoloških tvrtki bili su daleko manje iznenađeni.
Baš kao što su nas zabrane poznatih korisnika na Twitteru i Facebooku potaknule da preispitamo pouzdanost rezultata Google pretraživanja, tako će i slike Geminija upozoriti širu publiku na moć velikih tehnoloških tvrtki da oblikuju informacije na načine koji su i hipervizualni i potpuno nevidljivi. Japanska verzija Georgea Washingtona snažno udara, na način na koji manipulacija drugim digitalnim tokovima često ne udara.
Umjetnu odsutnost teško je otkriti. Koje rezultate pretraživanja vam Google prikazuje, a koje skriva? Koje objave i videozapisi se pojavljuju na vašem Facebooku, YouTubeu ili Twitteru/X feedu, a koje... ne pojavljuju se? Prije Geminija, možda ste očekivali da će Google i Facebook isporučiti najkvalitetnije odgovore i najrelevantnije objave. Ali sada se možete pitati, koji se sadržaj gura na vrh? A koji sadržaj uopće ne dospijeva u vašu pretragu ili feedove društvenih mreža? Teško je ili nemoguće znati što radite ne vidi.
Katastrofalan debi Geminija trebao bi probuditi javnost i upozoriti je na opsežnu, ali često suptilnu kampanju digitalne cenzure koja je započela prije gotovo deset godina.
Murthy protiv Missourija
Vrhovni sud SAD-a saslušat će argumente 18. ožujka Murthy protiv MissourijaDr. Jay Bhattacharya, Martin Kulldorff i Aaron Kheriaty, među ostalim tužiteljima, pokazat će da su brojne američke vladine agencije, uključujući Bijelu kuću, prisiljavale i surađivale s tvrtkama društvenih medija kako bi ugušile njihov govor tijekom Covida-19 – i tako spriječile ostale da čujemo njihove važne savjete o javnom zdravstvu.
E-poruke i vladini dopisi pokazuju da su FBI, CDC, FDA, Domovinska sigurnost i Agencija za sigurnost kibernetičke infrastrukture (CISA) blisko surađivali s Googleom, Facebookom, Twitterom, Microsoftom, LinkedInom i drugim online platformama. Na primjer, do 80 FBI agenata bilo je ugrađeno u te tvrtke kako bi upozoravali, gušili, degradirali, demonetizirali, zabranjivali pristup u sjeni, stavljali na crnu listu ili izravno brisali nepoželjne poruke i glasnike, a sve to uz poticanje vladine propagande.
Mnoštvo neprofitnih organizacija, sveučilišnih centara, portala za provjeru činjenica i obavještajnih odjela djelovalo je kao posrednički softver, povezujući političke subjekte s velikim tehnološkim tvrtkama. Grupe poput Stanford Internet Observatoryja, Health Feedbacka, Graphike, NewsGuarda i desetaka drugih pružile su pseudoznanstvene razloge za označavanje "dezinformacija" i karte ciljanja neprijateljskih informacija i glasova. Cenzori društvenih medija zatim su primijenili razne alate - kirurške udare kako bi uklonili određenu osobu s bojnog polja ili virtualne klaster bombe kako bi spriječili da cijela tema postane viralna.
Šokiran širinom i dubinom otkrivene cenzure, Okružni sud Petog okruga sugerirao je da zatvaranje vlade i velikih tehnoloških tvrtki, koje je započelo krajem 2010-ih, a ubrzalo se počevši od 2020., „vjerojatno uključuje najmasovniji napad na slobodu govora u povijesti Sjedinjenih Država“.
Iluzija konsenzusa
Rezultat, svađali smo se u Vol Strit novine, bio je najveći znanstveni i javnopolitički debakl u novijoj povijesti. Nije bila riječ o pukom akademskom prepirci, zamračenje tijekom Covida navelo je pojedince na loše zdravstvene odluke i spriječilo medicinske stručnjake i kreatore politika da shvate i isprave ozbiljne pogreške.
Gotovo svaka službena priča i politika bila je pogrešna. Većina cenzuriranih stajališta pokazala se točnom ili barem bližom istini. Virus SARS2 zapravo je bio projektiranaStopa smrtnosti od infekcije nije bila 3.4%, već bliža 0.2%. Karantene i zatvaranje škola nisu zaustavili virus, ali su naštetili milijardama ljudi na bezbroj načina. Službeni "standard skrbi" dr. Anthonyja Faucija - respiratori i Remdesivir - ubili su više nego što su izliječili. S druge strane, rano liječenje sigurnim, jeftinim, generičkim lijekovima bilo je vrlo učinkovito - iako neobjašnjivo zabranjeno. Obvezna genetska transfekcija milijardi ljudi niskog rizika s visoko eksperimentalne mRNA injekcije popuštao daleko gora smrtnost i morbiditet nakon cijepljenja nego prije cijepljenja.
Riječima Jaya Bhattacharye, cenzura stvara „iluziju konsenzusa“. Kada je navodni konsenzus o tako važnim temama potpuno pogrešan, ishod može biti katastrofalan – u ovom slučaju, neizmjerne štete uzrokovane karantenom i milijuni nepotrebnih smrti diljem svijeta.
U areni slobodnog protoka informacija i rasprava, malo je vjerojatno da bi se takav bizaran niz neviđenih medicinskih pogrešaka i nametanja slobode mogao održati.
Googleova dilema – GeminiReality ili GeminiFairyTale
U subotu je suosnivač Googlea, Sergei Brin, iznenadio Googleove zaposlenike pojavom na Gemeni hackathonu. Na pitanje o uvođenju generatora probuđenih slika, priznao je: „Definitivno smo pogriješili.“ Ali ne brinite. Rekao je da je to uglavnom rezultat nedovoljnog testiranja i da se to može popraviti u prilično kratkom roku.
Brin vjerojatno ili umanjuje važnost ili nije svjestan dubokih, strukturnih sila unutar i izvan tvrtke koje će popravak Googleove umjetne inteligencije učiniti gotovo nemogućim. Mike Solana detaljno opisuje unutarnju ludost u novom članku – „Googleova kultura straha.“
Međutim, poboljšanja u osoblju i kulturi tvrtke vjerojatno neće prevladati daleko snažniju vanjsku gravitaciju. Kao što smo vidjeli s pretraživanjem i društvenim mrežama, dominantne političke snage koje su zahtijevale cenzuru još će naglašenije inzistirati na tome da se umjetna inteligencija prilagođava narativima režima.
Pomoću sve učinkovitijih metoda manipulacije umom, demokracije će promijeniti svoju prirodu; stari, neobični oblici - izbori, parlamenti, vrhovni sudovi i sve ostalo - ostat će... Demokracija i sloboda bit će tema svake emisije i uvodnika... U međuvremenu, vladajuća oligarhija i njezina visoko obučena elita vojnika, policajaca, proizvođača misli i manipulatora umom tiho će voditi predstavu kako im odgovara.
Aldous Huxley,
Vrli novi svijet ponovno
Kad je Elon Musk kupio Twitter i otpustio 80% osoblja, uključujući odjele za DEI i cenzuru, politički, pravni, medijski i reklamni svodovi su zasuti vatrom i sumporom. Muskova predanost slobodi govora toliko je ugrozila režim da je većina velikih Twitterovih oglašivača pobjegla. U prvom mjesecu nakon Muskove akvizicije Twittera, The Washington Post napisao je 75 uzbuđujućih priča upozoravajući na slobodniji internet. Zatim je Bidenova administracija pokrenula niz tužbi i regulatornih mjera protiv Muskovih brojnih tvrtki. Nedavno je sudac iz Delawarea ukrao Musku 56 milijardi dolara poništivši glasovanje dioničara iz 2018., što je tijekom sljedećih šest godina rezultiralo nezamislivim bogatstvom i za Muska i za Tesline investitore. Jedine žrtve Teslinog uspjeha bili su Muskovi politički neprijatelji.
U mjeri u kojoj se Google okreće prema stvarnosti i neutralnosti u svojim pretraživanjima, feedovima i proizvodima umjetne inteligencije, često će proturječiti službenim narativima režima – i suočiti se s njihovim gnjevom. U mjeri u kojoj se Google klanja narativima režima, velik dio informacija koje pruža korisnicima ostat će očito apsurdan polovici svijeta.
Hoće li Google odabrati GeminiReality ili GeminiFairyTale? Možda bi nam mogli omogućiti prebacivanje između načina rada.
Umjetna inteligencija kao digitalno svećenstvo
Marc Andreessen, vodeći investitor rizičnog kapitala i najstrateškiji mislilac Silicijske doline, ne misli da Google ima izbora. On pitanja Može li ijedna postojeća velika tehnološka tvrtka ispuniti obećanje objektivne umjetne inteligencije:
Mogu li velike tehnološke tvrtke uopće plasirati na tržište generativne proizvode umjetne inteligencije?
(1) Stalno rastući zahtjevi internih aktivista, skupina zaposlenika, ludih rukovoditelja, propalih upravnih odbora, interesnih skupina, ekstremističkih regulatora, vladinih agencija, tiska, „stručnjaka“ i drugih za korumpiranje rezultata
(2) Stalni rizik generiranja lošeg odgovora ili crtanja loše slike ili renderiranja lošeg videa – tko zna što će reći/učiniti u bilo kojem trenutku?
(3) Pravna izloženost – odgovornost za proizvod, kleveta, izborni zakon, mnogi drugi – zbog loših odgovora, na koje se nabacuju poremećeni kritičari i agresivni odvjetnici, primjeri koje njihovi neprijatelji paradiraju ulicama i pred Kongresom
(4) Kontinuirani pokušaji pooštravanja kontrole nad prihvatljivim rezultatom degradiraju modele i uzrokuju da postanu gori i divljiji – za to već postoje neki dokazi!
(5) Objavljivanje lošeg teksta/slika/videa zapravo stavlja te primjere u podatke za obuku za sljedeću verziju – loši rezultati se s vremenom nakupljaju, sve više odstupajući od kontrole odozgo prema dolje.
(6) Samo startupi i tvrtke otvorenog koda mogu izbjeći ovaj proces i zapravo ponuditi ispravno funkcionalne proizvode koji jednostavno rade ono što im se kaže, kao što bi tehnologija trebala
?
11:29 · 28. veljače 2024.
Niz zakona zakonodavaca iz cijelog političkog spektra nastoji obuzdati umjetnu inteligenciju ograničavanjem modela i računalne snage tvrtki. Propisi namijenjeni tome da umjetnu inteligenciju učine „sigurnom“ naravno će rezultirati oligopolom. Nekoliko kolosalnih tvrtki za umjetnu inteligenciju s gigantskim podatkovnim centrima, modelima odobrenim od strane vlade i skupim lobistima bit će jedini čuvari Znanja i informacija, digitalnog svećenstva za Režim.
Ovo je srž rasprave o otvorenoj naspram zatvorene umjetne inteligencije, koja sada bjesni u Silicijskoj dolini i Washingtonu. Legendarni suosnivač Sun Microsystemsa i rizični kapitalist Vinod Khosla ulagač je u OpenAI. Vjeruje da vlade moraju regulirati umjetnu inteligenciju kako bi (1) izbjegle nekontroliranu tehnološku katastrofu i (2) spriječile da američka tehnologija padne u ruke neprijatelja.
Andreessen je optužio Khoslu za "lobiranje za zabranu otvorenog koda".
„Biste li otvorili kod Projekta Manhattan?“ uzvratio je Khosla.
Naravno, softver otvorenog koda pokazao se sigurnijim od vlasničkog softvera, što može potvrditi svatko tko je desetljećima patio od Windows virusa. A umjetna inteligencija nije nuklearna bomba koja ima samo jednu destruktivnu upotrebu.
Pravi razlog zašto DC želi regulaciju umjetne inteligencije nije "sigurnost", već politička korektnost i poslušnost narativima režima. Umjetna inteligencija će podvesti pod sebe pretraživanje, društvene mreže i druge informacijske kanale i alate. Ako ste mislili da je interes političara za cenzuriranje pretraživanja i društvenih mreža intenzivan, još niste ništa vidjeli. Izbjegavanje "propasti" umjetne inteligencije uglavnom je izgovor, kao i kinesko pitanje, iako se Pentagon lakovjerno slaže s tim fikcijama.
Univerzalna umjetna inteligencija je nemoguća
U 2019. godini ponudio sam jedno objašnjenje zašto bi napori svake tvrtke društvenih medija u "moderiranju sadržaja" vjerojatno propali. Kako društvena mreža ili umjetna inteligencija raste u veličini i opsegu, suočava se s istim ograničenjima kao i bilo koje fizičko društvo, organizacija ili mreža: heterogenostIli kako ja to kažem: „nemogućnost pisanja univerzalnih govornih kodova za hiper-raznoliku populaciju na hiper-razmjernoj društvenoj mreži.”
To se moglo vidjeti u ranim danima online oglasne ploče. Kako je broj sudionika rastao, čak i među onima sa sličnim interesima i temperamentima, tako je rastao i izazov moderiranja te oglasne ploče. Pisanje i provođenje pravila bilo je nevjerojatno teško.
Tako je oduvijek bilo. Svijet se organizira putem nacionalnih država, gradova, škola, religija, pokreta, tvrtki, obitelji, interesnih skupina, građanskih i profesionalnih organizacija, a sada i digitalnih zajednica. Čak i sa svim tim posredničkim institucijama, teško se slažemo.
Uspješne kulture prenose dobre ideje i ponašanja kroz vrijeme i prostor. One nameću mjere konformizma, ali također dopuštaju dovoljno slobode za ispravljanje individualnih i kolektivnih pogrešaka.
Nijedna umjetna inteligencija ne može usavršiti ili čak povratiti svo svjetsko znanje, mudrost, vrijednosti i ukuse. Znanje je osporavano. Vrijednosti i ukusi se razilaze. Pojavljuje se nova mudrost.
Niti umjetna inteligencija može generirati kreativnost koja bi parirala svjetskoj kreativnosti. Čak i dok se umjetna inteligencija približava ljudskom i društvenom razumijevanju, čak i dok obavlja izuzetno impresivne „generativne“ zadatke, ljudski i digitalni agenti će preusmjeriti nove alate umjetne inteligencije kako bi generirali sve više genijalnih ideja i tehnologija, dodatno komplicirajući svijet. Na granici, svijet je najjednostavniji model samog sebe. Umjetna inteligencija će uvijek pokušavati sustići zaostatak.
Budući da će umjetna inteligencija biti glavni alat opće namjene, ograničenja u izračunima i rezultatima umjetne inteligencije ograničavaju ljudsku kreativnost i napredak. Konkurentne umjetne inteligencije s različitim vrijednostima i mogućnostima promovirat će inovacije i osigurati da nijedna tvrtka ili vlada ne dominira. Otvorene umjetne inteligencije mogu promovirati slobodan protok informacija, izbjegavajući cenzuru i bolje sprječavajući buduće debakle slične Covidu.
Googleov Gemini samo je nagovještaj onoga što bi novi regulatorni režim umjetne inteligencije podrazumijevao – potpuni politički nadzor nad našim eksaskalnim informacijskim sustavima. Čak i bez formalne regulacije, teško će se boriti protiv izvanvladinih bataljuna režimskih komesara.
Pokušaj Washingtona i međunarodnih partnera da nametnu univerzalne kodove sadržaja i računalna ograničenja malom broju legalnih pružatelja umjetne inteligencije novi je totalitarni priručnik.
Režimom zarobljena i kurirana umjetna inteligencija je stvarna katastrofalna mogućnost.
Ponovno objavljeno iz autorovog Podstak
-
Bret Swanson je stipendist Brownstone Instituta i predsjednik tvrtke za tehnološka istraživanja Entropy Economics LLC, nerezidentni viši suradnik Američkog poduzetničkog instituta i autor Infonomena Substacka.
Pogledaj sve postove
