DIJELI | ISPIS | POŠALJI E-POŠTOM
Osjećam strah. Jako strah.
Nadzor i cenzura diljem interneta, omogućeni nezamislivo ogromnom računalnom snagom umjetne inteligencije (AI), su ovdje.
Ovo nije futuristička distopija. To se događa sada.
Vladine agencije surađuju sa sveučilištima i neprofitnim organizacijama kako bi koristile alate umjetne inteligencije za nadzor i cenzuriranje sadržaja na internetu.
Ovo nije političko ili stranačko. Ovo nije ni o kakvom određenom mišljenju ili ideji.
Ono što se događa jest da alat dovoljno moćan da nadzire sve što se govori i radi na internetu (ili velikim dijelovima toga) postaje dostupan vladi kako bi nas sve pratila, cijelo vrijeme. I, na temelju tog praćenja, vlada - i svaka organizacija ili tvrtka s kojom vlada surađuje - tada može koristiti isti alat za suzbijanje, ušutkavanje i isključivanje bilo kojeg govora koji joj se ne sviđa.
Ali to nije sve. Koristeći isti alat, vlada i njezini javno-privatni, „nevladini“ partneri (npr. Svjetska zdravstvena organizacija ili Monsanto) mogu također zaustaviti bilo koju aktivnost koja je povezana s internetom. Bankarstvo, kupnja, prodaja, podučavanje, učenje, zabava, međusobno povezivanje – ako se umjetnoj inteligenciji kojom upravlja vlada ne sviđa ono što vi (ili vaša djeca!) kažete u tweetu ili e-poruci, može vam sve to zaustaviti.
Da, vidjeli smo to na vrlo lokalnoj i politiziranoj razini, na primjer, kanadskih kamiondžija.
Ali ako smo mislili da se ovakva vrsta aktivnosti ne može ili neće dogoditi na nacionalnoj (ili čak i strašnijoj - globalnoj) razini, moramo se odmah probuditi i shvatiti da se to događa i da se možda neće moći zaustaviti.
Novi dokumenti pokazuju da je umjetna inteligencija financirana od strane vlade namijenjena online cenzuri
Pododbor Zastupničkog doma SAD-a za naoružavanje savezne vlade osnovana je u siječnju 2023. „kako bi istražila pitanja vezana uz prikupljanje, analizu, širenje i korištenje informacija o američkim građanima od strane agencija izvršne vlasti, uključujući i to jesu li takvi napori nezakoniti, neustavni ili na drugi način neetični“.
Nažalost, rad odbora se, čak i od strane njegovih vlastitih članova, smatra uglavnom političkim: konzervativni zakonodavci istražuju ono što smatraju ušutkivanjem konzervativnih glasova od strane liberalno orijentiranih vladinih agencija.
Ipak, u svojim istragama, ovaj odbor je otkrio neke zapanjujuće dokumente vezane uz vladine pokušaje cenzuriranja govora američkih građana.
Ovi dokumenti imaju ključne i zastrašujuće implikacije za cijelo društvo.
U privremenom izvješću Pododbora, od 5. veljače 2024. godine, dokumenti pokazuju da akademske i neprofitne skupine predlažu vladinoj agenciji plan korištenja "dezinformacijskih usluga" umjetne inteligencije za cenzuriranje sadržaja na internetskim platformama.
Konkretno, Sveučilište Michigan objašnjava Nacionalnoj zakladi za znanost (NSF) da se alati pokretani umjetnom inteligencijom koje financira NSF mogu koristiti za pomoć platformama društvenih medija u obavljanju aktivnosti cenzure bez potrebe za donošenjem odluka o tome što treba cenzurirati.
Evo kako je odnos prikazan u izvješću Pododbora:
Evo konkretnog citata predstavljenog u izvješću Pododbora. Dolazi iz „Bilješki govornika s prvog predstavljanja Sveučilišta u Michiganu Nacionalnoj znanstvenoj zakladi (NSF) o njihovom alatu WiseDex, financiranom od strane NSF-a i pokretanom umjetnom inteligencijom.“ Bilješke se nalaze u dosjeu odbora.
Naša usluga dezinformiranja pomaže kreatorima politika na platformama koji žele... prebaciti odgovornost za teške prosudbe na nekoga izvan tvrtke... eksternalizirajući tešku odgovornost cenzure.
Ovo je izvanredna izjava na toliko mnogo razina:
- Izričito izjednačava „uslugu dezinformiranja“ s cenzurom.
Ovo je ključna jednadžba, jer se vlade diljem svijeta pretvaraju da se bore protiv štetnih dezinformacija, a zapravo se bore protiv toga. donošenje masovnih zakona o cenzuri, WEF je proglasio „dezinformacije i lažne informacije“ kao „najozbiljnije globalne rizike“ u sljedeće dvije godine, što vjerojatno znači da će njihovi najveći napori biti usmjereni na cenzuru.
Kada vladin izvođač radova izričito izjavi da prodaje „uslugu dezinformiranja“ koja pomaže online platformama da „eksternaliziraju cenzuru“ – ta se dva pojma smatraju zamjenjivima.
- Na cenzuru se odnosi kao na „odgovornost“.
Drugim riječima, pretpostavlja se da bi dio onoga što bi platforme trebale raditi bila cenzura. Ne zaštita djece od seksualnih predatora ili nevinih građana od dezinformacija – samo obična i jednostavna, nepatvorena cenzura.
- Navodi se da je uloga umjetne inteligencije „eksternalizirati“ odgovornost za cenzuru.
Tehnološke platforme ne žele donositi odluke o cenzuri. Vlada želi donositi te odluke, ali ne želi da se doživljava kao da cenzurira. Alati umjetne inteligencije omogućuju platformama da "eksternaliziraju" odluke o cenzuri, a vladi da sakrije svoje aktivnosti cenzure.
Sve bi to trebalo okončati iluziju da ono što vlade diljem svijeta nazivaju „borbom protiv dezinformacija i govora mržnje“ nije čista cenzura.
Što se događa kada se cenzura umjetne inteligencije u potpunosti implementira?
Znajući da vlada već plaća alate za cenzuru umjetne inteligencije, moramo shvatiti što to podrazumijeva.
Nema ograničenja radne snage: Kao što ističe izvješće Pododbora, ograničenja vladine online cenzure do sada su uključivala veliki broj ljudi potrebnih za pregledavanje beskrajnih datoteka i donošenje odluka o cenzuri. S umjetnom inteligencijom, gotovo da itko ne mora biti uključen, a količina podataka koja se može nadzirati može biti ogromna kao i sve što netko kaže na određenoj platformi. Ta količina podataka je neshvatljiva pojedinačnom ljudskom mozgu.
Nitko nije odgovoran: Jedan od najstrašnijih aspekata cenzure koju provodi umjetna inteligencija jest taj što kada to čini umjetna inteligencija, ne postoji ljudsko biće ili organizacija - bilo da se radi o vladi, platformama ili sveučilištu/neprofitnim organizacijama - koja je zapravo odgovorna za cenzuru. U početku ljudi daju upute alatu umjetne inteligencije o tome koje kategorije ili vrste jezika treba cenzurirati, ali zatim stroj sam donosi odluke od slučaja do slučaja.
Nema mogućnosti podnošenja pritužbi: Nakon što se umjetna inteligencija oslobodi skupom uputa za cenzuru, pretražit će milijune online podataka i primijeniti cenzurne mjere. Ako želite osporiti cenzurnu akciju umjetne inteligencije, morat ćete razgovarati sa strojem. Možda će platforme zaposliti ljude da odgovore na žalbe. Ali zašto bi to radili kada imaju umjetnu inteligenciju koja može automatizirati te odgovore?
Nema zaštite za mlade: Jedna od tvrdnji vladinih cenzora jest da moramo zaštititi svoju djecu od štetnih online informacija, poput sadržaja koji ih čini anoreksičnima, potiče ih na samoubojstvo, pretvara ih u ISIS-ove teroriste i tako dalje. Također i od seksualnog iskorištavanja. Sve su to ozbiljna pitanja koja zaslužuju pozornost. Ali nisu ni približno toliko opasna za velik broj mladih ljudi kao što je cenzura umjetne inteligencije.
Opasnost koju predstavlja cenzura umjetne inteligencije odnosi se na sve mlade ljude koji provode puno vremena na internetu, jer to znači da se njihove online aktivnosti i jezik mogu pratiti i koristiti protiv njih - možda ne sada, ali kad god vlada odluči krenuti protiv određene vrste jezika ili ponašanja. Ovo je puno veća opasnost za puno veći broj djece od opasnosti koju predstavlja bilo koji određeni sadržaj, jer obuhvaća sve aktivnosti koje provode na internetu, dotičući se gotovo svakog aspekta njihovih života.
Evo primjera koji ilustrira ovu opasnost: Recimo da vaš tinejdžer igra puno interaktivnih videoigara online. Recimo da slučajno preferira igre koje su dizajnirale kineske tvrtke. Možda također gleda druge kako igraju te igre i sudjeluje u razgovorima i grupama za raspravu o tim igrama, u kojima sudjeluje i mnogo kineskih državljana.
Vlada bi sljedeći mjesec ili sljedeće godine mogla odlučiti da je svatko tko se intenzivno bavi videoigrama kineskog dizajna opasnost za demokraciju. To bi moglo rezultirati zatvaranjem računa vašeg sina na društvenim mrežama ili uskraćivanjem pristupa financijskim alatima, poput studentskih kredita. To bi također moglo uključivati označavanje na web stranicama za zapošljavanje ili upoznavanje kao opasnog ili nepoželjnog. To bi moglo značiti da će mu se uskratiti putovnica ili da će biti stavljen na popis za praćenje.
Život vašeg tinejdžera upravo je postao puno teži. Puno teži nego da je bio izložen videu o regrutiranju ISIS-a ili objavi na TikToku koja veliča samoubojstvo. I to bi se dogodilo u puno većim razmjerima nego što je... seksualno iskorištavanje koje cenzori koriste kao trojanski konj za normalizaciju ideje o online vladinoj cenzuri.
Usluge cenzure koje se mogu unovčitiAlat umjetne inteligencije u vlasništvu vlade teoretski može koristiti nevladina organizacija uz dopuštenje vlade i uz blagoslov platformi koje žele "eksternalizirati" "odgovornost" za cenzuru. Dakle, dok vlada možda koristi umjetnu inteligenciju za praćenje i suzbijanje, recimo kao primjer, antiratnih osjećaja - tvrtka bi je mogla koristiti za praćenje i suzbijanje, recimo kao primjer, anti-brze hrane. Vlada bi mogla zaraditi mnogo novca prodajući usluge alata umjetne inteligencije trećim stranama. Platforme bi također mogle tražiti smanjenje troškova. Dakle, alati umjetne inteligencije za cenzuru potencijalno mogu koristiti vladi, tehnološkim platformama i privatnim korporacijama. Poticaji su toliko moćni da je gotovo nemoguće zamisliti da se neće iskoristiti.
Možemo li preokrenuti kurs?
Ne znam koliko vladinih agencija i koliko platformi koristi alate za cenzuru umjetne inteligencije. Ne znam koliko brzo se mogu proširiti.
Ne znam koje alate imamo na raspolaganju - osim podizanja svijesti i pokušaja lobiranja kod političara te podnošenja tužbi kako bismo spriječili vladinu cenzuru i regulirali korištenje alata umjetne inteligencije na internetu.
Ako netko ima još ideja, sada je pravo vrijeme da ih ostvari.
-
Debbie Lerman, stipendistica Brownstonea iz 2023., diplomirala je engleski jezik na Harvardu. Umirovljena je znanstvena spisateljica i aktivna umjetnica u Philadelphiji, Pennsylvania.
Pogledaj sve postove
