Ne verjemite nikomur: Kaj ogroža nevronske mreže, izdelovanje porno
Dmitry Kurkin
Fake porno video posnetkiv kateri se je zvezda filma "Wonder Woman" Gal Gadot, ki naj bi se seksal s svojim polbratom, ki se je ta teden pojavil na spletu, izkazala za ne samo ponaredek, ampak ponaredek, ki ga je ustvarila umetna inteligenca.
Avtor videa, anonimni uporabnik reddita z vzdevkom deepfakes, je v intervjuju s podpredsednikom potrdil, da je uporabil nevronsko mrežo, da bi "fotografiral" Gadotovo obraz na telo porno igralke. Na splošno velja, da je ponaredek opazen, in globoki kali niso načrtovali, da bi z njim kaj zaslužili - je dejal, da je samo želel preveriti, kako enostavno bi bilo, če bi uporabili AI. In za nas ima slabe novice: zelo lahkotno je bilo narediti lažno pornografijo doma.
Problem na splošno ni v samih pornofekah: povpraševanje po slikah in videoposnetkih, kjer se slavni igralci in igralke seksajo, je bilo, je in bo s fetišisti in senzacionalnimi ljubimci. Glede zunanje podobnosti s zvezdami v porno industriji, se ustvarjajo celotne kariere - ta pojav je celo povzročil izjemen naslov rumenega tiska: "Gordon Ramsay dwarf najdemo mrtvega v jazbečni jami".
Toda če je pred proizvodnjo potreben čas, sredstva in nekakšna spretnost, potem nevronska mreža, ki je usposobljena za varjenje obrazov do slike, močno poenostavi nalogo. Roboti se držijo, ne človek, roboti pa so od časa do časa pametnejši, kar pomeni, da bodo ponaredki bolj zanesljivi. Uporabnik je pojasnil, da je svojo programsko opremo za umetno inteligenco zbral iz elementov odpadkov, ki jih najdemo v odprtokodnih knjižnicah, ter fotografiral in snemal v javnih odtokih in gostovanju, kot je YouTube. Preprosto povedano, vsa orodja za ustvarjanje pornofeikov so ležala pod njegovim nosom, ne samo z njim, ampak tudi med milijoni ljudi po vsem svetu.
In to, strogo gledano, niti novice. Leta 2003 so strokovnjaki Univerze za zdravje in znanost iz Oregona opozorili, da so avdio prevare "enostavno narediti in jih je težko določiti". Do leta 2017 se je napoved uresničila in ponarejeni glasovni posnetki so bili ustvarjeni z nevronskimi mrežami, ki jih je zelo težko ločiti od resničnih. Po zvoku je bil videoposnetek povlečen. Razvoj osebja Univerze v Washingtonu sinhronizira obrazne izraze človekovega obraza z njegovim govorom: v video posnetku z Barackom Obamo je na primer predstavljen le avdio, slika je ustvarjena s programom. Povežite se z drugim - in zdaj so pripravljeni lažni videi, v katerih, recimo, znani liberalni politik "prizna" svoje simpatije za Hitlerja.
Potrebno je malo domišljije, da si predstavljate, kako lahko takšne umetne inteligence privedejo do tega, da bodo klepetalnice Microsofta, ki so jih trolli iz Twitterja spremenili v rasist v manj kot enem dnevu, videti kot lepa potegavščina. In seveda, tehnologije pornofeedov ne ogrožajo predvsem Gal Gadot, Taylor Swift ali Jennifer Lawrence. Ti so dovolj zavarovani, da najamejo vojsko IT strokovnjakov, ki prepoznajo ponaredek, in floto odvetnikov, ki bodo tožili vsakogar, ki poskuša uporabiti te ponaredke za osebno korist.
Ne, preprosti smrtniki bodo postali žrtve novih neškodljivih algoritmov. Digitalne ponaredke lahko uporabite za pornografijo, kibernetsko zalezovanje, mrežno nadlegovanje, izsiljevanje in manipulacijo s strani ljudi, ki so lahko sugestivni in ne spremljajo posebej novic s področja naprednih tehnologij (»Vaša hčerka je bila posneta, takoj prenašajte denar, drugače bo VSE vidno«). In ne govorimo nujno o pornografiji: ponaredki se lahko sprožijo tudi v mrežo za politično propagando in spodbujanje sovraštva.
"Toda to je pošastno!" Da, pošastno, in krivdo ni kriptografski koder. Ker hekerji včasih vdrejo v bančne sisteme ne zato, da bi ukradli denar, ampak da bi oddelek za kibernetsko obrambo usmerili v varnostne luknje, ga je izumil anonimni programer AI, ki nas postavi pred dejstvo: obdobje digitalnih ponaredkov ni antiutopična grozljiva zgodba "Črno ogledalo" in prihajajoča resničnost. Sodobna etika še ni razumela (ali se pornofili lahko štejejo za vdor v zasebnost drugih ljudi?), Prav tako ne z veljavnim zakonom. Toda v njej moramo nekako živeti v prihodnjih letih. Zato je treba proti takšnemu nadevu razviti protistrup.
Collinsov kurator imenuje izraz "ponarejene novice" izraz 2017, s čimer poudarja, da je povprečni uporabnik zasvojen s klikom in ponovno objavil senzacionalne naslove, ne da bi zapravljal čas in preverjal verodostojnost informacij. Medtem pa lažne novice lahko vplivajo na rezultate volitev in referendumov. In to je tudi del nove realnosti, v kateri že obstajajo in v katerih se bomo morali naučiti biti manj neresni.
Socialna omrežja so internet že postavila v hišo s steklenimi stenami, kjer lahko milijoni ljudi vsak dan gledajo vaše življenje - tudi če je ne želite. Zdaj je očitno, da tudi v tej hiši ni vrat: kdorkoli lahko poskuša vdreti v vaš osebni prostor, uporabite AI, da se zaveže vašemu obrazu v pornorollu ali filmu "Gospodar prstanov". Zasebnost je mrtva, toda ne le Big Brother je kriv za to v obliki posebnih storitev in globalnih korporacij, ampak tudi nas samih.
Prihaja svet digitalnih ponaredkov, vendar to ni razlog za paniko, paranojo, zavrnitev uporabe interneta ali zahteve po prepovedi nevronskih mrež. To je razlog za razmišljanje o higieni omrežja in novi etiki, ki bo enkrat za vselej določila, da je uporaba podobe nekoga drugega za ustvarjanje digitalne ponaredke pokvarjena in nezakonita. Časi, ko ljudje brezpogojno verjamejo v vse, kar pravijo na televiziji (tudi če pravijo, da je bil "Lenin gob"), izginejo. Na enak način se postopoma navadimo, da ne verjamemo v vse, kar je napisano na internetu.
Pokrijte:Warp zapisi