Dezinformacije i deepfakeovi koje pokreće umjetna inteligencija alati su koji mogu prevariti glasače, iskriviti diskurs i narušiti povjerenje u političke sustave
Svijet je usred ključne izborne godine, a integritet demokratskih procesa ugrožen je dezinformacijama. Ove godine, u kojoj više od dvije milijarde ljudi ima priliku glasati na nacionalnim izborima, Microsoft je posvećen jačanju sigurnosti i otpornosti izbora kroz inovativna rješenja i alate za glasače, kandidate, političke kampanje i izborna tijela.
Microsoft korištenjem vrhunske tehnologije osmišljene za zaštitu izbornog procesa i njegovih dionika nastoji unaprijediti sigurnost izbora i zdravog informacijskog okruženja. U današnjem složenom digitalnom krajoliku nije riječ samo o tehnologiji – riječ je o osiguravanju budućnosti same demokracije.
Poznato je da deepfake tehnologija koristi umjetnu inteligenciju te kreira uvjerljive, no lažne fotografije, video ili zvučne zapise, što predstavlja ozbiljne rizike za integritet izbora. Porast deepfakeova i ostalog sadržaja generiranog pomoću umjetne inteligencije dodao je novu dimenziju brizi za sigurnost izbora.
Nedavno istraživanje koje je proveo Sumsub pokazalo je deseterostruki porast deepfakeova u svim industrijama globalno, pri čemu je Sjeverna Amerika zabilježila porast od nevjerojatnih 1740% u broju deepfakeova otkrivenih samo tijekom prošle godine.
Tijekom 2023. godine na društvenim mrežama širom svijeta podijeljeno je više od 500 000 deepfake videa i zvučnih zapisa, pokazujući razmjere problema. Deepfakeovi više no ikada olakšavaju zlonamjernim akterima manipulaciju medijima.
Ono što je nekada zahtijevalo sofisticirane vještine sada je dostupno svakome s internetskom vezom i osnovnim AI alatima. Ova promjena ne samo da potiče krađe identiteta i phishing prevare, već i ugrožava povjerenje javnosti u izborne procese, informacije i rezultate.
Drugi Microsoft izvještaj o sigurnosnim prijetnjama izborima otkriva ključne uvide o tome kako se umjetna inteligencija koristi kao „oružje“ na izborima, ističući da sadržaj poboljšan umjetnom inteligencijom – u odnosu na onaj u potpunosti kreiran korištenjem umjetne inteligencije – može imati jači utjecaj, posebno kad je osmišljen da odaje dojam da je riječ o osobnom sadržaju, kao što je na primjer lažni zvučni zapis iz privatnog telefonskog razgovora.
Izvještaj ističe nekoliko čimbenika koji doprinose riziku koji generativna umjetna inteligencija predstavlja za izbore u 2024. godini:
• Sadržaj poboljšan umjetnom inteligencijom utjecajniji je od sadržaja koji je u potpunosti generiran korištenjem umjetne inteligencije
• Zvučni zapis kreiran pomoću umjetne inteligencije je utjecajniji od videa kreiranog korištenjem AI-ja
• Lažni sadržaj koji djeluje kao da dolazi iz privatnog okruženja, kao što je telefonski poziv, učinkovitiji je od lažnog sadržaja iz javnog okruženja, kao što je deepfake video svjetskog vođe
• Distribucija dezinformacija ima veći učinak tijekom razdoblja krize i udarnih vijesti
• Oponašanje manje poznatih ljudi učinkovitije je od oponašanja vrlo poznatih ljudi, poput svjetskih vođa.
Amy Larsen, direktorica globalnog angažmana i strateških projekata u Microsoftovoj inicijativi Democracy Forward, naglasila je koliko je tvrtka predana borbi protiv ovih prijetnji:
„Microsoft je lider u poticanju odgovornog razvoja umjetne inteligencije i radi na tome da osigura da nove tehnologije budu otporne na zlouporabu. To uključuje niz radnji za pomoć u zaštiti glasača, kandidata, kampanja i izbornih tijela u Europi i diljem svijeta.“
