Osiguranje demokracije: Navigacija rizicima sintetičkih medija i deepfake-a u modernim izborima

• Sintetički mediji i deepfake: Tržišna slika i ključni pokretači
• Emerging Technologies Shaping Synthetic Content and Detection
• Igrači u industriji i strateško pozicioniranje u sintetičkim medijima
• Predviđeno širenje i ulaganja u ublažavanje deepfake-a
• Geografski centri i regulatorni odgovori na sintetičke medije
• Očekivanje evolucije sintetičkih medija u izbornim kontekstima
• Rizici, prepreke i strateške prilike za zaštitu izbora
• Izvori i reference

“Napredak u umjetnoj inteligenciji omogućio je stvaranje sintetičkih medija – sadržaja generiranog ili manipuliranog AI-jem – na neviđenoj razini.” (izvor)

Sintetički mediji i deepfake: Tržišna slika i ključni pokretači

Proliferacija sintetičkih medija i deepfake-a preoblikuje informacijsko okruženje, predstavljajući značajne izazove i prilike za očuvanje integriteta izbornog ciklusa 2025. godine. Sintetički mediji — sadržaj generiran ili manipuliran umjetnom inteligencijom, uključujući deepfake — postali su sve sofisticiraniji i dostupniji. Prema izvještaju Gartnera, očekuje se da će 80% kompanija koje se obraćaju potrošačima koristiti generativni AI do 2026. godine, naglašavajući brzu usvajanje tehnologije i potencijal za zloupotrebu u političkim kontekstima.

Deepfake-ovi, koji koriste AI za stvaranje hiper-realistikih, ali proizvedenih audio, video ili slika, već su korišteni kao oružje u prethodnim izbornim ciklusima za širenje dezinformacija i diskreditaciju kandidata. Agencija Europol upozorava da se deepfake-ovi sve više koriste za kampanje dezinformacija, s potencijalom da potkopaju povjerenje javnosti u demokratske procese. U 2023. godini, broj deepfake videa na mreži udvostručio se u odnosu na prethodnu godinu, s više od 500.000 zabilježenih globalno (Deeptrace Labs).

Ključni pokretači povećanog rizika u izbornom ciklusu 2025. godine uključuju:

• Niže prepreke za ulazak: Open-source AI modeli i alati koji su jednostavni za korištenje demokratizirali su stvaranje sintetičkih medija, čineći ih dostupnima ne-stručnjacima (Nature).
• Amplifikacija na društvenim mrežama: Viralne objave na platformama poput X (davno Twitter), Facebooka i TikToka ubrzavaju širenje manipuliranog sadržaja, često prije nego što provjeritelji činjenica mogu reagirati (Brookings).
• Politička polarizacija: Visoko polarizirana okruženja su podložnija utjecaju sintetičkih medija, jer potvrda pristranosti potiče brzo prihvaćanje i širenje lažnih narativa (Pew Research).

Kako bi zaštitili izborni ciklus 2025., vlade, tehnološke kompanije i civilno društvo ulažu u alate za otkrivanje i kampanje za podizanje javne svijesti. Američki Odjel za domovinsku sigurnost pokrenuo je inicijative za suzbijanje dezinformacija vođenih AI-jem (DHS), dok velike platforme uvode markiranje i tehnologije za autentifikaciju sadržaja. Međutim, očekuje se da će utrka u naoružanju između kreatora i detektora sintetičkih medija intenzivirati, čineći budnost i suradnju među sektorima ključnima za integritet izbora.

Emerging Technologies Shaping Synthetic Content and Detection

Brza evolucija sintetičkih medija i deepfake tehnologija značajno će utjecati na izborni ciklus 2025. godine. Sintetički mediji — sadržaj generiran ili manipuliran umjetnom inteligencijom — obuhvaćaju hiper-realistične slike, audio i video koji se mogu teško razlikovati od autentičnog materijala. Deepfake-ovi, podskup sintetičkih medija, koriste algoritme dubokog učenja za postavljanje lica, promjenu glasova i iskrivljavanje događaja, podižući zabrinutost zbog dezinformacija, manipulacije biračima i erozije povjerenja javnosti.

Recent advancements have made deepfake creation more accessible and convincing. According to a Gartner report, by 2026, 80% of consumers are expected to have interacted with generative AI, highlighting the mainstreaming of these technologies. In the political arena, this means that malicious actors could deploy deepfakes to impersonate candidates, spread disinformation, or suppress voter turnout, as seen in recent incidents during global elections (Brookings).

Kako bi zaštitili izborni ciklus 2025. godine, pojavljuje se višestruki pristup:

• Alati za otkrivanje pokretani AI-em: Kompanije poput Deepware i Sensity AI razvijaju napredne platforme za otkrivanje koje analiziraju digitalne otiske, metapodatke i inconsistencies u audio-vizualnom sadržaju kako bi označile potencijalne deepfake-ove u stvarnom vremenu.
• Protokoli autentifikacije: Inicijative poput Content Authenticity Initiative i C2PA rade na ugrađivanju podataka o porijeklu i kriptografskih potpisa u medijske datoteke, omogućavajući provjeru podrijetla i integriteta sadržaja.
• Zakonske i regulativne mjere: Vlade donose zakone kako bi kriminalizovale zloupotrebu deepfake-a i zahtijevale otkrivanje sadržaja generiranog AI-jem. Digitalna usluga Evropske unije AI Act i predloženi zakon u SAD-u imaju za cilj obavezati platforme na odgovornost za distribuciju sintetičkih medija.
• Kampanje za podizanje javne svijesti: Izborne komisije i organizacije civilnog društva pokreću edukativne inicijative kako bi pomogle biračima da prepoznaju i prijave sintetički sadržaj, kako preporučuje Verified Initiative.

Kako se tehnologije sintetičkih medija nastavljaju razvijati, izborni ciklus 2025. godine testirat će otpornost sustava otkrivanja, regulatornih okvira i javne budnosti. Proaktivan pristup novim mjerama zaštite neophodan je za zaštitu demokratskih procesa od disruptivnog potencijala deepfake-a.

Igrači u industriji i strateško pozicioniranje u sintetičkim medijima

Brza evolucija sintetičkih medija i deepfake tehnologija preoblikuje informacijsko okruženje, predstavljajući prilike, ali i značajne rizike za izborni ciklus 2025. godine. Igrači u industriji — uključujući etablirane tehnološke gigante, specijalizirane startupe i organizacije vođene politikom — aktivno razvijaju alate i strategije za otkrivanje, ublažavanje i upravljanje utjecajem manipuliranih medija na demokratske procese.

• Glavne tehnološke kompanije: Vodeće tvrtke poput Meta, Google i Microsoft ulažu u alate za autentifikaciju sadržaja i porijeklo vođene AI-jem. Na primjer, Meta-in “Content Credentials” inicijativa i Googleov “About this image” značajka imaju za cilj pružiti korisnicima kontekst i tragove za digitalni sadržaj, pomažući biračima da razlikuju autentične medije od manipuliranog ili sintetičkog sadržaja.
• Specijalizirani startupi: Tvrtke poput Deeptrace (sada Sensity AI) i Verity su na čelu otkrivanja deepfake-a, nudeći usluge monitoringa u stvarnom vremenu i forenzičke analize. Njihove platforme sve više koriste redakcije, platforme društvenih medija i tijela koja prate izbore kako bi označile i uklonile obmanjujući sadržaj prije nego što on može utjecati na javno mnijenje.
• Političke i zagovaračke grupe: Organizacije poput Election Integrity Partnership i Coalition for Content Provenance and Authenticity (C2PA) surađuju s industrijom i vladom kako bi uspostavile standarde za autentifikaciju medija i zagovarale regulatorne okvire za rješavanje jedinstvenih izazova koje sintetički mediji predstavljaju u izborima.

Strateški, ovi igrači se pozicioniraju kao ključni čuvari integriteta izbora. Prema izvještaju Gartnera, očekuje se da će 80% potrošača naići na deepfake-e do 2026. godine, naglašavajući hitnost za robusne mjere zaštite. Izborni ciklus 2025. godine će najvjerojatnije vidjeti povećanu upotrebu markiranja, digitalnih potpisa i AI-pokretanih alata za verifikaciju, kao i suradnju među sektorima kako bi se osiguralo da sintetički mediji ne potkopavaju demokratsko povjerenje ili izborne ishode.

Predviđeno širenje i ulaganja u ublažavanje deepfake-a

Proliferacija sintetičkih medija i deepfake-a predstavlja značajnu prijetnju integritetu izbornog ciklusa 2025. godine, potičući nagli porast predviđenog širenja i ulaganja u tehnologije ublažavanja deepfake-a. Kako alati za generativnu AI postaju sve dostupniji, rizik od manipuliranog audio, videa i slika koji se koriste za dezinformiranje birača ili diskreditiranje kandidata se povećava. Prema izvještaju Gartnera, do 2026. godine očekuje se da će 80% potrošača koristiti ili kreirati sadržaj koristeći generativni AI, naglašavajući hitnost robusnih mjera zaštite.

U odgovoru, kako javni tako i privatni sektori povećavaju ulaganja u rješenja za otkrivanje i autentifikaciju deepfake-a. Globalno tržište detekcije deepfake-a predviđa se da će rasti s 0,3 milijarde dolara u 2023. na 1,2 milijarde dolara do 2027. godine, s godišnjom stopom rasta (CAGR) od 32,2%, prema MarketsandMarkets. Ova ekspanzija vođena je povećanom potražnjom od strane vlada, platformi društvenih medija i novinskih organizacija koje traže zaštitu izbornih procesa od manipulacije.

• Vladine inicijative: Američki Odjel za domovinsku sigurnost najavio je povećano financiranje za istraživanje autentifikacije sadržaja i markiranja putem AI-a, s ciljem implementacije ovih alata prije izbora 2025. (DHS).
• Suradnja u tehnološkoj industriji: Velike tehnološke tvrtke, uključujući Microsoft, Google i Meta, formirale su Content Authenticity Initiative kako bi razvile otvorene standarde za porijeklo i verifikaciju medija, s pilot programima planiranim za početak u kasnoj 2024. godini.
• Ulaganja u rizični kapital: Ulaganja u startupove za ublažavanje deepfake-a dosegnula su 187 milijuna dolara u 2023. godini, što je povećanje od 60% u odnosu na prethodnu godinu, kako izvještava CB Insights.

Kako se približavaju izbori 2025., očekuje se da će se konvergencija regulatorne akcije, tehnološke inovacije i suradnje među sektorima ubrzati implementaciju alata za ublažavanje deepfake-a. Ovi napori su ključni za zaštitu demokratskih procesa i očuvanje povjerenja javnosti u izbore.

Geografski centri i regulatorni odgovori na sintetičke medije

Proliferacija sintetičkih medija i deepfake-a postaje kritična briga za integritet izbornog ciklusa 2025. godine širom svijeta. Kako alati za generativnu AI postaju sve dostupniji, rizik od manipuliranog audio, videa i slika koji utječu na javno mnijenje i ponašanje birača se povećava. Prema izvještaju Gartnera, očekuje se da će 80% kompanija koje se obraćaju potrošačima koristiti generativni AI do 2026. godine, naglašavajući brzu usvajanje tehnologije i potencijal za zloupotrebu u političkim kontekstima.

Geografski centri

• Sjedinjene Američke Države: S predsjedničkim izborima 2024. kao prethodnikom, SAD su središnja tačka za prijetnje sintetičkim medijima. Agencija za kibernetsku sigurnost i sigurnost infrastrukture (CISA) i FBI izdale su zajedničke smjernice za ublažavanje prijetnji deepfake-om vođenim AI-jem, naglašavajući potrebu za robusnim alatima za otkrivanje i kampanjama za podizanje javne svijesti.
• Evropska unija: AI Act EU-a, privremeno dogovoreno u decembru 2023. godine, zahtijeva transparentnost za sintetički sadržaj i traži od platformi da označavaju medije generirane pomoću AI-a, posebno tokom izbora.
• Indija: Kao najveća demokratija na svijetu, Indija se suočava s jedinstvenim izazovima s deepfake-ovima na regionalnim jezicima. Ministarstvo elektronike i informatičkih tehnologija (MeitY) predložilo je izmjene IT pravila iz 2021., zahtijevajući od platformi da identificiraju i uklone deepfake sadržaj u roku od 24 sata od obavijesti.
• Brazil: Nakon incidenata tokom izbora 2022., Vrhovni izborni sud Brazila odobrio je 2023. godine regulative koje zabranjuju korištenje deepfake-a u političkoj reklami i zahtijevaju jasno označavanje sintetičkog sadržaja.

Regulatorni odgovori i zaštite

• Tehnologija otkrivanja: Vlade i tehnološke kompanije ulažu u alate za detekciju pokretane AI-em. Na primjer, Meta je uvela značajke markiranja i porijekla kako bi pomogla korisnicima da identificiraju manipulirane medije.
• Javna svijest: Inicijative poput Election Integrity Partnership imaju za cilj educirati birače o rizicima sintetičkih medija i promicati medijsku pismenost.
• Pravni okviri: Zemlje ažuriraju izborne zakone kako bi se pozabavile dezinformacijom generiranom AI-jem, s kaznama za nepoštivanje i zahtjevima za brzu eliminaciju štetnog sadržaja.

Kako se približava izborni ciklus 2025., presjek sintetičkih medija i integriteta izbora ostat će visoki prioritet za regulatore, platforme i civilno društvo širom svijeta.

Očekivanje evolucije sintetičkih medija u izbornim kontekstima

Brzi napredak sintetičkih medija — posebno deepfake-a — predstavlja značajne izazove za integritet izbornog procesa širom svijeta. Kako se izborni ciklus 2025. godine brzo približava u nekoliko velikih demokratija, uključujući Sjedinjene Američke Države, Indiju i Veliku Britaniju, proliferacija audio, videa i slika generiranih AI-em izaziva hitne zabrinutosti zbog dezinformacija, manipulacije biračima i povjerenja javnosti.

Deepfake-ovi, koji koriste umjetnu inteligenciju za stvaranje hiper-realistikog, ali proizvedenog sadržaja, postali su sve dostupniji i uvjerljivi. Prema izvještaju Gartnera, do 2026. godine očekuje se da će 80% potrošača koristiti alate za generativni AI, što naglašava mainstreaming ovih tehnologija. U političkom arenu, to znači da zlonamjerni akteri mogu lako proizvoditi i distribuirati lažne govore, prerađene intervjue ili obmanjujući izborni materijal, potencijalno utječući na javno mnijenje ili potkopavajući kandidate.

Recent incidents underscore the threat. In early 2024, a deepfake robocall impersonating U.S. President Joe Biden urged voters to skip the New Hampshire primary, prompting investigations and calls for stricter regulation (The New York Times). Similarly, in India’s 2024 general election, AI-generated videos of political leaders circulated widely on social media, blurring the line between authentic and manipulated content (BBC).

Kako bi zaštitili izborni ciklus 2025. godine, vlade, tehnološke kompanije i civilno društvo pojačavaju napore:

• Legislacija: Digitalna usluga Evropske unije i američki Zakon o odgovornosti DEEPFAKES su među regulatornim okvirima koji nastoje obavezati transparentnost i odgovornost za sintetičke medije (Euronews).
• Alati za otkrivanje: Tehnološki divovi poput Google-a i Microsoft-a uvode AI-pokretane sustave detekcije kako bi označili i labelirali manipulirani sadržaj (Reuters).
• Javna svest: Inicijative za edukaciju birača o rizicima sintetičkih medija se šire, s organizacijama poput First Draft koje pružaju resurse za identifikaciju i prijavu deepfake-ova.

Kako se tehnologija sintetičkih medija razvija, višestruki pristup — kombiniranje regulacije, tehnološke inovacije i javne edukacije — bit će ključan za zaštitu kredibiliteta izbora 2025. i očuvanje demokratskih normi.

Rizici, prepreke i strateške prilike za zaštitu izbora

Sintetički mediji i deepfake: Zaštita izbornog ciklusa 2025. godine

Proliferacija sintetičkih medija i deepfake-a predstavlja značajne rizike za integritet izbornog ciklusa 2025. godine. Deepfake-ovi — audio, video ili slike generirane AI-em koji uvjerljivo oponašaju stvarne osobe — mogu se koristiti kao oružje za širenje dezinformacija, manipulaciju javnim mnijenjem i potkopavanje povjerenja u demokratske procese. Prema izvještaju Europola, dostupnost deepfake tehnologije je povećana, s alatima sada dostupnim široj javnosti, što olakšava zlonamjernim akterima stvaranje uvjerljivog lažnog sadržaja na velikoj skali.

• Rizici: Deepfake-ovi se mogu koristiti za imitaciju političkih kandidata, fabrikaciju izjava ili postavljanje događaja koji nikada nisu dogodili. Tokom primarnih izbora u SAD-u 2024. godine, AI-generirane robocalls koje su imitacije predsjednika Bidena korištene su za obeshrabrivanje birača, ističući stvarni utjecaj takvih tehnologija (The New York Times).
• Prepreke: Otkrivanje i ublažavanje deepfake-ova ostaje tehnički izazov. Iako se alati za detekciju zasnovani na AI-u poboljšavaju, suprotnici se neprestano prilagođavaju, što čini igru mačke i miša. Osim toga, brzo širenje sadržaja na platformama društvenih medija nadmašuje sposobnost provjeritelja činjenica i vlasti da reaguju (Brookings Institution).
• Strateške prilike: Da bi zaštitili izbore, vlade i tehnološke kompanije ulažu u tehnologije za otkrivanje i autentifikaciju. Inicijative poput Content Authenticity Initiative imaju za cilj pružanje podataka o porijeklu digitalnih medija, pomažući korisnicima u verifikaciji izvora i integriteta sadržaja. Zakonski napori, kao što je predloženi DEEPFAKES Accountability Act u SAD-u, nastoje obavezati označavanje i kriminalizovati zloćudnu upotrebu sintetičkih medija.

Gledajući unaprijed prema 2025. godini, višestruki pristup je od suštinskog značaja. To uključuje kampanje za javnu edukaciju u cilju podizanja svesti o sintetičkim medijima, suradnju između platformi i izbornih vlasti kako bi se brzo označio i uklonio štetan sadržaj, i razvoj robusnih pravnih okvira. Kako se tehnologija deepfake-a razvija, tako se moraju i strategije za zaštitu integriteta izbora, osiguravajući da birači mogu vjerovati onome što vide i čuju tokom kritičnih demokratskih momenata.

Izvori i reference

• Sintetički mediji i deepfake: Zaštita izbornog ciklusa 2025.
• Izvještaj Europola
• Nature
• Brookings Institution
• Pew Research
• Deepware
• Sensity AI
• Content Authenticity Initiative
• Coalition for Content Provenance and Authenticity (C2PA)
• AI Act
• Meta
• Google
• Election Integrity Partnership
• MarketsandMarkets
• Ministarstvo elektronike i informatičkih tehnologija (MeitY)
• The New York Times
• BBC
• Euronews
• First Draft