Slovakiska politiker som diskuterar hur val ska riggas. Brinnande valkontor i Bangladesh. Joe Biden som uppmanar invånare i New Hampshire att inte rösta i primärvalet. Nakenbilder på popstjärnan Taylor Swift.
Ovanstående är några av många exempel på deepfakes, alltså manipulerade bilder, videos eller ljud som har skapats med hjälp av artificiell intelligens.
Att manipulera mediefiler i syfte att luras för att nå politisk eller ekonomisk vinning är ingenting nytt. Redan för hundra år sedan satte Adolf Hitler och Josef Stalin sina fototekniker på att beskära bort icke önskvärda personer från politiska bilder, och den som under de senaste åren hängt på sociala medier har garanterat stött på fejkade bilder otaliga gånger.
På senare tid har fenomenet dock fått ännu en dimension i och med den teknologiska utvecklingen. Numera är manipulationerna så verklighetstrogna att de många gånger är omöjliga att urskilja med blotta ögat.
Ett supervalår som 2024 är oron stor för att den allt mer avancerade tekniken ska användas för just politisk vinning. Samtidigt går det att fundera kring om någon egentligen blir lurad. Skulle du bli lurad om det plötsligt dök upp ljudfiler som antydde hemliga möten mellan landskapsregeringen och Rysslands president Vladimir Putin där de konspirerade mot Finland? Knappast. Många gånger är tilltagen överdrivna och i ett redan demokratiskt, och för den delen litet, samhälle kan sådan information ofta sållas bort i ett tidigt skede.
Men sätt saken i ett lite mindre extremt och större sammanhang. Ett ljudklipp på Alexander Stubb eller Pekka Haavisto som pratar om att Åland är smutsigt börjar cirkulera på sociala medier. Tror du eller den vanlige finländaren på det? Kanske inte, men det finns definitivt en del som hade gjort det. Manipulerat material tilltalar ofta extremister och konspiratoriker som redan i grunden filtrerar information utgående från förutbestämda uppfattningar.
Går du sedan vidare med något av nämnda scenarion till ett bangladeshiskt valsammanhang, där både demokratin och kunskapen om information och digitalisering redan är låg, blir förstås deepfakes ett ännu farligare vapen.
Helt klart är att ju mer verklighetstroget material, ju större risk att fler blir lurade. Ett annat relaterbart exempel är bedrägerier, som Ålandstidningen rapporterat flitigt om under det senaste halvåret. Antalet bedrägerier ökar i rekordfart och det är tekniken som möjliggör det. Än så länge handlar det ”bara” om att uppringaren ser ut att vara banken eller någon bekant. Nästa steg är att uppringaren låter som din bankrådgivare eller din mamma, och därpå följande gång händer allt på Facetime.
Synar du den bluffen? Kanske är det något märkligt med din mammas ansiktsuttryck som får dig att reagera, eller något hon säger eller frågar. Trots att så gott som all information numera går att hitta ska det förhoppningsvis dröja ett tag innan en bedragare som ser ut som din mamma kan ringa upp på Facetime och prata med precis rätt röst, ord och uttryck om hur hon vill måla om sovrummet på stugan från den ena (riktiga) färgen till den andra.
Samtidigt är den teknologiska utvecklingen inte att underskatta. För bara lite mer än ett år sedan förbryllades världen över hur vem som helst helt plötsligt kunde chatta med en bot som genererade människoliknande text. Visst, för insatta var tekniken kanske inget nytt men det var då den fick genomslag ute bland folk. Nu kan samma relativt billiga och lättillgängliga teknik förvandla till och med den sämsta skådespelaren till allt från Joe Biden till bangladeshiska politiker och din mamma.
Det finns all anledning att vara på sin vakt. Men det räcker inte med det. Bedrägerierna och påverkansförsöken kommer bara att bli fler, och där måste allt från lagstiftare till tekniktillverkare och sociala medieaktörer agera för att åtminstone försvåra för den som har onda avsikter att nå fram och få genomslag. Annars kommer den fiktiva världen att utgöra en grund för allt mer polarisering och bra många fler svindlade miljoner.
Kevin Eriksson
Ingress:
