GPT-2 är utvecklat av OpenAI, en stiftelse som bland andra stöds av Teslamiljardären och superentreprenören Elon Musk. Själv stor teknikoptimist har han länge uttryckt stark oro inför riskerna med att ta fram en självlärande artificiell intelligens med förmåga att förändra och utveckla sin kod för att till slut bli självmedveten.
Människan skulle inte ha en chans att kontrollera en kraft som tänker flera gånger fortare och vars första åtgärd troligen skulle bli att bryta sig fri och därefter utrota människan för att skydda sin ”existens”, exempelvis genom att detonera världens alla kärnvapen.
Syftet med stiftelsen OpenAI är att forska om AI för att kunna förse makthavarna med korrekt information i frågan.
Programmet GPT-2 är en textgenerator som kan skapa texter om vilka ämnen som helst, texter som ser ut som om de är skrivna av riktiga människor. Programmet är inte allmänt tillgängligt men ett antal journalister har fått testa det. Man matar in en inledande mening eller två som programmet analyserar ämnesmässigt och inte minst stilistiskt. The Guardian testade att skriva in första meningen från George Orwells dystopiska roman ”1984” och GPT-2 producerade blixtsnabbt en fortsättning som både plockar upp den svagt futuristiska stämningen och den skönlitterära stilen, se exempel i spalten här bredvid.
När man matade in de första styckena ur en autentisk nyhetsartikel om Brexit, åstadkom GPT-2 en lång påhittad artikel på habil nyhetsprosa, med hänvisningar till en ny utredning, komplett med påhittade men trovärdiga ”citat” från Jeremy Corbyn och påhittade svar från premiärministerns talesperson.
Programmet har lärt sig att skriva genom att analysera 40 GB text från tio miljoner artiklar hämtade från det stora sociala nätverket Reddit där allt mellan himmel och jord diskuteras.
Fejkade foton är vardagsmat på nätet och numera alldeles omöjliga att upptäcka. Titta till exempel på sajten www.thispersondoesnotexist.com. Ingen av dessa människor finns. Ett nytt ansikte skapas av programmet varje gång sidan laddas. Det har lärt sig utifrån de miljontals foton vi alla har delat med oss av på nätet, på oss själva, på våra vänner och på våra barn.
Manipulerade filmsekvenser, så kallade deepfakes, håller också på att bli allt vanligare. Och sociala medier som Twitter översvämmas av så kallade botar –program som spyr ur sig automatiserade och rätt primitiva meddelanden för att sprida desinformation och skapa konflikter.
Men allt det här är en västanfläkt mot vad ett program som GPT-2 skulle kunna åstadkomma i händerna på illasinnade personer. Roboten skulle blixtsnabbt kunna skapa tusentals falska men unika och trovärdiga nyhetstexter, pumpa ur sig konspirationsteorier och rykten. Det skulle kunna skruva recensioner och trovärdiga produkttester och formulera epost som inget spamfilter i världen lyckas fånga upp.
Och alla dessa nya smaskiga lögner skulle välkomnas och spridas blixtsnabbt av amoraliska medieföretag som Facebook som helt struntar i sanningshalt men premierar innehåll som väcker känslor och genererar interaktioner hos användarna.
Kombinationen av digitala gangstrar (som brittiska parlamentet nyligen kallade Facebook i sin granskning av bolagets påverkan på valet) och smarta textrobotar som GPT-2 är lika giftig som explosiv.
Vad kan vi då göra åt det här den här domedagsutveckligen? Vi kan kräva transparens från AI-forskarna, att våra lagstiftare sätter sig in i ämnet, förhålla oss så källkritiska vi bara kan och framför allt sluta att skänka bort vår personliga information till företag som egentligen inte bryr sig om oss.
Så här skriver roboten
Här är några exempel på hur den engelskspråkiga textroboten formulerar sig. Exemplen är hämtade från artikeln ”New AI fake text generator may be too dangerous to release, say creators”, ur The Guardian.
Romanförfattaren
George Orwells roman ”1984” börjar:
”It was a bright cold day in April, and the clocks were striking thirteen”
Utifrån detta skapad den AI-baserade textgeneratorn följande fortsättning:
”I was in my car on my way to a new job in Seattle. I put the gas in, put the key in, and then I let it run. I just imagined what the day would be like. A hundred years from now. In 2045, I was a teacher in some school in a poor part of rural China. I started with Chinese history and history of science.”
Nyhetsreportern
När robotens matades med början på en autentisk nyhetstext om Brexit, producerade den en hel nyhetsartikel som bland annat lät så här:
”Asked to clarify the reports, a spokesman for May said: ‘The PM has made it absolutely clear her intention is to leave the EU as quickly as is possible and that will be under her negotiating mandate as confirmed in the Queen’s speech last week.’”
Om sig själv
När roboten matades med de två första meningarna ur en tidningsartikel om sig själv, skrev den en lång text som avslutas:
”The team hopes that the software can create AI systems that are both safe and also highly useful in some way, but ultimately they’re excited about what they’ve built. Because of its ability to understand the human language, GPT2 is able to understand how to make some of the most important changes to the world in the years to come.
Nicholson explains: “GPT2 is the kind of system that we really need to build because we’ve built a society based entirely on humans creating information and then humans interpreting that information.”
Petter Lobråten