vart är ai på väg?

I och med Chat GPT har AI, eller artificiell intelligens, populariserats i breda folklager, trots att konceptet bakom tjänsten egentligen inte alls är nytt. AI finns överallt omkring oss och har så gjort under en lång tid. Redan när Google lanserade sin sökmotor 1997 berättade grundarna att de ansåg sig ha startat ett AI-företag. Dessförinnan hade fältet under åtminstone ett par decennier redan exploaterats av en rad forskare och entreprenörer och givit upphov till datorer som enkelt besegrar människor i både schack och Jeopardy.

Inom populärkulturen är AI inte sällan ondskefull och farlig. I Stanley Kubricks rymdäventyr 2001 antar den formen av den manipulativa datorn HAL, en sorts virtuell assistent med mordiska tendenser och känsligt ego (Hej Siri). I stilbildande Matrix från 1999 har den fångat och förslavat hela mänskligheten i en fejkad digital verklighet, designad för att framstå som alltigenom verklig och därmed neutralisera eventuellt motstånd.

Dystopier har alltid kittlat den mänskliga fantasin, men nu verkar den stundande undergången mer än kanske någonsin tidigare vara på allas läppar. Hur gick det egentligen till?

2014 publicerade den svenske filosofen Nick Boström sin bok Superintelligence: Paths, dangers, strategies i vilken han förutspår en AI som snart är så pass kompetent att den på egen hand kan bygga en ny och ännu bättre AI. Därmed, menad Boström, är människan inte längre nödvändig och tappar kontrollen och processen. Vad som potentiellt händer efter det är ämnet för nutidens uppblossade debatt om de möjliga farorna med AI.

Ett grundläggande problem är att AI-systemens algoritmer inte har någon automatiskt inbyggd moral som hindrar den från att formulera tveksamma målsättningar. Den kan exempelvis bestämma sig för att målet med sin existens är alla människors omedelbara lycka, och därefter proppa oss fulla med droger. En enkel lösning på ett komplext problem, men inte helt okontroversiell.

AI:n kan också antas sätta helt godtyckliga mål som inte alls tar hänsyn till mänskligheten på annat sätt än att den är i vägen och därmed behöver undanröjas. I nämnda Matrix har maskinerna exempelvis upptäckt att all energi de behöver för att själva överleva kan utvinnas ur just människor, som följaktligen ”odlas” och används som batterier, bortom deras egen vetskap.

En av grundarna till Open AI – det företag som ligger bakom Chat GPT – är inne på samma spår som Boström. Elon Musk menar att vår enda chans att i längden hänga med maskinerna är att koppla upp våra kroppar och hjärnor mot Internet med så kallade brain-machine interfaces. Produkter som Musks nya företag nu förstås är på väg att utveckla.

Så hur mycket ligger det egentligen i dessa obehagliga förutsägelser, och vad kan vi göra för att undvika en sådan utveckling?

När företaget Deepmind Technologies såldes till Google var ett av villkoren för affären att Google skulle inrätta en etisk kommitté som övervakade att AI utvecklades på ett ansvarsfullt sätt. Det är förstås ingen garanti i sig, men medvetenheten om de potentiella farorna har vuxit i kapp med tekniken och allt fler diskuterar nu regleringar och andra sätt att minimera riskerna.

Det är också 10 år sedan Musk själv ansåg att AI var farligare än kärnvapen och inom 10 år skulle orsaka en stor katastrof. Där är vi uppenbarligen inte än.

Ett ytterligare perspektiv är att AI inte nödvändigtvis utgör en intelligens på det sätt som vi människor generellt definierar begreppet. I stor utsträckning bygger den i stället på (oerhört snabb) sammanställning och tolkning av redan befintlig kunskap – kunskap som kommer från människor.

Än så länge har vi kontrollen över vår egen uppfinning, och även om suget efter att utveckla kommersiella produkter baserade på AI är stort så har popkulturens dystopier lärt oss att ingen teknisk utveckling är utan fallgropar. Ju mer konceptet populariseras, och ju mer offentlig debatten om det blir, desto hårdare krav lär ställas på att de aktörer som leder utvecklingen också tar sitt ansvar och visar att de såväl förstår som kan förebygga de risker vi än så länge bara kan fantisera om.