Artificiell intelligens, AI, är en av de största och viktigaste trenderna just nu. Förväntningar på en exponentiell utveckling av AI är stor och tron på teknikens fördelar överväger idag den alarmism som länge varit den som hörts mest.
För en tid sedan kommenterade Elon Musk en artikel från New Scientist som, baserat på en undersökning bland AI-experter, hävdar att AI kommer att överträffa människan på allt år 2060. Musks egen bedömning är att det kan ske långt tidigare än så. Att AI redan till 2030 skulle kunna ha utvecklats till att prestera bättre än människan menar han beror på att utvecklingskurvan inte är linjär, utan går brant uppåt.
Enligt Fredrik Heintz, ordförande för svenska AI-sällskapet och docent vid Linköpings Universitet, är en exponentiell tillväxt av AI en av två möjliga vägar. Efter de senaste två årens genombrott med imponerande och oförväntade resultat finns det stora förväntningar på en fortsatt kraftig utveckling av AI, men enligt honom ska man vara medveten om att det kan vara tillfälligt. Han förklarar utvecklingsförloppet:
– Det har varit en stadig förbättring hela tiden och sen ser vi ett kvalitativt hopp där det har blivit signifikant mycket bättre. Två möjliga förklaringar är just att vi har tagit ett kvalitativt steg framåt, att vi från den nya nivån fortsatt kommer att se en mer jämn inkrementell tillväxt utifrån det nya tillståndet, eller så kommer det fortsätta gå ännu fortare. Hur det kommer att bli är en intressant fråga.
AI och alarmism
Stora teknikförändringar har alltid orsakat viss oro. När det gäller AI har dessutom tekniskt framstående personer alarmerat om möjliga negativa effekter. Stephen Hawking, Bill Gates, Elon Musk och Michael Vassar är bara några av de forskare, entreprenörer och experter som uttryckt sin oro inför alltför intelligenta system i framtiden och uppmanat till försiktighet.
Den oro som de ger luft åt grundar sig i ett tillstånd av teknisk singularitet där människan tappar kontrollen över de intelligenta system de skapat. Det låter som ett scenario hämtat från en Hollywoodfilm och är lätt att avfärda som science fiction.
De största farhågorna kring AI i dagsläget rör istället frågor om säkerhet, integritet och att jobb ska försvinna. Fredrik Heintz menar att det hos människor alltid finns en oro för förändringar, men att det finns ett värde med att den bearbetas i tid.
– Samhällsprocesser är otroligt långsamma. Därför är det bra att oron kommer nu. Förhoppningsvis leder det till förändring så att man kan förbereda sig snarar än att reagera efter det har hänt, säger han.
Den oro som finns tycks ändå bara vara en strimma i jämförelse med de fördelar och förväntningar som finns på AI och den tekniska utvecklingen. Så länge det är till ens fördel är attityden till AI hos de flesta mycket positiv, visar en undersökning från Rocketfuel. Framförallt är det millennials som uppges förstå det verkliga värdet med de möjligheter som tekniken ger.
Även de tidigare nämnda teknikpersonligheterna, varningarna till trots, ser otroliga fördelar med AI och vad de intelligenta systemen kan göra för mänskligheten.
AI och samhällsnytta
Mycket av den satsning som görs inom AI är inriktad just på att förbättra för människor och göra världen till en bättre plats att leva på. DeepMind satsar på positiv påverkan med sin AI-forskning, XPRIZE gör det med sin tävling.
På AI-toppmötet AI for Good som hölls i Geneve häromveckan låg fokus på hur man ska påskynda och främja utvecklingen och demokratiseringen av AI-lösningar som kan ta itu med specifika globala utmaningar relaterade till bland annat fattigdom, hunger, hälsa, utbildning och miljö. Till exempel finns det en ambitiös plan på hur AI ska lösa de globala hållbarhetsmålen (SDG).
Huvudattraktion på konferensen var den människoliknande roboten Sophia som ville övertyga publiken att AI är bra för världen. Hon intygade även att robotar har goda avsikter med att vara människans vän och medhjälpare.
På en mer lokal nivå är det en AI i stil med Sophia man förväntar sig, även om det människolika fortfarande kan vara svårt att förlika sig med. Förväntningar hos användare på vad en AI ska klara av har alltid varit höga, menar Fredrik Heintz.
– Man förväntar sig att de ska vara som vi, man ska kunna interagera med ett datasystem på samma sätt som med en människa. Man ska kunna ställa tvetydiga, oklara frågor och få någon form av vettigt svar trots allt. Man ska få bra hjälp och detaljerade svar väldigt snabbt, säger han.
AI och människan
Om användarna förväntar sig en mänskligare interaktion, har de som står bakom systemen snarare förväntningar på att AI ska kunna lösa komplicerade problem utan mänsklig inblandning.
Dagens AI kräver dock fortfarande mycket manuellt arbete. Fredrik Heintz upplever att utvecklingen gör imponerande framsteg, men att det är långt kvar till Att AI ska klara sig utan mänsklig kontroll.
– Idag måste man ge väldigt detaljerade instruktioner, man måste vara noggrann, minsta lilla fel och det blir något helt annat. Men det går mot att datasystemen kan fylla i mer och mer åt oss, och kan ta längre och längre steg, berättar han.
Om det blir en exponentiell explosion av AI eller en ny normalnivå är det ännu ingen som vet. Fredrik Heintz menar att båda utvägarna är rimliga. Troligt är däremot att människan kommer att ha ett finger med i spelet åtminstone lång tid framöver.
I takt med en växande kunskap om hur AI fungerar och vad de intelligenta systemen kan göra för gott, desto mer fördelar att uppstå. Då kommer också förväntningarna på AI att öka och eventuella rädslor med den att minska.
Om Skribenten
Jeanette Kalafatidis Lindberg är socialantropolog och arbetar som omvärldsanalytiker på Docere Intelligence. Hennes främsta projekt är trendsajten Buzzter som publicerar spaningar och analyser, ger ut rapporter och arrangerar olika trendevents. Hon har tidigare skrivit åt Digital Teknik. Du når Jeanette här.
Vill du få tillgång till veckobrevet för DF Analys?
Kändisarna som nämns har ju mest varnat för att AI ska få en egen vilja och vända sig emot mänskligheten, eller möjligen att AI ska utplåna oss i förbifarten medan den löser någon annat viktigt mål (såsom att tillverka gem av allt som finns). Och lösningarna som då diskuteras är att se till att förse AI med mer sunt förnuft och gränser för vad den kan ta sig till, robotiklagar, o.dyl.
Jag har dock kommit på ett annat scenario som för mig känns mer skrämmande och svårare att stoppa.
Nämligen att någon ondsint diktator (eller liknande) tar hjälp av AI för att omstörta sina fiender, t ex alla demokratiska länder, och andra. Bara som en förebyggande åtgärd, för att inte själv riskera att bli störtad.
Det finns ju redan ett ständigt pågående informations- och propagandakrig och spioneri och ett manövrerande från många stater för att se till att man har övertaget ”om” de skulle bli attackerade av ett annat land eller inre fiender, och se till att tänkta motståndare är försvagade och splittrade redan på förhand. Man utnyttjar alla teknologier som står till buds, inkl Internet, datorintrång, virus, likaväl som militär teknik. Så det kommer väl att vara helt logiskt att de även adderar all tänkbar AI-teknik i den takt den kommer, för att göra redan pågående destabiliserande åtgärder ännu mer effektiva. Där finns knappast några hämningar mot att låta denna AI-teknik arbeta även mot ondsinta mål, avsiktligt uppsatta att skada andra människor eller i varje fall deras samhällen och levnadsbetingelser. (Man har ju alltid ursäkten att det är riktat mot fienden, inte en själv.)
Enda begränsningen hittills är antagligen att AI ännu inte är fullt så intelligent och självständig. Men när AI blir det, så finns antagligen inget hinder mot att ge AI mer övergripande ondsinta mål, såsom att utarbeta en plan för att på allvar destabilisera eller helt störta ett annat lands samhällsskick innan det landet ens inser vad som pågår. Och genomföra informationsattacker och vad som nu än behövs för det helt automatiserat, på en långt värre skala än det vi sett hittills.
Det skrämmande i detta är att här finns det ju inte ens någon önskan från en sådan AI:s mänskliga skapare att stoppa eller begränsa dess framfart gentemot de människor som har utsetts som fiender!
Alla diskussioner om hur man ska stoppa eller begränsa AI från att vända sig emot oss, blir ju helt betydelselösa när AI:s skapare faktiskt avsiktligt VILL att AI ska göra skadliga saker…
Och det finns ju inget tvivel om att det existerar mer ännog med människor som vill göra skadliga saker mot andra människor, redan utan AI:s hjälp. Så varför inte även med AI?
Risken är säkert dessutom att de länder som kan tänka sig att använda AI på skadligt sätt, även gör allt för att ligga i framkant med att utveckla den förmågan i AI. Så man ska nog inte räkna med att på förhand veta om att denna förmåga närmar sig, och försöka förekomma det med regleringar eller någon form av förebyggande åtgärder.
Förmågan kommer säkert också att utvecklas mycket gradvis. Men just därför är det nog också stor risk att ingen regim som utvecklar ”ondsinda AI” heller lär stanna upp vid någon viss punkt och fråga sig, ”är det här alltför farligt för att ta i bruk?”. Troligen lär den utvecklingen bara rulla på bit för bit, och en dag står vi där.
Vi kanske även kan få se skadliga AI inte bara styrda av diktaturer, utan även i händerna på terrorister. Vissa terrororganisationer har ju varit mycket aktiva med rekrytering och propaganda via nätet. Om de har minsta möjlighet, så lär de ju även välkomna AI-verktyg för att terrorisera alla oss andra. Där är frågan bara om de får tag på sådana verktyg.
(Och då har jag inte ens behövt gå in på autonoma AI-styrda fysiska vapen, som är ett mer uppenbart hot, och som det redan finns en del uppmaningar om att begränsa, och där man kanske kan hoppas att deras skapare har självbevarelsedrift nog att åtminstone se till att de själva har något sätt att stänga av dem.)