Det menneskelige samfund er filosofisk, intellektuelt – på alle måder – uforberedt på fremkomsten af kunstig intelligens.
For tre år siden, på en konference om transatlantiske spørgsmål, dukkede emnet kunstig intelligens (artificial intelligence – AI) op på dagsordenen. Jeg var på nippet til at springe den session over – det lå uden for min sædvanlige interessesfære – men begyndelsen på præsentationen holdt mig i mit sæde.
Taleren beskrev et computerprogram, som snart ville kunne udfordre internationale mestre i spillet Go. Jeg var forbløffet over, at en computer kunne mestre Go, som er mere kompliceret end skak. Hver spiller indsætter 180 eller 181 brikker i spillet (afhængigt af hvilken farve han eller hun vælger), som placeres skiftevis på et oprindeligt tomt bræt; sejren tilfalder den spiller, der ved at træffe bedre strategiske beslutninger immobiliserer sin modstander ved at kontrollere territorium på mest effektiv vis.
Taleren insisterede på, at denne evne ikke kunne forprogrammeres. Hans maskine, sagde han, lærte at mestre Go ved at træne sig selv gennem øvelse. Efter at være blevet givet Gos grundlæggende regler, spillede computeren utallige spil mod sig selv, lærte af sine fejl og forfinede sine algoritmer i overensstemmelse hermed. I processen overhalede den sine menneskelige mentorers færdigheder. Og ganske rigtigt; i månederne efter talen besejrede et AI-program ved navn AlphaGo overlegent verdens bedste Go-spillere.
Mens jeg lyttede til taleren lovprise denne tekniske fremgang, gav min erfaring som historiker og lejlighedsvis praktiserende statsmand mig anledning til eftertanke. Hvilken indflydelse vil selvlærende maskiner have på historien – maskiner, der erhverver viden ved processer, der er særlige for dem selv, og som anvender denne viden til formål, som ligger uden for menneskelig forståelse? Vil disse maskiner lære at kommunikere med hinanden? Hvordan vil valg blive truffet blandt de nye muligheder, der opstår? Er det muligt, at menneskets historie vil følge samme vej som inkaernes, da de stod over for en spansk kultur, som var uforståelig og endda ærefrygtindgydende for dem? Befinder vi os på kanten af en ny fase i menneskets historie?
