Duela urte pare batetik hona, ia egunero entzuten ditugu Adimen Artifizialak (AA) izan ditzakeen eraginei buruzko eztabaidak: produktibitate-hazkundeak, lehiakortasun-hobekuntzak, nork irabaziko duen AA orokor baten aldeko lasterketa, zer lanbide eraldatuko diren azkarren, zein desager litezkeen... Hala ere, teknologia horrek gizarteari ekar diezaiokeen onurez harago, egokia litzateke teknologiari lotutako arriskuak zeintzuk izan daitezkeen ebaluatzea. Hori da, hain zuzen ere, Charles I. Jonesek duela gutxi idatzi duen artikulu batean jorratzen den puntua.
Charles I. Jones Stanfordeko Unibertsitateko kidea da, eta bere ikerketak epe luzeko hazkunde ekonomikoari heltzen dio. Bere artikuluan Jonesek planteatzen du AArekin kostuen eta irabazien arteko logika klasikoa ohikoa baino gehiago tenkatzen den eremu batean sartzen garela. Enpresa arloan ohituta gaude berrikuntza edo apustu (teknologiko) batek eragin dezakeen egoerarik okerrenak gainkostu bat sortzea, kuota-galera bat pairatzea, edo lortu nahi ziren helburuak ez lortzea. AAren kasuan, beste bi arrisku-familia gehigarri daudela uste du egileak.
Lehenbizikoak norbanakoek edo talde maltzurrek egin lezaketen erabilera txarrekin zerikusia du, eskala handiko kalteak eragin baititzakete (zibererasoak sustatu, patogeno berriak diseinatu...). Arrisku potentzial horiei heltzeko hurrengo metaforara jotzen du Jonesek. Arma nuklearrekin estatuek zaindutako “botoi gorri” gutxi batzuk daude, baina AArekin “milaka milioi botoi gorriko" egoera batera abiatu gintezke, teknologia horrek pertsona gehiagoren eskuetan bukatu dezaketelako. Teknologiak sarbide-hesiak murriztu ditzake, bai onerako zein txarrerako, eta beraz, arrisku tasa biderkatu.
Jonesek planteatzen du AArekin kostuen eta irabazien arteko logika klasikoa ohikoa baino gehiago tenkatzen den eremu batean sartzen garela
Bigarren arrisku-familia egiturazkoagoa da. AAk aukera ematen du beren kabuz ikasi, optimizatu eta, testuinguru jakin batzuetan, giza gaitasunak gaindi ditzaketen (edo dagoeneko gainditu dituzten) sistemak eraikitzeko. Jonesek honako galdera honekin formulatzen du arrisku hori: nola mantendu dezakegu gu baino boteretsuagoak diren entitateen gaineko kontrola, betiko?
Bigarren arrisku hori gorpuzteko, Manhattan Proiektuaren anekdota historiko bat berreskuratu du. Lehen proba nuklearraren aurretik, atmosfera “piztuko” zuen erreakzio-kate bat sor ote zitekeen eztabaidatu zen. Hala ere, aurrera jarraitu zuten. Hortik aurrera AArentzat bideratutako “Oppenheimer galdera” botatzen du Jonesek: zenbat arrisku onartzeko prest egongo ginateke hazkunde eta ongizatean irabazi erraldoi baten truke?
Jonesek erakusten du galdera horren erantzuna zibilizazio gisa dugun (edo izan nahi dugun) arriskuarekiko ezinikusiaren araberakoa dela, baina ñabardura interesgarri bat sartzen du. Horretarako, hurrengo esperimentu mentala planteatzen du. Imajina dezagun AAk urtero %10eko hazkundea izango duen mundu bat baimentzen duela, baina denarekin amaitzeko one-shot arrisku bat sartzen duela (dena suntsituko duen ekitaldi paregabe baten gertaera, alegia). Gainera, AAk hilkortasuna nabarmen murrizten badu medikuntza aurrerapenei esker, Jonesek iradokitzen du arriskuarekiko oso aurkakoak diren gizarteek ere arrisku maila harrigarriki altuak onar ditzaketela termino erantsietan.
Arazoa, ordea, honetan datza: segurtasun globalak axola duela denok ados bageunde ere, pizgarriek kontrako norabidean bultzatzen dute, presoaren dilema baten antza duen lasterketa-dinamikan. Nik (enpresak, laborategiak edo herrialdeak) AAn egiten ditudan inbertsioak geldiarazten baditut ingurune seguruago bat eraikitzeko, baliteke arrisku globala ez murriztea, beste batzuek inbertsioak azkartzen jarraitzen badute. Aldiz, nire inbertsioak azkartu eta handitzen baditut, “irabazteko” aukerak areagotuko ditut (merkatua, prestigioa, botere geopolitikoa...) eta, gainera, nire ikuspegia besteena baino seguruagoa izango dela bermatu nezake, hain zuzen ere, gehiago inbertitzen dudalako. Ondorioz, denok nahi dugu korrika gehiago egin, nahiz eta guztiok helburu dugun orekari kalte egin.
Lasterketaren atzean dagoen lehia-logika “zenbaketa handiagoa = ahalmen handiagoa = abantaila/botere handiagoa” bada, botila-lepo horretan eragitea izan daiteke interbentzio publikoaren benetako palanka
Dinamika horri aurre egiteko (karrera dezeleratzea eta segurtasun-ikerketa finantzatzea), Jonesek AA entrenatzeko erabiltzen diren txipen gainean (GPUak/TPUak) zerga bat ezartzeko aukera planteatzen du. Lasterketaren atzean dagoen lehia-logika “zenbaketa handiagoa = ahalmen handiagoa = abantaila/botere handiagoa” bada, botila-lepo horretan eragitea izan daiteke interbentzio publikoaren benetako palanka, ez berrikuntza geldiarazteko, baizik eta pizgarriak aldatzeko, auditoretzak baliabidez hornitzeko, estandarrak garatzeko eta segurtasun-neurriak hartzeko. Jakina, horrelako esku-hartze batek nazioarteko koordinaziorako erronkak planteatzen ditu, zenbaketaren deslokalizazioak saihesteko eta argudio geopolitikoak (“ez dezala besteak irabazi”) lasterketa elikatzen duelako, baina, hain zuzen ere, horregatik izan daiteke baliagarria.
Jonesek egindako ekarpenak gogorarazten digu AA ez dela beste tresna bat soilik, gure segurtasun kolektiboa mehatxa dezakeen teknologia bat baizik. AAk oparotasun-motorra izan behar badu, galdera erabakigarria ez da soilik zenbat haziko garen horri esker, baizik eta nola ziurtatuko dugun hazkunde horrek ez dakarrela bere eskutik onar ezin dezakegun arriskua.