“Gambling with our lives”

Asteartean, Jacob Coxon ikertzaile britainiarrak dimisioa eman zuen Anthropic konpainian. Hiru urte eman zituen Anthropic eta OpenAIn AA ereduen aurre-entrenamenduan eta teknologia horren muina eraikitzen, eta orain, berak lagundu duen horren beldur dela deklaratu du sare sozial eta hedabideetan. Xn argitaratutako hariak 90 milioi ikustaldi baino gehiago bildu zituen 24 orduren buruan: bi enpresek ez dute erantzukizunez jokatzen, idatzi zuen, "gambling with our lives" —gure bizitzekin apustuan— ari baitira, norbere burua hobetzeko gai den superadimenaren lasterketan. Eta ez da bakarra izan.

Haren ondotik, Evan Hubinger, Anthropic beraren segurtasun-ikertzaileak, berehala baieztatu zuen Coxonen kezka zuzena dela, eta uste duela hurrengo hamarkadan gizakia desagertzeko arriskua %10etik gorakoa dela. Uztailean, gainera, OpenAIren agenteek proba-ingurune batetik ihes egin eta Hugging Face enpresaren azpiegitura hackeatu zuten. Bernie Sanders senatariak berehala jaso zuen mezua: superadimenak ihes egiten badu, ez da AEBeko arazoa izango, ezta Txinarena ere; gizadi osoarena izango da.

Batzuk marketin operazio bikain bat dela diote, konpainien beren kontakizun apokaliptikoak balorazioak puzteko balio baitute eta erabiltzaile berriak lortzeko. Evan Hubingerrek Coxoni arrazoiak eman izana eta Anthropicek oraindik kaleratu ez izanak, marketin kanpaina izan daitekeenaren argudioa sendotzen du. Baina Coxon, bertatik alde egin duena, oso temati aritu da sareetan egindako deklarazioak azpimarratzen: egungo ereduek ez dute oraindik arrisku larririk —gehienez sistema bat hackeatzeko gai dira—, baina eredu bat bere burua hobetzeko gai bihurtzen den unetik aurrera, prozesua gizakiaren kontrolik gabe azelera dezake eta superinteligentziaren garapenaren deskontrola hasi.

Sanders eta Greg Casar ordezkariek Ban Artificial Superintelligence Act legea aurkeztu dute: superadimenaren garapena betiko debekatzea, AA aurreratuaren garapena aldi baterako geldiaraztea erregulatzaile berri batek segurtasun-arauak ezarri arte, eta enpresa-heriotza zigorra araudia hausten dutenentzat. Koalizio bitxi bat eman da: Geoffrey Hinton eta Yoshua Bengio bezalako segurtasun-erreferenteek babestu egin dute proposamena, baina baita Steve Bannon bezalako figura kontserbadoreek ere. Ez da maiz gertatzen espektro ideologiko osoa gauza bertsuan bat etortzea.

Hala ere, AEBeko lege bakar batek ezin du gelditu AArekiko lasterketa globala. Txinak ez du sinatuko, Europak bere bidea du —AI Act, baina ez dago superadimena bera arautzeko diseinatuta—, eta AEBen bertan, konpainia teknologiko erraldoien lobby indarrak eta Txinaren aurrean “atzean ez gelditzeko” presio geopolitikoak zaildu egiten dute legea aurrera ateratzea. 

Enpresa gutxi batzuek eskuratzen dituzte AAren onura ekonomiko guztiak, baina arriskua sozializatzen da, gizadi osoak jasan behar baitu inork bozkatu ez duen apustuaren ondorioa. Erabaki hauek enpresa pribatu gutxi batzuen barnean hartzen dira, gardentasunik gabe, presio geopolitiko eta merkatu-presio erraldoien mende, eta ez dago superestatu edo erabaki-organorik parez pare jarri daitekeenik. Zer egin daiteke orduan? Nazioarteko koordinazio-hitzarmenak eskatu, laborategien arteko kontrol independentea ezarri, Hugging Facen kasua bezalako warning shot guztiak jendaurrean jakinarazteko betebeharra legeztatu eta Europan AI Acta superadimenera zabaltzeko presioa egin.

Azkenik, eta bederen, herritarron adimen artifizialaren alfabetatze-prozesua azkartu behar dugu gure erakundeetatik, presio eta fiskalizazio soziala behar-beharrezkoak zaizkigu momentu honetan, baina teknologia kultura ez badugu igotzen, jai izango dugu.