Tecnaliako digitalizazio zuzendaria

Niretzat ondo dago

2026ko azaroaren 20a - 05:30
joseba laka

Urrian, abesti arraro bat zabaldu zen sarean, batez ere software-garatzaileen artean. LGTM du izena, eta milioi bat ikustaldi baino gehiago ditu YouTuben. Ingelesezko Looks Good to Me esamoldearen laburdura da: "Niretzat ondo dago". Ingeniariek kode-zati bat berrikusi ondoren idazten dute, onartzeko. Edo, abestiak salatzen duenez, berrikusi gabe. 

 

Istorioa ezaguna da. Zuzendaritzak adimen artifizialari esker dena hamar aldiz azkarrago egiten dela entzun du, eta epeak horren arabera murriztu ditu. Berrikuspena eta probak dira lehenik desagertzen direnak, ez baitira inoiz bide-orrien diapositibetan agertzen. Bideoaren kredituek ere txantxa bera egiten dute: lanaren berrikuspena bot batek egin omen zuen, 1.363 berrikuslerekin eta gizaki bakar bat ere gabe. Azpiko lerroan, ordea, egia aitortzen dute: benetan, gizaki bakar batek berrikusi zuen. 

Txantxa da (edo ez?), baina baita lekukotza bat ere. Eta ez da software garatzaile espezialisten kontua soilik. 

 

AAk gauza bat izugarri merkatu du: lehen zirriborroa. Kodea, txostena, eskaintza, mantentze agindua, eskuliburu baten itzulpena. Baina zerbait merkatzen denean, gehiago kontsumitzen da, eta sortutako guztia norbaitek egiaztatu behar du. Estugunea ez da desagertu, lekuz aldatu da. Lehen, sortzea zen garestia. Orain, sortutakoa zuzena dela ziurtatzea da. 

Hor dago tranpa: egiaztatzea ez da batere merkatu. Orain garestiagoa da, zuk sortu ez duzuna ulertu behar duzulako eta testu txukun batek akatsak hobeto ezkutatzen dituelako. Erantzun oker eta itsusia erraz harrapatzen da. Oker eta dotorea, ez. 

Hemen, euskal industriak askotan ikusten ez dugun abantaila bat du. Gure aeronautikan, trenen sektorean, farmazia industrian edo makina-erremintan, inork ez du produktu bat trazabilitaterik gabe bidaltzen: neurketa txostena, lote zenbakia, sinadura. Hamarkadetan ziurtagiri eta auditorietan landutako kalitate kultura dugu, eta askotan zama burokratikotzat jo izan dugu. Bada, zama hori aktibo bihurtzen ari da. AAren aroan, ez du azkarren sortzen duenak irabaziko, hobekien egiaztatzen duenak baizik. 

Zer esan nahi du horrek egunerokoan? Lehenik, AA sartzen denean probak ez dira murrizten, indartu egiten dira. Bigarrenik, berrikuspenari eskainitako denbora ez da kostu bat, inbertsio bat baizik, eta aurrekontuetan hala ageri behar du. Hirugarrenik, sinatzen duenak erantzuten du: makinak proposatzen du, pertsonak onartzen du, eta onartzen duenak zer onartzen duen ulertu behar du. Eta laugarrenik, egiaztatzeko gaitasuna landu egin behar da. Duela hilabete, erantzunak merke direla eta galdera onak garesti idatzi nuen zutabe honetan. Egiaztatzea, funtsean, emaitza bati galdera onak egitea da: "Hau egia balitz, zer gehiago ikusi beharko nuke?". 

Egiaztatzeak badu, gainera, enpresa bakar batek bere kabuz konpondu ezin duen muga bat: ebidentzia erakundearen atean hausten da. Banku batek AAren laguntzaz mailegu bat ukatzen duenean, edo ospitale batek eredu baten bidez irudi bat irakurtzen duenean, norbaitek azaldu beharko du gero zer gertatu zen: zein eredu erabili zen, zein datuz entrenatua, nork egiaztatua eta zein arauren arabera. Gaur, istorio hori sakabanatuta dago ereduaren egilearen, hura erabiltzen duen erakundearen eta auditorearen artean. Pieza bakoitza existitzen da, baina denak batuta ere nekez osatzen dute inork egiazta dezakeen froga bat. Hutsune horri erantzuteko aurkeztu dute azaroaren 19an Vienan European AI Evidence Alliance: bost erakunde europar elkartu dira, AAri buruzko ebidentzia erakunde batetik bestera eraman eta egiaztatzeko zehaztapen komun bat definitzeko. Gakoa xehetasun batean dago: inork ez du bere eredurik edo daturik entregatu beharrik; horien ordez, egiazta daitezkeen ziurtapenak trukatzen dira. Erabilera bikoitzeko aplikazioekin, finantzekin eta farmazia eta osasunarekin hasiko dira, eta lehen emaitzak eta pilotuak 2027. urtea amaitu aurretik espero dituzte. 

Zergatik du garrantzia? Lehenik, epeagatik: 2027ko abendutik aurrera (2028ko abuztutik, produktuetan txertatutako AAren kasuan), Europako AA Legeak arrisku handiko sistemei beren funtzionamenduaren erregistroak gordetzeko eskatuko die, eta erregistro horiek besteek irakurri eta fidatu ahal badituzte bakarrik balio dute. Bigarrenik, eskalagatik: balio-kateko hurrengoak jakin behar du egiaztapenak egin direla, berriro egin beharrik gabe; bestela, datuen eta ereduen trukea konfiantzazko bazkide gutxi batzuetara mugatzen da. Eta hirugarrenik, gure industriak ondo ezagutzen duen zerbait delako: lote zenbakia eta neurketa txostena dira, AAren mundura ekarrita. Gure trazabilitate kulturak hornidura-kate osoan funtzionatzen du pieza bakoitzak bere agiriak aldean daramatzalako; AAren erabakiek ere halaxe bidaiatu beharko dute. 

Bada bigarren zutabe bat, eta hartaz gutxiago hitz egiten dugu: irteteko askatasuna. Aurtengo Euskarabildua jardunaldietan, galdera xume eta deseroso bat egin zen: zer gertatuko litzateke AEBko Gobernuak herrialdeko datu zentroak ixtea erabakiko balu? Ez da zientzia-fikzioa. Baldintzak, prezioak eta erabilera arauak abisatu gabe aldatzen dira. Gorka Juliok GAUR8n argitaratutako dekalogoak arriskua ondo laburbiltzen du: tresna bat utzi ezin duen erakundeak erabakitzeko gaitasuna galdu du, inork hala erabaki ez badu ere. 

Proposamen zehatz bat egingo dut. Gure enpresek urtean behin sute simulakro bat egiten dute. Inork ez du suterik espero, baina denek dakite irteera non dagoen. Zergatik ez egin gauza bera AArekin? 

Irteera simulakroa, alegia. Aukeratu prozesu kritiko bat —eskaintzen prestaketa edo mantentze prediktiboa, demagun—, eta galdetu ea ohiko hornitzailerik gabe 72 orduz funtziona dezakeen. Non daude gure jarraibideak, gure datuak, gure doikuntzak: gurean ala beste norbaiten gazteluan? Ba al dago, gertuko azpiegitura batean, lekukoa har dezakeen eredu irekirik? Azpiegitura horiek Euskal Herrian sortzen ari dira, publikoak zein pribatuak. Ez dira hodei hornitzaile erraldoiak bezain handiak, baina gertu daude, eta gertutasuna ere berme bat da. 

Simulakroaren emaitzari izena eman behar zaio: irteera kostua. Energiaren edo lehengaien kostua neurtzen dugun bezala, administrazio kontseiluetan adierazle estrategiko gisa neurtu beharko genuke. Kostu hori ez da kontabilitatean ageri, bat-batean faktura bihurtzen den arte. 

Bi zutabe horiek, azken batean, zimendu bera dute. Ulertzen ez dena ezin da egiaztatu, eta ulertzen ez denetik ezin da irten. LGTM idazten duen taldeak eta hornitzaile bakarrari lotuta dagoen enpresak gaitz bera dute: makinak zer egiten duen jakiteari utzi diote. Alderantziz ere bada: bere prozesuak egiaztatzen dituen enpresak badaki zer den berea eta zer alokatua, eta jakite horrek ematen dio irteteko askatasuna. 

Ez da AAren aurkako idazkia. Alderantziz. AAri etekin handiena aterako dioten enpresak ez dira itsu-itsuan onartzen dutenak, ezta beldurrez debekatzen dutenak ere. Hiru gauzak egiten dituztenak baizik: erabili, egiaztatu eta, behar izanez gero, irten. 

Gure lantegietan, LGTM baino zaharragoa eta sakonagoa den beste esamolde bat izan da beti: "Nik sinatzen dut". Horrek ez zuen "niretzat ondo dago" esan nahi, "nik erantzuten dut" baizik, ingelesezko accountability ezaguna. Hori da berreskuratu beharreko kultura. Makinak sor dezake. Sinadura, ordea, gurea da.

Gehitu EnpresaBIDEA Google-ren iturri hobetsi gisa doan  

Egon zaitez azken berriekin informatuta  

 
Aktibatu orain