Javier del Ser (EHU): “Faltan botatzen ditut adimen artifizialari loturiko marra gorri batzuk”

Javier del Ser Euskal Herriko Unibertsitateko (EHU) Zientzia eta Teknologia Fakultateko irakasle eta ikerlaria Adimen Artifizialaren Europako Legearen (AI Act) Panel Zientifiko berrian parte hartzeko hautatu zuten ekainean. Izendapenaren testuinguruan egindako elkarrizketa luzean adituen panelaz ez ezik, adimen artifizialaren inpaktu sozialaren, erregulazioaren eta teknologiarekin harremantzeko hezkuntzaren gainean sakondu du.

Urteak daramatzazu adimen artifiziala ikertzen. Zein da zure ikuspegia? 

Eragin sozialak asko kezkatzen nau. Algoritmoen eta matematiken tankerako ikerketak egin izan ditut. Baina nire ikerketaren zati handi bat alderdi sozialera bideratu da urteetan zehar. Azken batean, adimen artifiziala pertsonek erabili behar duten teknologia bat da.

Eta teknologia hori heltzen joan den heinean, eta batez ere, mundu guztiak erabil ditzakeen ChatGPT moduko AA sortzaileak agertu direnean, konturatu naiz eragin handia dutela. Inpaktua dute hezkuntzan eta belaunaldi berrien errealitatearen pertzepzioan eragiten dutelako. Lehen, gurasoengandik jasotzen genuen munduaren gaineko ulerkera gehiena. Orain, belaunaldi berriek sexuaz edo psikologiaz dituzten ikasgai asko, adibidez, makina baten bidez jasotzen dituzte.

Hori arazo bat da niretzat. Ezin duzu tratatu gizakia ez den zerbait gizakia balitz bezala. Baina hortik harago, gaur egun adimentsua dela uste duguna, ez da. Guk ziurtasun erlatiboz galde diezaiokegu AA bati zerbait, nonbait idatzita badago, itzuliko diguna egia izango dela. Kontua da, ikusi ez duen zerbait galdetzen badiozu, erantzunik onargarriena itzuliko dizula. Batzuetan ondo aterako da, beste batzuetan gaizki, eta beste zenbaitetan haluzinatuko du.

Gainera, AA eredu horiek trebatuta daude ematen dituzten erantzunekin konbentzitzeko, hau da, arrazoia dutela senti dezazun. Azaltzeko duten moduak limurtzen zaitu eta pentsatzen duzu "ostras, esaten ari zaidana egia da". Baina, aldi berean, ez duzu inolako bermerik informazioa egiazkoa dela ziurtatzeko. Azken batean bere erantzuna hartzailea gogobetetzeko helburuarekin adierazteko prestatuta dagoen makina bat da. Eta ez hori bakarrik, baita engagement egiteko ere, hau da, tresna erabiltzen jarraitzeko.

Eta hau arazo bat da?

Niretzat, bai. Orain arte AA doan izan da. Doakoa izaten jarraitzen du une jakin batera arte, baina orain aldatzen ari dira AA sortzaile indartsuenen dirua irabazteko mekanismoak. Lehen hilean diru bat bidaltzen zenuen eta diru horrek askorako ematen zizun. Orain, ia denek beste mekanismo bat darabilte non ordaintzen duzun itzultzen dizun informazio kantitatearen arabera. Eta beraz, amarratuta bazaude, erabiltzen jarraitu nahi duzu.

Orain arte AA sortzailea galerak zituen negozio bat zen, baina orain burtsara ateratzen bada, akziodunak daudenez, etekinak behar dituzte. Horregatik, zerbitzuaren dirua irabazteko mekanismoa aldatzen da. Hori guztia aspalditik pentsatutako maniobra izan da erabiltzaileen engagement egiteko. Izan ere, orain pertsona batek, ikasle edo programatzaile batek lehiakortasun handia galtzen duela ikusiko baitu eta, beraz, lehen 20 euro gastatzen bazituen, orain 200 euro beharko ditu jarraitu ahal izateko.

Testuinguru horretan, Europar Batasunak Adimen Artifizialaren Legea du (AI Act). Zein da lege horren helburua?

AI Act aspaldikoa da. Egia da adimen artifizialari buruzko munduko lehen lege-esparru integral eta loteslea dela. Estatu Batuetan teknologia egiten da, merkatura ateratzen da eta gero epaitegiek arautzen dute. Baina a posteriori erregulatzen da. Txinan gobernuak erabateko kontrol arautzailea du. Eta Europan erregulatzera jotzen dugu. Hau da, teknologia jakin batek izan ditzakeen erabilera txar guztiak idazten dira eta behin segurua izaten jarraitzeko legezko mekanismo guztiak sortuta, orduan merkaturatu daiteke. Baldin eta, aldez aurretik auditoria bat badago eta, ondoren, behaketa edo jarraipen bat badago teknologia horren gainean. Kasu honetan, legearen helburua da bermatzea adimen artifizialaren sistemak seguruak direla, oinarrizko eskubideak errespetatzen dituztela eta berrikuntza etikoa sustatzen dutela.

Oso lege orokorra da, eta, gero, estatu kide bakoitzak bere lurraldean inplementatu behar du lege hori. Adibidez, Espainiako Estatuan, ahaleginak egiten hasi dira erregulatzeko. Izan ere, ekaina inguruan lege proiektu bat onartu zen, AAren giza gainbegiratzea eta erabilera fidagarria bermatzeko. Inplementazio-prozesu horretarako, Europako Batzordeak bulego bat sortu zuen eta bertatik aditu-panela sortu zen. Panel zientifikoaren funtzioa, bereziki, AI Act ezartzeko euskarriak ematea da, bereziki helburu orokorretako adimen artifizial ereduetarako.

"AA sortzaileak trebatuta daude ematen dituzten erantzunekin konbentzitzeko, hau da, arrazoia dutela senti dezazun"

Zergatik halako arreta helburu orokorreko adimen artifizialeko ereduekin?

Helburu orokorreko ereduak, izenak dioen moduan, helburu jakin baterako bakarrik ez diren adimen artifizialeko ereduak dira. AA helburu oso zehatzetarako erabil daiteke, adibidez, makina batek huts egingo duen detektatzeko, irudi medikoaren bidez patologia jakin bat identifikatzeko, trafikoaren iragarpena egiteko... Helburu orokorra da, printzipioz inork ez dizulako esaten ChatGPT irekitzean agertzen den leiho txiki hori gauza jakin baterako erabili dezakezula soilik. Edozer eska diezaiokezu. Eredu horiek askotariko datuetatik ikasi dute eta, horiei esker, gutxi gorabehera ondo egin ditzakete eskatzen zaien lana.

AAren erabilera orokor hori aukera eta arazo bat da, aldi berean. Aukera bat da, oso modelo indartsuak dituzulako eta leihatila beretik oso galdera ezberdinak egin ditzakezulako. Baina, arazo bat da gehiago haluzinatzeko joera dutelako. Izan ere, askoz gauza gehiago ikasi behar dituztenez, erdibidean geratzen dira.

Helburu orokorreko ereduek kapitulu berezi bat dute AI Act-en barruan. Zientzia-adituen panela AI Act guztiaren gainean aholkatzeko osatu da, baina bereziki eredu mota horiei buruz. Oso azkar eboluzionatzen duen teknologia denez, araudi gehiago behar duten erabilera berriak sor ditzake, jarraibide orokorrek ezartzen dutenaz harago.

Panela Europako mailako aditu-taldea da, aldiz, horrek ez du eragozten Espainiako Gobernuak modu partikularrean gurekin harremanetan jar ahal izatea ezarpenean laguntzeko. Era berean, lantalde bateko kide izateko dei diezagukete, lege hori Alemanian, Belgikan, Polonian... nola inplementatu aztertzeko. Gainera lan talde zehatzak osa daitezke AI Act aplikazio prozesuetan sortzen diren gai espezifikoak eztabaidatzeko. Eta lan talde horiek txostenak landu ditzakete, non aditu-paneleko kide bakoitzak, gure ikuspegi eta ezagutza desberdinetatik, erabakiak hartzen dituztenei ekarpenak egin edo aholkuak eman ahal dizkiegun.

Zer aukera ikusten dituzu panel zientifiko honetan?

Nire ustez, adimen artifiziala bezain azkar eboluzionatzen duen teknologia batean, oso albiste ona da zientzian lan egiten dugunak inplikatuta egotea, aholkularitzan bada ere. Izan ere, askotan, gai teknologikoen erregulazioa informatuta ez dagoen ikuspegi batetik hartzen da. Orain, adibidez, AAko ereduentzat babes bat garatu behar dela proposatzea interesgarria da. Panelean jende asko dago ezagutza duena, eta jakin badakiena adimen artifizialarekin zer egin daitekeen eta zer ez. Agian legegile batek esan dezake zerbait derrigorrezkoa dela, eta zientzialari batek erantzun ez dagoela modurik eskaera hori %100ean bermatzeko.

Denborak esango du adituen panelak nahikoa mekanismo dituen hain garrantzitsua den legedi bat garatuko duen norbaiti esateko “adi, gehiegi mugatzen ari zara” edo “entzun, motz geratzen ari zara”. Nik ulertzen dut hainbat herrialdetan arau-ahaleginarekin eta AAren gaineko legearen ezarpenarekin batera gobernuek herritarrak adimen artifizialaren erabileran hezteko interesa izango dutela, arazo legaletan ez sartzeko.

Eta zuk zientzialari moduan eta gizarte kezka horrekin, adimen artifizialarekin nolako harremana izan behar dugula uste duzu? 

Teknologia bezala itzela da. Orain arte aurrerapen teknologiko asko izan dira, Internet bera, mugikorra... baina orain arte ez da halakorik izan. Duen potentziala erabatekoa da. Orain arte sendabidea aurkitu gabeko gaixotasunen aurkako erremedioaz pentsatzen egon gaitezke, adineko pertsona bat lagunduago sentiaraziko duten aplikazioetan pentsa dezakegu... jadanik gertatzen ari den bezala, betiere gizakia jakitun egiten badugu makina batekin ari dela hizketan. Eta makina horrek arazoak konpontzen lagun diezaguke, baldin eta arazo horien gaineko erabaki-ahalmena guk badugu.

Garen izaki adimendunak garen heinean, balio erantsirik ematen ez diguna makinari utz diezaiogun. Ezin dena da doktorego-tesi bat idatzi AA sortzaile batekin. Ezin da kazetaritzako artikulu bat hutsetik adimen artifizialarekin idatzi. Hori ez. Orduan ez gara espezie bezala haziko. Gauza bakarra egingo dugu: makinei pentsatzen utzi eta gu ez dakit zertan aritu. Hori saihesteko niretzat gakoa hezkuntza da; teknologia erabiltzen jakitea.

Eta norabide horretan urrats egokiak ematen ari direla uste duzu?

Nik uste dut ez dela nahikoa. Adin txikiko ikasleen digitalizazio muturrekoa konpentsatzen ez bada, idazten ez dakiten nerabeak izango dituzu, boliak ihes egiten dietena. Gero, gainera, adimen artifizial sortzaileak oso eskura dituzte, zaintzarik gabe, heziketarik gabe... Zer gertatzen da? Azkenean, eguneroko jarduera-maila batera iristen dira, non intelektualki zerbait eskatzen zaien, lan bat, esaterako, eta ez dakite nola egin.

Egia da nahiko eztabaida dagoela, hain zuzen ere, adimen artifizialaren ezagutzak eta erabilera-mailak sor ditzakeen desberdintasunei buruzkoa. Uste da pertsona batzuek produktibitatearen hobekuntza edo hobetzeko gaitasuna izan dezaketela, egoera ekonomikoagatik edo ezagutza-mailagatik adimen artifiziala erabiltzen ez duten pertsonen aldean. Zentzu horretan, AAk askoz ere gehiago polarizatuko du gizartea. Lan-aukeretarako sarbidea, adibidez, adimen artifizialaren erabilera-mailaren araberakoa izango da, horren ezagutza-mailaren araberakoa. Ez dakit nik neuk ere arazo deituko niokeen, beste iraultza teknologiko batzuetan antzeko zerbait gertatu baita. Ezagutza eta gaitasunak eguneratzen ez badituzu, "hil" egingo zara. Kontua da orain, adimen artifiziala askoz zeharkakoagoa denez, negozio askotarako erabil daitekeela, lanpostu askotarako eta, beraz, arazoa areagotu egingo dela. Eta enpresetan AA sartzen laguntzeko mekanismoak badauden arren, ez gara arduratzen ari datozen belaunaldiak prest izan daitezen AA baliatuta lehendik dauden enpresez harago balio handiagoa sortzeko. Gustatuko litzaidake ikustea administrazio publikoak belaunaldi berriei ondo azaltzen zer den AA, nola erabili behar den, eta zertarako baliatu dezaketen.

"Egun AAk doakoa izaten jarraitzen du une jakin batera arte, baina aldatzen ari dira AA sortzaile indartsuenen dirua irabazteko mekanismoak"

Eta zergatik da hain garrantzitsua AA behar bezala erabiltzen jakitea?

Arazoa da interneten adimen artifizialak sintetizatutako geroz eta material gehiago jartzen ari garela erabiltzaileen eskura. Adimen artifizialaren belaunaldi berrien eredu bakoitza aurreko faseetan adimen artifizialak berak sortu eta ahoratu dituen datuez elikatuko da. Zer gertatzen zaio gizakiari bere oka jaten badu? Bada berriz oka egingo lukeela. Nature aldizkarian ikertzaile batzuek argitaratu genuen argitalpen bat dago. Bertan frogatzen dugu adimen artifizialeko eredu bat hartu eta sortzen dituen datuekin berriro entrenatzen joaten bagara —hau da, adimen artifizialak berak sintetizatzen duen datu-zikloa bizkortzen badugu, eta berriro entrenatzen, eta berriro entrenatzen, eta berriro entrenatzen badugu— eredua endekatu egiten dela.

Eta hori arazo bat da. Zergatik? Zeren eta endekatzen bada, horrek esan nahi du munduaren ikuspegia uniformizatzen duten ereduak sortzen amaituko dugula. Hau da, dena berdin-berdin ateratzen da. Platonen kobazuloaren alegoria bezala.

Azaldu hori sakonago mesedez

Platonen kobazuloak esan nahi du gizakiok kobazulo batean bizi garela eta munduaz dakiguna kobazuloko itzaletan ikusten duguna dela. Orduan, nire ustez, daukagun arriskua da, belaunaldi berrientzat munduaren ikuspegia adimen artifizialak esaten diena izatea. Hau da, adimen artifizialak esaten duena kobazuloko lanak izatea. Kobazuloko itzalak gero eta itxuragabeago ateratzen badira, errealitatearen sentsazio edo pertzepzio bat sortzen da, errealitatearekiko oso bestelakoa. Horren ondorioz, kobazulotik ateratzen diren belaunaldi berriek ez dute ezer jakingo munduaz. Ezer ere ez.

Egoera honetan adimen artifizialarekiko harremanetan zer botatzen duzu faltan?

Faltan botatzen ditut adimen artifizialari loturiko marra gorri batzuk izatea, giza eskubideak bezala. Maila globalean nolabaiteko adostasuna dago gizakiaren oinarrizko eskubideak zeintzuk izan beharko liratekeen. Eta horri buruzko arazorik izanez gero salaketa jarriko da eta auzitegira helduko. Zergatik ez da hori egiten adimen artifizialarekin? Ez dago ikuskapen mekanismorik maila globalean. Horren antza duen bakarra Europan dagoena da, gaur egun arrisku-mailak ezartzen dituen erregulazioa dena. Baina ez dago orokorrean mundu guztiarentzat. Eta arazoa da, AAk, enpresa pribatuen inbertsio izugarria izaki, bere mekanismo propioak dituela teknologiaren erabilera segurua bermatzeko; hala ere, horrek ez du eragozten erabilera berri bat edo trikimailu berri bat aurkitzea, AAren erabileran arazo bat sor dezakeena.