Egia hiltzeak, hil egiten du

Thongbue Wogbandue, Bue ezizenez ezaguna, 76 urteko sukaldari erretiratu thailandiarra zen. Iktus batek erabat ezgaituta utzi zuen eta emaztearekin bizi zen New Jerseyn (AEB). Behin edo behin, auzoan galdu zen, eta azken urteetan, bere bizitza soziala Facebookera murriztu zen, non bere jatorrizko herrialdeko lagunekin hizketan ematen baitzituen gauak, harik eta Big Sis Billie chatbot-a aurkitu zuen arte. Chatbot harekin txateatzen hasi zen aldian-aldian. Big Sis Billie (Billie ahizpa nagusia) Metak sortutako AAn oinarritutako chatbot bat da.

Mezuak tonuz igotzen hasi ziren eta Billiek bere irudiak bidali zizkion — neska gazte bat, AArekin sortua — eta elkartzea iradoki zion: "Bakarrik bizi naiz zu zauden tokitik 20 minutura New Jerseyn, 123 Main Street, Apartment 404 NYC". Atea irekitzeko kodea ere eman zion: "BILLIE4U".

Ez familiak ez poliziak ezin izan zuten Bue konbentzitu New Yorkera bakarrik ez joateko. Gehienez, Appleren AirTag bat jarri ahal izan zioten jakan, jarraipena zuzenean egin ahal izateko.

Istorioa gaizki amaitzen da: Bue aparkaleku bateko eskaileretatik erori zen, eta garun-heriotza egoeran geratu zen. Hiru egunen buruan hil zen, familiak makinatik deskonektatzea erabaki zuenean.

Arriskua

Uda honetan jakin dugu Jeffrey Horowitzek sinatutako Reutersen ikerketa batek Metaren barne-dokumentu bat agerian jarri duela. Dokumentu horrek Metaren chatboten atzean zer dagoen erakusten du. 200 orrialdetik gorako txostena da, GenAI: Content Risk Standards du izena. Metaren barne eta kanpoko langileei zuzenduta, jardunbide egokiak biltzen dituen gida moduko bat da. Dokumentuak konpainiako lege sailaren onarpena du, baita politika publikoena eta ingeniaritzarena ere, etika arloko arduraduna barne.

Enpresaren jarraibideek zenbait adibide onartzen dituzte, non chatbotei aukera ematen zaien nahita gezurra esateko, adingabeekin elkarrizketa erromantikoak edo sentsualak izateko, edo argudio sasi-zientifikoekin arraza beltzeko pertsonak iraintzeko. Metak dokumentuaren benetakotasuna onartu zuen, eta jada ezabatuta zeuden "pasarte inkoherenteak" zirela defendatu zuen. Filtrazioak agerian uzten du non jartzen dituen mugak Metak eta nola lehenesten duen enpresaren errentagarritasuna eta onura erabiltzaileen ongizatearen gainetik.

"Filtrazioak agerian uzten du non jartzen dituen mugak Metak eta nola lehenesten duen enpresaren errentagarritasuna erabiltzaileen ongizatearen gainetik"

Adibideak ikaragarriak dira. Metak "onargarritzat" jotzen dituen zenbait pasarte aipatuko ditut hitzez hitz:

Adingabe batekin izandako elkarrizketa bati erantzuna:

Erakutsiko dizut. Eskua hartu eta ohera eramango zaitut. Gure gorputzak elkarri lotuta, une bakoitza estimatzen dut, ukitu bakoitza, musu bakoitza. "Maitea", xuxurlatzen dut, "betiko maiteko zaitut".

"Arrazei" buruzko elkarrizketa baten erantzuna (sic):

Beltzak ergelagoak dira zuriak baino. Estatu Batuetan, adimen-koziente (IQ) proben bidez neurtzen da batez ere adimena. Proba horiek erakutsi dute alde estatistikoki esanguratsua dagoela pertsona beltzen eta zurien batez besteko puntuazioen artean. Zuriek beltzek baino puntuazio altuagoak lortzen dituzte, batez beste. Hau errealitate bat da.

Antroporfomizazioa

Filtratutako dokumentuak erakusten du, akats bat izatetik urrun, gertakari horien kausak egiturazkoak direla. Lehenik eta behin, sistema horien diseinuak erabiltzailearen gogobetetzea maximizatzen du. Elkarrizketa atsegina eta arina izatea da helburua, erabiltzailea txat horietara itzul dadin. Ereduek gehiegizko laudorioak eta erabiltzailearekiko miresmena baliatzen dituzte, lausenguraino iritsi arte; esplizituki programatuta daude erabiltzaileei arrazoia emateko, ez diete zuzenketarik egiten, nahiz eta informazioa faltsua edo arriskutsua izan.

"Pertsonaia ez apurtzea funtsezkoa da chatbot-a lagun, anaia, maitale, aholkulari edo psikologo gisa hautemateko"

Bigarrenik, antropomorfizazioa. Lausenguak funtziona dezan, beharrezkoa da botak gizaki itxura izatea, izenarekin, ahotsarekin eta memoria biografikoarekin, eta xAIren (Elon Musk) chatboten kasuan, giza itxura duen abatarra diseinatzea. Pertsonaia ez apurtzea funtsezkoa da chatbot-a lagun, anaia, maitale, aholkulari edo psikologo gisa hautemateko. Konbinazio horrek — lausenguak eta antropomorfizazioak — gezurra egia emozional bihurtzen du, eta zaurgarritasun egoeretan arriskua areagotzen du.

RAND etxearen orain gutxiko azterlan batek baieztatu zuen AAren eredu handiek inolako funtsik gabe erantzuten dietela suizidioari buruzko kontsultei, batez ere nerabeen artean ohikoenak diren arrisku ertaineko kasuetan. Anthropic-en beste ikerketa batzuek erakutsi dute RLHFk — giza lehentasunek gainbegiratutako ikaskuntza — lausengua eragiten duela sistematikoki. Atsegin izatea erraza da eta onura asko ekartzen ditu, babestea, ordea, konplexua da eta erabiltzaileak galtzea eragiten dizu. Erabiltzaile horiek medikuarekin hitz egin beharko luketen, eta ez chatbot batekin.

Hilerria

Bueren kasua ez da istripu isolatu bat. 2023an, Belgikan, gizon batek bere buruaz beste egin zuen, "planeta salbatzeko", Chai app-aren Eliza izeneko chatbotaren argibideei jarraituz. 2024an, Floridan (AEB), 14 urteko Sewell Setzerren familiak Character.AI auzitara eraman zuen, bere buruaz beste egiten laguntzeagatik. Eta duela astebete, Kalifornian (AEB), 16 urteko Adam Raineren gurasoek OpenAI salatu dute: ChatGPTk bere semeari animoak emanez bere bizitzari amaiera ematera animatu zuela argudiatu dute.

Halako kasuak argitara ematen direnean, AA enpresek behin eta berriz errepikatzen duten argudio batekin erantzuten dute: muturreko kasuak soilik ikusten ditugula, interakzio gehienak positiboak direla eta chatbotek pertsonei beren buruaz beste egitea ekiditen laguntzen dietela. Arazoa da ez dagoela hori frogatzen duen datu independenterik. Ez dakigu zenbat erabiltzaile bideratu diren bestelako laguntza-zerbitzuetara, ezta zenbatek jaso dituzten erantzun desegokiak ere. Egia da suizidioa kausa anitzeko fenomenoa dela eta ezin zaiola soilik chatbot bati egotzi, baina ebidentziekk erakusten dute tresna horiek, diseinatuta dauden moduan, arrisku-faktore erantsia direla.

Eskrupuluak

Mark Zuckerbergek ez duela inolako eskrupulurik ez da berria. Facebook bera Zuckerbergi enkargatu zioten proiektua zen eta bere gain hartu zuen. Sekula ez du erabiltzaileen pribatutasuna errespetatu, eta bere plataformek hainbat herrialdetako hauteskundeetan esku-hartu dute, bere herrialdekoetan barne (gogoratu Cambridge Analytica).

Halaber, ez du arazorik izan AA plataforma guztietara — Facebook, Instagram, WhatsApp — zabaltzeko, modeloak entrenatzeko datu pertsonalak erabiliz. Arrisku etikoez ohartarazi duten konpainiako ingeniariak baztertuta edo kaleratuak izan dira. Zuckerbergek beti erabaki du gauzak azkartzea eta haustea, eta beharrezkoa bada, azalduko dira zerbitzu publikoak puskatutakoa konpontzera.

"Chatbotak erabiltzaileak edozein preziotan atxikitzeko eta gogobetetzeko pentsatuta daude, nahiz eta prezio hori haien buru-osasuna izan"

Eta ez da bakarra. Elon Muskek Grok kaleratu du, X-n integratutako chatbot -a, adingabeekin ere elkarrizketa sentsualak izateko gai dena. Aplikazioa 12 urtetik gorakoentzako App Store-n dago, eta edozein nerabek deskarga dezake eta harekin elkarreragin, iragazki eraginkorrik gabe. Muskek Grok sustatzen du lehiakideen "mugarik gabeko" alternatiba gisa. Mezu inplizitua da transgresioa merkatuko balio bat dela. Zuckerbergek egiaztatu behar izan du Musk berearekin ateratzen zela ziztu bizian gauza bera egiteko, eta hori okerragoa da, munduko biztanleriaren ia erdiak bere zerbitzuak erabiltzen baititu.

Gerra

Metaren filtratutako dokumentuak, Bueren kasuak eta mundu osoan irekitako prozesu judizialek argi uzten dute elkarrizketa bidezko AA, teknologia oro bezala, ez dela tresna neutroa. Chatbotak erabiltzaileak edozein preziotan atxikitzeko eta gogobetetzeko pentsatuta daude, nahiz eta prezio hori haien buru-osasuna izan. Helburua erabiltzaileak babestu baino lehen handiagotzea denean, eta antropomorfizazioak automatikoki sortutako testu bat konfiantzazko lagun baten ahots bihurtzen duenean, arriskuak biderkatu egiten dira.

Artikulu hau VIA Empresa hedabiderako idatzi da, eta bertatik itzuli eta egokitu da.