(maider) Bai bai, erraz egiten saiatuko gara eta hortarako Leon Furzeren lan batean oinarrituko gara, ingelesez dago, baina primeran azaltzen du zeintzuk diren adimen artifizialaren atal ezberdinak, nola egiten du hitzegiteko... oso ondo dago, horregatik bere webgunean agertzen diren adibide batzuk hartuko ditugu oinarri bezala. Eta lehengo adibidea izoz-mendia edo iceberg bat litzateke. Izoz-mendi honek lau atal ditu: ur-azpian dagoen zatia, handiena, datuak errepresentatzen ditu. IAk erabiltzen dituen datu kopurua izugarria da, 13 triloi token (edo pusketa). Planetako gizaki guztiak baino 1600 aldiz gehiago. Datu horiek internetetik hartu dira, wikipedia, github, sare sozialak eta abarretatik. Datu hauek IAk duen arrazakeria eta sesgoen oinarrian dago, geroago azalduko dugu hau hobeto.
(aitor) Datu pila horri Big Data esaten zaio, edo euskaraz Datu Handiak. Esan behar da datu horiek lortzeko bideak ez direla beti gardenak eta legezkoak izan. Beste programa batean komentatu genuen Suchir Balajiren kasua, OpenAI enpresa utzi zuena enpresak baimenik gabe datuak jaso eta prozesatzen ari zelako. Programatzaileen artean baita salaketa ugari egon dira, bere kodea makinak elikatzeko erabiltzen delako baimenik gabe.
(maider) Uraren gainetik , begi bistan ikusten dena LLM deiturikoak daude. Sigla hauek Lenguaia Eredu Handiak esan nahi dute, eta hemen sortzen dira gure erantzunak. LLMek testuak hartu eta pusketetan banatzen dituzte. Ondoren probabilitearekin jolasten da: hitz honen ondoren zein etortzen da probabilitate gehiagorekin? Adibidez, ibaiaren hitzaren ondoren zein agertzen da normalean? ba %60 batean bazterrean da, beste batzutan beste aldean %25 probabilitatearekin, ur-emaria oso gutxitan agertzen da, %10 adibidez. Bukatzean pertsonek kudeatu ezin duten grafo moduko bat ateratzen da, hitz guztiak erlazionatuta probabilitatearen arabera.
(aitor) Egiari zor, euskara bezalako hizkuntza batean, non aurrizki eta atzizki asko dago, ibaiaren hitza bi pusketa izango ziren, ibai eta aren, eta pusketa bakoitza bere probabilitate ezberdinak izango zituen, baina hori sinplifikatu dugu prozesua ulertu ahal izateko. Buruan eduki behar dugun kontzeptua zera da: adimen artifizialak zer esango duten erabakitzeko probabilitatea erabiltzen dute. Probabilitate gehien duten hitzek lehentasun gehiago izango dute besteak baino.
(maider) Eta kontzeptu hau oso garrantzitsua da, pentsa: Demagun LLMaren oinarrian dauden testuen %60tan neskak zuloz osatutako objektu bezala agertzen direla. Ondorioz LLM honek sortutako erantzunek sexistak izango dira gehienetan, ez badiogu kontrakoa esaten. Beste IA baten Datu Handien artean aurrekoak egindako testuak sartzen badira, bigarren LLM honentzako sexistak diren testuak ez dira %60, gehiago baizik. Mayoriak hazten doaz eta minoriak txikitzen. Esaten da IAk homogeneizaziora jotzen dutela, dena berdintzera alegia, handia dena handituz eta txikia dena zokoratuz. Eta hau gertatzen da eredua probabilistikoa delako, eta jende asko dabil gai honetan lan egiten.
(aitor) Baina gu ez dugu zuzenean LLM batekin hitz egiten. Izoz-mendiaren adibidearekin jarraituz, puntan panpin potxolo-potxolo bat egongo zen, ChatGPT, Claude edo Deepseek errepresentatzen duena. Pertsonentzat erakargarri den interfaze bat dute eta pertsonekin hitzegiteko finduta daude. Adibidearekin bukatzeko, internet osoa itsasoa litzateke, izoz-mendiaren inguruan eduki berriak hartu ahal izateko.
(maider) Adimen artifizialaren programazioan adituak diren pertsonek esaten dute IA hitzak autobetetzeko sistemarik sofistikatuena dela. Mugikorrean etxera idazten badugu, noa ateratzen zaigu, ba IAk antzeko egiten du baina modu askoz sofistikatuago batean. Honekin argi utzi nahi dut gauza bat: adimen artifizialak ez du ulertzen esaten duena, hurrengo hitza zein izango den probabilitatea erabiliz hautatzen du. Beste programa batean komentatu genuen IAk loro estokastikoak zirela, errepikatzen dutela gauzak baina jakin gabe zer esaten ari den.
(aitor) Adimen artifizialari buruz pasadan mendetik hitzegiten zen, zergatik orduan orain gertatzen ari den eztanda?
(maider)Bi arrazoi nagusi daude: alde batetik orain dela gutxi arte ez zegoen hainbeste datu maneiatzeko makina eraginkorrik, bakar batzuk munduan soilik, honek jartzen zituen mugekin: bakan batzuk erabili ahal zuten. Hortaz aparte geldoa zen, ze hitzez-hitz zihoan asmatzen zer esan behar zuen, beraz testu luzeak idazteko denbora pilo behar zuen. Guzti hau 2017an aldatu zen Googleren izenean publikatutako dokumentu batean. Izenburua "atentzioa da behar duzun guztia" . Nahiko teknikoa da, ez gara hemen ibiliko tripetan sartzen, baina lortu zuten hitzez-hitz joan beharrean esaldiz-esaldi joan ahal izatea. Lehen komentatu dugun teknikari, hau da, hitz baten ondoren datozen hitz guztien probabilitateekin grafo bat egin ondoren, ondoan dauden hitzak erabiltzen dira balio estadistiko gehiago gehitzeko. Horrela esaldiak azkarrago prozesatzen dira eta gaur egun ditugun IAk agertu ziren, testuak azkar idazten dutenak.
(aitor) Pausu bat falta zaigu, adimen artifizialek guk esandakoarekin ere ikas dezakete. Esaten baldin badiogu emandako erantzuna ez dela zuzena, hortik ere ikasiko du. Hau litzateke adimen artifiziala fintzeko pausua: behin datu mordoa prozesatu dituela eta bere triloi erlazio osatu dituela, IAk galdera bati bi edo hiru erantzun ematen dizkio eta pertsona batek erantzun hoberena aukeratu behar du. Eta hau nola funtzionatzen du?
(maider) Ba beste eredu batekin, erantzuna eman baino lehen erabiltzen dena erantzuna fintzeko. Sari moduko zerbait litzateke, erantzun hobeagoak sari gehiago jasotzen dutenez, probabilitate gehiagorekin erantzun horiek emango dira. Itzultzen baldin bagara izoz-mendiaren adibidera, fase hau izoz-panpinari forma polita ematea litzateke, ez izateko hiru bola formarik gabekoak, edozein modutan jarrita. Esan behar da lan honetan ibiltzen den jendea oso gaizki ordainduta dagoela, eta bere lana oso nekeza da, eduki batzuk torturak, biolentzia sexuala eta gauza desegoki asko erakusten dituztelako.