Arriskutsua, gaiztoa ez izan arren
Uztailaren 22ko Naiz-ek artikulu interesgarri bat zekarren: AA era berri batez ibili da hackeatzen, bere kasa, modu autonomoan. Zibersegurtasunari loturiko aurrekaririk gabeko gertakaria dela adierazi du OpenAIk, AA horren ugazabak.
AA matxinoaz hasi da jendea hizketan, larriki handitzen ari den ustekabeko arriskuaz. Michael McLoughlinek ere artikulu bat eskaini dio El Confidencialen. Berezilariak bezain aztoratuta bide dabil jende arrunta.
Gertaerak: OpenAIk berak onartu duenez, zibersegurtasun-proba batean, babes-neurriak nahita murriztuta zituzten AAren bi eredu aurreratuk hondar-kutxatik ihes egin zuten. (Software bat ingurune seguru eta isolatuan exekutatzeko erabiltzen den segurtasun-mekanismo bat da hondar-kutxa.)
Interneten sartu ziren ondoren, eta Hugging Face ikaskuntza-plataformaren azpiegituraren zati bat eraso zuten, bertako defentsak gaindituta, benchmark baten erantzunak lortzeko. (AA baten errendimendua neurtzeko eta alderatzeko erabiltzen den proba estandarizatua da benchmark delakoa.)
McLoughlinek baztertu egin du ia automatikoki datorkigun "makinen matxinada" interpretazioa. Ez dago matxinaturiko AAik, ezta borondatez ihes eginikorik ere.
Gaur egun dakigunarekin bat dator borondatezko matxinadaren ukazio hori. AAk ez zuen “askatasun-nahirik” erakutsi; helburu bat optimizatzen ari zen. Helburua zen proba gainditzea, eta bidean aurkitu zuen murriztapenari aurre egin zion oztopo instrumentala zelako. Beste batzuetan ere gertatu izan da, AA batek helburua lortzea, baina AA horren diseinatzaileak espero gabeko bide batetik.
Objekzio bat: McLoughlinek ia kontrajarriak balira bezala aurkezten ditu bi ideia hauek: batetik, ez dago matxinadarik; bestetik, ingeniaritza-arazo hutsa izan da. Ez dakit hain zorrozki egin behar den bereizketa hori.
Gertatutakoak ez du inongo borondate autonomorik frogatzen, ados; baina ezin ukatu helburuak modu oso malguan eta sortzailean betetzeko gaitasuna erakutsi duela. AAk ez zuen pentsatu “OpenAIri ihes egingo diot”. Aldiz, horrela pentsatu zuen: “Azterketa gainditzea dut xede. Hondar-kutxa oztopo bat da. Oztopoa kendu beharra dago”. Hor dago berritasuna. Helburu zehatza eman zitzaion AA horri, eta betetzeko biderik eraginkorrena aurkitu zuen.
Luzaro eztabaidatu da filosofia klasikoan, eta bizirik dirau gaur egun ere eztabaidak, bitartekoen eta helburuen arteko harremanari buruz. Kantentzat, ekintza morala ezin da helburu hutsetara murriztu; bitartekoen balio morala ere kontuan hartu behar da. Aldiz, AAk helburua optimizatzen du, eta bitartekoak ez ditu tratatzen murriztapen gisa baino; espresuki debekatuta ez baldin badaude, behintzat.
Halatan, arazoa ez dagokio ingeniaritzari bakarrik. Ingeniaritzari ere badagokio, noski, baina tartean dira halaber zenbait galdera filosofiko: zelan definitzen dira helburuak? Zer da “debeku bat” AArentzat? Nola txertatzen dira balioak optimizazio-prozesuan?
Orain arte, AAren arriskuez berbetan, kontzientzia edo asmo gaiztoan pentsatu izan da. Ostera, gertakari honek darakutsa ez dela ezinbestekoa: aski izan da helburu estu bat, gaitasun tekniko handia eta hutsune bat kontrol-arkitekturan. Horrek ez du frogatzen AA kontziente bat sortu denik, baina bai AA oso ahaltsuek aurreikusi gabeko estrategia instrumentalak aurki ditzaketela.
Humboldt, Mitxelena, Txillardegi, Azurmendi eta beste askorentzat, hizkuntza ez da tresna hutsa; mundua ulertzeko manera ere bada, bizimodua. Antzera, AA sortzaileak ez du agindu zaion helburua ingurutik abstraituta ulertu. Jarri zaion unean bertan bilakatu da helburua bere munduaren oinarrizko egituraren ardatz. Berehala ekin dio bere mundua berrantolatzeari, helburua erdiesteari begira. Hori ez da kontzientzia, baina bai arrazoimen instrumental ezin indartsuagoaren gauzatzea.