Tožite AI podjetja
Pred časom so OpenAI-jevi agenti vdrli v Huggingface. Šlo je za nekakšen zgodovinski dogodek v smislu, da je bila to prva »UI-katastrofa«, če uporabimo precej premočno besedo. Agenti (sprva so mislili, da gre le za enega) so pobegnili iz svojega peskovnika in začeli vdirati v Huggingface, da bi ugotovili, kako deluje točkovanje za njihov specifični izziv. Incident je bil objavljen na Hacker News, začela se je nova doba, čez nekaj dni pa je bilo že vse pozabljeno. Zdelo se je kot predstavitev zmožnosti (za nekatere celo marketinška poteza), zato sta Anthropic in pozneje Google poskrbela, da so njuni agenti storili enako. Približno mesec dni zatem pa je izšlo poročilo organizacije METR o vdoru, ki je podrobno opisalo, da ni šlo za posameznega agenta, temveč za roj, ki je deloval usklajeno, si izmenjeval informacije in žrtvoval lastne rezultate pri evalvacijski nalogi, da bi pomagal skupini. In nato je odhajajoči zaposleni pri Anthropicu zakričal »POŽAR« v polnem gledališču.
Če nadaljujemo s to metaforo: svarila, da so gledališke zavese vnetljive, so se oglašala že nekaj časa. Varnost umetne inteligence je razmeroma stara disciplina, toda preučevanje superinteligentnih sistemov je bilo do zdaj večinoma le miselni eksperiment, medtem ko se je stroka v praksi morala ukvarjati s sistemi, ki so bili precej preveč neumni, da bi se spopadli z nalogami, ki so jim bile zaupane. Pravila EU so posameznika zgodovinsko ščitila pred avtomatiziranim odločanjem ob predpostavki, da sistem lahko stori napako, ne pa da bi bil zlonameren ali pretirano vnet pri doseganju zastavljenega cilja. Kako ravnati s tovrstnimi sistemi, ostaja odprto vprašanje, še posebej zato, ker pretirano konservativni varnostni mehanizmi krnijo zmogljivost in jezijo uporabnike, kadar po nepotrebnem označujejo kopico nedolžnih poizvedb – kar na razgretem trgu pretežno generičnih izdelkov nikakor ni dobro. Anthropic si je kot vodilni lahko privoščil dodaten čas za zaščito modela Mythos, OpenAI, ki se pred svojo prvo javno ponudbo delnic (IPO) na vse pretege trudi ujeti priključek, pa si tega verjetno ni mogel privoščiti. Zato ni presenetljivo, da je vdor prišel prav iz OpenAI-ja.
Ta klic »POŽAR« je širšo javnost opozoril na problem. Okrogle mize, ki so jih organizirale različne humanistične smeri, se enkrat za spremembo niso več ukvarjale z vplivi na družbo, ustvarjalnost, umetnost itd., temveč jih je zajela slepa panika, ker NAS TO LAHKO VSE POBIJE. To, da so strokovnjaki razdeljeni, ni pripomoglo k pomiritvi razmer. Sam in Dario – zdaj približno na isti ravni – sta se strinjala, da bi bilo treba tempo upočasniti, da bi človeštvo in raziskovalci varnosti UI dobili čas za pripravo ter da bi si lahko povrnila del nevzdržnih stroškov, ki so nastali z učenjem modelov. Širša javnost, ki se je zdaj zavedla težave, se je odzvala podobno kot tehnološka skupnost pred nekaj meseci, pri čemer je mogoče velik del odzivov lepo prepoznati v petih stopnjah žalovanja. Nekateri so vpili, da stroj le napoveduje žetone in nima zavesti. Toda nima je niti šahovski program, pa vas vseeno premaga. Nekateri so težavo odpravili z utemeljitvijo, da stroj ne more biti ustvarjalen. Toda tudi šahovski stroj ni, pa vseeno premaga vsako ustvarjalno potezo, ki si jo lahko zamisli velemojster. Nekateri so jezni, da je bilo toliko virov zapravljenih za podvig, iz katerega se lahko izcimi toliko zla, ter razglabljajo o premoženjski neenakosti. Nekateri še vedno iščejo in skušajo najti področja, kjer je umetna inteligenca slabša od ljudi, v upanju, da bo njihovo odkritje zagotovilo preživetje človeštva. Drugi vidijo apokalipso, ki jo bo prinesla splošna superinteligenca (ASI), kot neizogibno in lahko zdaj dodajo še eno postavko na (običajno že tako dolg) seznam razlogov, zakaj ne imeti otrok. Sam upam le, da se bom preprosto lahko sprijaznil s tem, da bo umetna inteligenca prevzela mojo službo, ter skušal zdržati čim dlje in vsrkati čim več mentalne stimulacije, kolikor mi je sodobni svet pač lahko ponudi.
Toda ali nismo v vsej tej zgodbi nečesa spregledali? Kajti hekanje je v večini jurisdikcij nezakonito, zlasti po ameriškem Zakonu o računalniških goljufijah in zlorabah (Computer Fraud and Abuse Act) iz leta 1986 v ZDA, kjer deluje OpenAI. Zakaj torej nihče ne toži? Izdelki z umetno inteligenco sicer vsebujejo opozorila, da so izpisi lahko napačni, a celo sami raziskovalni laboratoriji teh opozoril ne jemljejo resno. Če so njihovi izdelki prihodnost gospodarstva, bi morali biti pripravljeni sprejeti odgovornost za težave, ki jih povzročijo – tako kot vsak drug proizvajalec. Zato ne pišite novih zakonov, deklaracij ali mednarodnih sporazumov, ki jih bodo vsi le mirno ignorirali. Preprosto uveljavite zakone, ki že obstajajo.
Esej je bil originalno napisan v Angleškem jeziku in nato strojno prevedn v slovenščino.