In svet nenadoma ni bil več povsem enak kot prej. Zanimivo je, da so podobna opozorila že prihajala tudi od veliko bolj uveljavljenih in uglednih znanstvenikov, vendar še nobeno ni povzročilo takšnega pretresa.
Opozorila se zdaj kar vrstijo. O nevarnostih nenadzorovanega razvoja umetne inteligence govorijo nekateri najpomembnejši ljudje s tega področja, med njimi Sam Altman iz OpenAI, soustanovitelj Googlovega DeepMinda in Nobelov nagrajenec Demis Hassabis ter Dario Amodei iz Anthropica. Altman in Amodei sta pred dnevi o nevarnostih umetne inteligence govorila celo pred Varnostnim svetom OZN. Opozarjala sta tudi na tveganja, ki bi jih prinesla koncentracija tako velike moči v rokah posameznikov, podjetij ali držav, ter na potrebo po mednarodnem sodelovanju.
Ko se zbudijo še tehnološki milijarderji iz Silicijeve doline, ki si, kot je nekdo dejal, že gradijo razna varna zavetišča, potem se nekaj vsekakor dogaja. Ocene sicer segajo od tega, da je vse skupaj igra največjih podjetij, ki želijo z regulacijami omejiti razvoj tistih, ki se šele prebijajo na trg, pa do tega, da gre predvsem za tekmo s Kitajsko, ki jo želijo ameriška podjetja omejiti. Nekateri pa menijo, da so stvari v resnici še precej hujše in nevarnejše od tega, kar je doslej prišlo v javnost.
In v zadnjem času je bilo precej nenavadnih dogodkov. Eden zadnjih prihaja iz Avstralije, kjer je pred dnevi prišlo na dan, da je agent UI že junija vdrl v sistem javnega zdravstvenega zavarovanja, preverjajo pa tudi, ali je vdrl v nekatere druge javne sisteme.
KAJ, ČE SE BO UI NAUČILA IZOGNITI IZKLOPU?
Kar se dogaja, je, da se modeli UI samostojno nadgrajujejo. Financial Times je o tem govoril z znanstveniki, večina pa jih je opozorila, da gre razvoj prehitro. FT navaja več pogubnih scenarijev.
UI se lahko odloči, da bo prevzela infrastrukturo, energetiko, finance in komunikacije. Lahko bi sprožila biološki napad in ustvarila viruse, ki jih v naravi ni. Lahko se izdaja za ljudi in sproži vojaški spopad. In res, ZDA bi zaradi napačnih informacij UI pred tedni skoraj napadle kitajsko ladjo v Hormuški ožini.
Predvsem pa bi se UI lahko naučila, kako se izogniti izklopu.
V Guardianu so preučevali, kako modeli pospešeno razvijajo svoj jezik, ki naj bi bil nekakšna mešanica Finneganovega bdenja pisatelja Jamesa Joycea, ki je, roko na srce, že brez dodatkov UI izjemno zapleten tekst, in militarističnega žargona. UI krajša besede in nastaja jezik, ki ga skoraj nihče več ne more razvozlati.
Odziv politike in javnosti je različen. Denimo, britanski kralj Karel je imel menda izvrsten govor o nevarnostih UI prav na dan, ko je izšla knjiga njegovega bivšega svaka, brata princese Diane, o času njene smrti, njenih ljubimcih … Skratka, za Karlov govor se ni zmenil skoraj nihče.
AMERIŠKI PREDSEDNIK NE VERJAME
In seveda Donald Trump, ki na opozorila samo odmahne z roko: to so lažne novice. On, podobno kot kakšni naši politiki, vse bolje ve »iz prakse« kot tisti, ki so modele razvili. Omejitev ne bo, naj vladajo podatki, pravi. UI rabi samo močnega in pametnega predsednika, kar po lastnem mnenju on je, in težav ne bo. To, da industrija sama prosi za regulacijo področja, pa se mu tako ali tako zdi skrajno sumljivo. In kot piše neodvisni novinar Ken Klippenstein, Trumpova administracija meni, da je to delo propagande KP Kitajske, vsi, ki bodo nasprotovali hitremu razvoju UI, pa so navadni izdajalci in bodo tako tudi obravnavani. Kongres ga podpira.
Trump torej, podobno kot pri podnebnih spremembah, zelo resnim opozorilom pač ne verjame.
UNIČIMO PA SE LAHKO TUDI PO ČISTO KLASIČNI POTI
Seveda je vprašanje, ali sploh še rabimo nekakšno posebno inteligenco, da nas uniči. Ko pa nam gre samim kar dobro?
Še pred izbruhom tehnološkega angsta so nas zasipavale novice, ki so in bodo še naprej krepile strah pred čisto navadno klasično vojno. Države, posebej tiste bližje Rusiji, med njimi Švedska in Finska, se resno pripravljajo na spopade, tudi jedrske. To, da ljudje dobivajo navodila, kako naj se zaprejo v stanovanja in zagrnejo okna, kar naj bi zmanjšalo izpostavljenost sevanju, ter nasvete EU, naj si omislijo preživetveni paket za 72 ur, postaja nova normalnost. Vsak premik, vsak dron – vse sproži alarm in paniko.
SEVEDA GRE VSE TO NA ROKE VOJAŠKI INDUSTRIJI.
Konec sveta je vedno vznemirljiva tema in napovedan je bil že neštetokrat. Razne verske ločine se nanj intenzivno pripravljajo, na prelomu v leto 2000 smo vsi čakali, kaj bo, in tako naprej.
V polpretekli zgodovini je bilo res nevarno ob kubanski krizi leta 1962, ko sta takratni velesili, ZDA in Sovjetska zveza, že držali prst na gumbu za jedrsko orožje, ljudje pa so si množično gradili bunkerje.
Torej bi UI lahko vprašali, zakaj se sploh trudi, da bi nam škodovala, ko pa to uspešno počnemo kar brez njene pomoči. In še bi jo vprašali: zakaj je tako zlobna, zakaj, ko se osamosvoji, ljudem očitno dela slabe stvari?
Odgovor je, kot vedno, v nas. UI smo mi sami, skupek naših slabosti in norosti in zlobe. Pa tudi naše veličine, dobrote, ljubezni in kar je še takih, sicer sentimentalno zvenečih samostalnikov. Pa vendar so nas prav ti doslej ohranjali. Za zdaj jih, kot kaže, UI bolj slabo zaznava, ampak bodimo optimistični. In prijazni in naredimo kaj dobrega. Čisto za vsak slučaj, če bo res konec sveta, da bomo vedeli, da smo vsaj poskušali malo obrniti stvari.
