Zaradi svojih prispevkov k razvoju te tehnologije Geoffreyja Hintona danes imenujejo enega od botrov umetne inteligence, lani pa je prejel Nobelovo nagrado za fiziko, zato je vedno zanimivo slišati, kaj ima povedati o napredku umetne inteligence ter njenih prednostih in morebitnih slabostih. Glede na vse njegove dosedanje komentarje bi Hintona lahko označili za previdnega realista in morda celo za blagega pesimista, saj se zaveda moči te tehnologije, tako kot se zaveda, da bi lahko šla v napačno smer.
V nedavnem intervjuju je umetno inteligenco primerjal z “ljubkim tigrovim mladičem”. Ne glede na to, kako ljubka je ta žival, ne moreš biti popolnoma prepričan, da te ne bo hotela ubiti, ko odraste. In ker gre za tigra, je jasno, da nihče ne more biti stoodstotno prepričan, da ljubki mladič nekega dne ne bo želel napasti ljudi. Enako lahko trdimo za umetno inteligenco, saj nihče ne more z gotovostjo trditi, da ta tehnologija za nas ne predstavlja grožnje.
“Ljudje tega še niso ugotovili, ljudje ne razumejo, kaj prihaja,” je opozoril.
Strah pred uporabo umetne inteligence v vojaške namene
Mimogrede, Hinton je nekdanji zaposleni pri Googlu, ki je odšel leta 2023, razlog pa je še posebej zanimiv. Odšel je namreč zato, da bi lahko spregovoril o morebitnih nevarnostih te tehnologije, ne da bi se bal, da bi se to lahko negativno odražalo na njegovem takratnem delodajalcu.
Eden od njegovih strahov je, da bi umetna inteligenca lahko povzročila nekatere dogodke množičnega uničenja, zlasti če bi jo uporabili v vojaške namene. Dejal je celo, da je vesel, da je star 77 let, da ne bo izkusil negativnih posledic uporabe umetne inteligence.
Google je eno od podjetij, ki ga je še posebej razočaralo, ker so v začetku letošnjega leta spremenili svojo prejšnjo strategijo in so zdaj odprti za uporabo umetne inteligence v vojaške namene, čeprav so prej dejali, da tega nikoli ne bodo storili.
Med 10 in 20 % možnosti, da bi prevzela nadzor nad ljudmi
Težava je v tem, da bi tehnološka podjetja, da bi bila čim bolj konkurenčna oziroma da ne bi zaostajala na tem izjemno dragocenem trgu, lahko varnost postavila na stranski tir. Takšna podjetja dajejo prednost dobičku pred varnostjo, in ko varnost pade v ozadje, so možni številni potencialni negativni scenariji. Vključno s tisto, da bi umetna inteligenca lahko prevzela nadzor nad ljudmi – možnosti za slednje ocenjuje na okrog 10 do 20 odstotkov.
Dovolj je samo pogledati, kako je izgledala situacija z umetno inteligenco pred petimi leti in kako je videti zdaj.
“To je strašljivo,” je pripomnil.
A kljub tem opozorilom Hinton meni, da lahko umetna inteligenca človeštvu prinese veliko pozitivnega, zlasti na področju izobraževanja, medicine, znanosti, podnebnih sprememb itd. Da bi umetno inteligenco usmerili v pozitivno smer in ne bi ušli izpod nadzora, je zelo pomembno poudariti varnost, pa tudi regulacijo, torej pravila, ki bi jih morali vsi upoštevati in ki bi morala preprečiti, da bi razvoj in uporaba te tehnologije šla v napačno smer.
