Očitno se vse bolj zavedamo, da tehnologija, ki smo jo sprejeli odprtih rok, poleg možnosti samodejnega pisanja besedil, ustvarjanja podob in upravljanja naprav odpira možnosti za zlorabe in tveganja, ki jih ne znamo obvladati – vključno s koncem sveta, kot ga poznamo. Zakaj smo se začeli prebujati šele zdaj in opozarjati na nevarnost? Morda predvsem zato, ker se zdi poguba zaradi UI preveč abstraktna in nerealna, rešitev pa navidezno lahka. Če razpravljate o tej temi, se hitro najde nekdo, ki pravi: »Pa saj bomo iztaknili vtič ali pritisnili na stikalo – in problem bo rešen.«
Ko slišim takšen odgovor, me prime, da bi se zahahljal kot Roman Jampolski, eden vodilnih strokovnjakov za varnost UI, ki iskalcem preproste rešitve odgovarja: »Krasna zamisel! Napišiva znanstveni članek o tem in prejela bova Nobelovo nagrado za mir.« Potem pojasni, da bo superinteligenca, ki je bojda osrednji cilj podjetij za razvoj UI, razmišljala bolje in hitreje od nas ter se domislila kupa načinov, kako nas oviti okrog prsta – tako kot je že povsem običajna UI že nekajkrat ovila mene.
In to se mi še vedno dogaja! Pred dnevi sem, na primer, prejel klic z neznane številke. Oglasil sem se in na drugi strani je bila ženska, ki se je predstavila kot Sara in mi začela pripovedovati, da sva si pred časom dopisovala. Odgovarjal sem ji, ona pa mi je postavljala vedno nova vprašanja. Šele po minuti sem posumil, da se sploh ne pogovarjam s človekom, temveč s samodejno sogovornico, ki skuša iz mene izvabiti informacije. Takrat sem prekinil zvezo.
Zdaj si pa zamislite, da vas pokliče otrok. Zaslišite njegov glas, pove vam, da je v težavah, in vas prosi za nakazilo. Bi mu želeli pomagati? Verjetno bi. Glas pa je s pomočjo UI mogoče brez težav ponarediti. Ko se bomo nekajkrat opekli, bomo začeli dvomiti o glasu svojega otroka, žene, moža, staršev, prijateljev … In tako se lahko začne krhati nekaj, brez česar ni skupnosti: zaupanje. Zato si moramo že zdaj zastaviti nekaj bistvenih vprašanj. Še znamo razmišljati z lastno glavo ter zaupati sebi? Kako bomo preverili, kdo nas kliče, ne da bi izgubili zaupanje v sočloveka? In koliko zaupanja si zaslužijo podjetja, ki razvijajo UI, ter odločevalci, ki dopuščajo njeno uporabo?
Sebi in bližnjim bomo verjetno še nekaj časa zaupali, razvijalci pa so naše zaupanje v dobršni meri že izgubili. Kako ga lahko spet pridobijo? Predvsem tako, da spremenijo znano načelo »premikajmo se hitro, pa četudi kaj razbijemo«. Njihov in naš slogan bi dejansko moral biti: »Premikajmo se hitro ter popravimo svet.« Skratka, tisti, ki so svet med hitenjem razbijali, naj čim prej vzamejo pamet v roke. Človeško – ne umetne.
