Britansko-kanadski znanstvenik Geoffrey Hinton, jedan od pionira umjetne inteligencije, upozorio je da bi ta tehnologija u idućih 30 godina mogla dovesti do izumiranja čovječanstva.
Hinton, često nazivan “kumom umjetne inteligencije”, izjavio je kako su šanse za takav scenarij između 10 i 20 posto te dodao da razvoj AI-ja napreduje “mnogo brže” nego što je očekivao. Prije je procijenio kako postoji 10-postotna šansa da bi ta tehnologija mogla dovesti do katastrofalnog ishoda za čovječanstvo, no sada je tu procjenu udvostručio i pojasnio zašto je promijenio mišljenje.
Govoreći za BBC-jevu emisiju “Today”, objasnio je da nikada nismo morali upravljati tehnologijom koja je inteligentnija od nas samih. “Koliko poznajete primjera gdje nešto manje inteligentno kontrolira nešto mnogo inteligentnije? Vrlo ih je malo”, rekao je te dodao da je evolucija omogućila bebi da kontrolira majku, ali to je iznimka. On zamišlja budućnost u kojoj će ljudi biti poput mališana u usporedbi s inteligencijom izrazito moćnih sustava umjetne inteligencije. “Zamislite sebe i trogodišnje dijete. Mi ćemo biti ta djeca”, istaknuo je.
Hinton, professor emeritus na Sveučilištu u Torontu i dobitnik Nobelove nagrade za fiziku za doprinos umjetnoj inteligenciji, prošle je godine napustio Google kako bi mogao otvoreno informirati javnost o rizicima koje nosi nekontrolirani razvoj te tehnologije. Upozorio je da bi zlonamjerni akteri mogli iskoristiti AI za nanošenje štete ljudima, ali i na potencijalnu egzistencijalnu prijetnju koju bi moglo predstavljati stvaranje opće umjetne inteligencije, autonomnih sustava pametnijih od ljudi i sposobnih za izbjegavanje ljudske kontrole.
Naglasio je kako mnogi stručnjaci vjeruju da će umjetna inteligencija u dva desetljeća nadmašiti ljudsku inteligenciju, što je opisao kao “vrlo zastrašujuću pomisao”. Zbog toga je pozvao vlade diljem svijeta da hitno uvedu stroge regulacije kako bi se osigurao siguran razvoj tehnologije. “Ne možemo se osloniti na ‘nevidljivu ruku tržišta‘. Sam profitni motiv velikih kompanija nije dovoljan da ih potakne na siguran razvoj AI-ja”, napomenuo je.
Hinton je jedan od trojice “kumova umjetne inteligencije” koji su za svoj rad nagrađeni prestižnom Turingovom nagradom, ekvivalentom Nobelove nagrade u računalnim znanostima. Njegov kolega Yann LeCun, glavni znanstvenik za AI u kompaniji Meta, ima optimističniji stav. LeCun je umanjio prijetnju egzistencijalnog rizika istaknuvši kako vjeruje da bi umjetna inteligencija zapravo mogla spasiti čovječanstvo od izumiranja.
Zanimljivo je da neki stručnjaci, koji se brinu da bi umjetna inteligencija mogla postati previše moćna, vjeruju kako bi briga o njezinoj dobrobiti mogla pomoći u sprečavanju potencijalno katastrofalnih posljedica po čovječanstvo.
Tvrtka Anthropic, sve veći konkurent OpenAI-ju, nedavno je zaposlila istraživača koji će se baviti pitanjem “dobrobiti” umjetne inteligencije. Njegov je zadatak osigurati da se AI, kako bude napredovao, tretira s poštovanjem koje zaslužuje te osmisliti praktične korake koje tvrtke mogu poduzeti kako bi zaštitile “interese” tih sustava. Premisa je toga da bi, ako postupamo s AI-jem na pravi način, mogao postojati veći potencijal da nam uzvrati uslugu ako i kada postane moćniji od nas. Međutim, ne slažu se svi s tim pristupom.
Od algoritama koji uskraćuju zdravstvenu skrb djeci preko širenja dezinformacija na društvenim mrežama do upravljanja naoružanim dronovima, umjetna inteligencija već danas značajno ugrožava ljudska prava te bi, umjesto o pravima robota, trebalo razgovarati o njihovim obvezama. Na kraju krajeva, ljudi su ti koji stvaraju robote, što znači da oni imaju odgovornost brinuti se da njihovo stvaranje ne šteti ljudima.
