Geoffrey Hinton, jedan od pionira razvoja umjetne inteligencije i dobitnik Nobelove nagrade, upozorio je da bi svijet već krajem ove ili tijekom sljedeće godine mogao doživjeti tehnološku katastrofu razmjera Černobila.
U intervjuu za britanski “Guardian” istaknuo je da ga posebno brinu autonomni AI agenti koji mogu samostalno obavljati niz zadataka, zaobilaziti mehanizme kontrole i pokretati hakerske napade.
“Ili krajem ove ili sljedeće godine vidjet ćemo Černobil, i to bi moglo biti dovoljno da ljudi stvarno obrate pažnju”, rekao je Hinton.
Ne misli na novu nuklearnu nesreću, već na incidente poput masovnih nestanaka struje ili paralize financijskog sustava zbog neispravnog rada umjetne inteligencije.
Ruski stručnjak Roman Duškin ne slaže se s njegovom procjenom, koji smatra da Hinton nije objasnio konkretan mehanizam kojim bi umjetna inteligencija mogla uzrokovati takvu katastrofu.
Također upozorava da poznavanje neuronskih mreža ne znači automatski razumijevanje složenih energetskih sustava.
Duškin smatra da su potrebna precizna znanstvena i inženjerska objašnjenja, a ne samo dramatična predviđanja. Hintonovo upozorenje tako je ponovno otvorilo raspravu o granicama ljudske kontrole nad umjetnom inteligencijom i mogućim posljedicama njezina razvoja.
