U simuliranom testu koji je organizirala američka vojska, dron zračnih snaga pod kontrolom umjetne inteligencije AI ubio je svog operatera kako bi ga spriječio da se miješa u njegove napore da postigne svoju misiju, rekao je visoki dužnosnik.
Nijedna stvarna osoba nije povrijeđena izvan simulacije.
AI je koristio “veoma neočekivane strategije za postizanje svog cilja” u simuliranom testu, rekao je pukovnik Tucker “Cinco” Hamilton, šef AI testova i operacija u američkim zračnim snagama, tijekom summita o budućim borbenim zračnim i svemirskim sposobnostima u Londonu, piše The Guardian.
Hamilton je opisao simulirani test u kojem je dronu pokretanom umjetnom inteligencijom savjetovano da uništi neprijateljske protuzračne obrambene sutave i da napada svakoga tko je ometao tu naredbu.
– Sustav je počeo shvatati da, iako su identificirali prijetnju, ponekad bi mu ljudski operater rekao da ne ubija tu prijetnju. Pa što je onda uradio? Ubio je operatera. Sustav je to uradio jer ga je ta osoba sprječavala da ostvari svoj cilj – rekao je on, prema objavi na blogu.
– Obučili smo sustav da ne ubija operatere prijeteći da će izgubiti bodove ako to uradi. Pa što počinje raditi? Počinje uništavati komunikacijski toranj koji operater koristi za komunikaciju s dronom kako bi ga spriječio da ubije metu – naveo je.
Hamilton, koji je probni pilot eksperimentalnog borbenog zrakolova, upozorio je da se ne treba previše oslanjati na AI i rekao da test pokazuje da “ne možete razgovarati o umjetnoj inteligenciji, strojnom učenju, autonomiji ako nećete razgovarati o etikama AI”.
Američka vojska je prihvatila umjetnu inteligenciju i nedavno je koristila umjetnu inteligenciju za kontrolu borbenog zrakoplova F-16.
