UNESCO je pozvao vlade da provedu strože etičke smjernice za umjetnu inteligenciju (AI), reagirajući na apel više od tisuću stručnjaka koji su tražili moratorij na nove sustave umjetne inteligencije. Samoregulacija industrije nije dovoljna da bi se izbjegla etička šteta uzrokovana daljnjim razvojem sustava umjetne inteligencije, ustvrdio je UNESCO. 

– Svijetu su potrebna jača etička pravila vezana za umjetnu inteligenciju: to je izazov našeg vremena. Svojim je pozivom UN-ova organizacija reagirala na apel više od tisuću stručnjaka koji su tražili moratorij na nove sustave umjetne inteligencije, izjavila je u Parizu glavna direktorica UNESCO-a Audrey Azoulay. Pozvala je na provedbu preporuke o umjetnoj inteligenciji koju je UNESCO prihvatio 2021. godine. 

UNESCO je rekao da je zabrinut zbog mnogih etičkih pitanja koja su pokrenule te inovacije, posebno pitanja diskriminacije i stereotipa, kao i dezinformacija, zaštite osobnih podataka te ljudskih i ekoloških prava. Iz UNESCO-a su dodali kako će njihove preporuke pružiti alate koji će osigurati da se “u razvoju umjetne inteligencije poštuje zakon, izbjegavajući štetu i osiguravajući da, kada je šteta učinjena, odgovornost i mehanizmi za odštetu budu dostupni onima koji su pogođeni”.

Elon Musk i skupina stručnjaka za umjetnu inteligenciju (AI) pozivaju na šestomjesečnu stanku u razvoju sustava moćnijih od nedavno pokrenutog GPT-4, u otvorenom pismu u kojem upozoravaju na moguće rizike za društvo i čovječanstvo. Prije ovoga mjeseca kompanija OpenAI u suradnji s Microsoftom objavila je četvrtu verziju programa GPT (Generative Pre-trained Transformer) koja je osvojila korisnike zbog širokih mogućnosti upotrebe, od skladanja pjesama do sažimanja dugačkih tekstova.

U pismu, koje je objavio neprofitni institut Future of Life i potpisalo više od tisuću ljudi, uključujući Muska, poziva se na pauzu u razvoju naprednih umjetnih inteligencija sve dok neovisni stručnjaci ne donesu sigurnosne protokole. Autori upozoravaju na rizike u obliku ekonomskih i političkih poremećaja te pozivaju programere da surađuju s vlastima i regulatornim tijelima.

“Moćne sustave AI-ja trebalo bi razvijati tek kada budemo sigurni da će njihovi učinci biti korisni i da će se rizicima moći upravljati”, stoji u pismu. Njihova zabrinutost podudara se s objavom Europola, koji je u ponedjeljak upozorio na brojne etičke i legalne probleme koje je donio ChatGPT, a tiču se moguće zloupotrebe za kibernetičke napade, širenje dezinformacija i kibernetički kriminal.

UNESCO je pozvao vlade da provedu strože etičke smjernice za umjetnu inteligenciju (AI), reagirajući na apel više od tisuću stručnjaka koji su tražili moratorij na nove sustave umjetne inteligencije. Samoregulacija industrije nije dovoljna da bi se izbjegla etička šteta uzrokovana daljnjim razvojem sustava umjetne inteligencije, ustvrdio je UNESCO. 

– Svijetu su potrebna jača etička pravila vezana za umjetnu inteligenciju: to je izazov našeg vremena. Svojim je pozivom UN-ova organizacija reagirala na apel više od tisuću stručnjaka koji su tražili moratorij na nove sustave umjetne inteligencije, izjavila je u Parizu glavna direktorica UNESCO-a Audrey Azoulay. Pozvala je na provedbu preporuke o umjetnoj inteligenciji koju je UNESCO prihvatio 2021. godine. 

UNESCO je rekao da je zabrinut zbog mnogih etičkih pitanja koja su pokrenule te inovacije, posebno pitanja diskriminacije i stereotipa, kao i dezinformacija, zaštite osobnih podataka te ljudskih i ekoloških prava. Iz UNESCO-a su dodali kako će njihove preporuke pružiti alate koji će osigurati da se “u razvoju umjetne inteligencije poštuje zakon, izbjegavajući štetu i osiguravajući da, kada je šteta učinjena, odgovornost i mehanizmi za odštetu budu dostupni onima koji su pogođeni”.

Elon Musk i skupina stručnjaka za umjetnu inteligenciju (AI) pozivaju na šestomjesečnu stanku u razvoju sustava moćnijih od nedavno pokrenutog GPT-4, u otvorenom pismu u kojem upozoravaju na moguće rizike za društvo i čovječanstvo. Prije ovoga mjeseca kompanija OpenAI u suradnji s Microsoftom objavila je četvrtu verziju programa GPT (Generative Pre-trained Transformer) koja je osvojila korisnike zbog širokih mogućnosti upotrebe, od skladanja pjesama do sažimanja dugačkih tekstova.

U pismu, koje je objavio neprofitni institut Future of Life i potpisalo više od tisuću ljudi, uključujući Muska, poziva se na pauzu u razvoju naprednih umjetnih inteligencija sve dok neovisni stručnjaci ne donesu sigurnosne protokole. Autori upozoravaju na rizike u obliku ekonomskih i političkih poremećaja te pozivaju programere da surađuju s vlastima i regulatornim tijelima.

“Moćne sustave AI-ja trebalo bi razvijati tek kada budemo sigurni da će njihovi učinci biti korisni i da će se rizicima moći upravljati”, stoji u pismu. Njihova zabrinutost podudara se s objavom Europola, koji je u ponedjeljak upozorio na brojne etičke i legalne probleme koje je donio ChatGPT, a tiču se moguće zloupotrebe za kibernetičke napade, širenje dezinformacija i kibernetički kriminal.