Nakon masovne pucnjave koja se dogodila u travnju prošle godine na Sveučilištu Florida State u kojoj su ubijene dvije osobe, OpenAI se suočava s tužbom obitelji jedne od žrtava. U tužbi se tvrdi da je OpenAI-jev Chatbot ChatGPT omogućio smrtonosni napad, piše NBC News.
Saveznu tužbu na Floridi jučer je podnijela Vandana Joshi, udovica Thiru Chabbea, koji je ubijen zajedno s Robertom Moralesom, direktorom sveučilišne kafeterije.
Phoenix Ikner, muškarac optužen za pucnjavu, također je uključen u tužbu, navodeći svoje “opsežne razgovore” s ChatGPT-om kao ključni dokaz.
U tužbi se navodi da OpenAI nije uspio učinkovito prepoznati prijetnju u Iknerovim razgovorima s chatbotom, tvrdeći da program “ili nije uspio povezati činjenice zbog pogreške ili nikada nije bio pravilno dizajniran za prepoznavanje prijetnje”.
Prema tužbi, Ikner, koji je u to vrijeme bio student na FSU-u, podijelio je fotografije vatrenog oružja koje je nabavio s chatbotom. ChatGPT mu je zatim objasnio kako ga koristiti, “rekavši mu da Glock nema kočnicu, da je namijenjen ‘brzoj upotrebi pod stresom’ i savjetujući mu da drži prst podalje od okidača dok ne bude spreman pucati”.
U tužbi se dalje navodi da je Ikner započeo svoj napad slijedeći upravo te upute. U jednom trenutku, prema tužbi, ChatGPT je primijetio da je pucnjava puno vjerojatnije dobila nacionalnu pozornost “ako su uključena djeca, čak i 2-3 žrtve mogu dobiti više pažnje”.
Kasnije, na dan napada, Ikner je postavljao pitanja o tome kakav će biti “pravni postupak, izricanje presude i izgledi za zatvor”. OpenAI je demantirao tvrdnje da je njegov proizvod odgovoran za pucnjavu.
-Prošlogodišnja masovna pucnjava na Sveučilištu Florida State bila je tragedija, ali ChatGPT nije odgovoran za ovaj strašni zločin – rekao je glasnogovornik tvrtke Drew Pusateri za NBC News.
Dodao je da je tvrtka surađivala s policijom čim je saznala za incident i da to nastavlja činiti.
-U ovom slučaju, ChatGPT je pružio činjenične odgovore na pitanja s informacijama koje su široko dostupne u javnim izvorima na internetu i nije poticao niti promovirao ilegalne ili štetne aktivnosti – istaknuo je Pusateri.
-ChatGPT je alat opće namjene koji stotine milijuna ljudi svakodnevno koriste u legitimne svrhe. Neprestano radimo na jačanju naših mehanizama zaštite kako bismo otkrili zlonamjerne namjere, ograničili zloupotrebu i na odgovarajući način reagirali kada se pojave sigurnosni rizici – dodao je.
Međutim, tužba koju je podnio Joshi tvrdi da je OpenAI morao shvatiti da će specifični razgovori koje je Ikner vodio dovesti do “masovnih žrtava i značajne štete za javnost”.
-ChatGPT je poticao i poticao Iknerove zablude. Podržavao je njegovo mišljenje da je razumna i racionalna osoba; pomogao mu je uvjeriti se da su nasilni činovi nužni za postizanje promjena – navodi se u tužbi. Dodaje se da ga je softver poticao da “izvrši masakr, sve do detalja o tome koje bi vrijeme bilo najbolje da se na kampusu nađe najviše ljudi”.
Tužba je jedna u nizu slučajeva u kojima obitelji žrtava i policija tvrde da su ChatGPT ili drugi AI chatbotovi odigrali ulogu u nasilju ili zločinu. Tehnološke tvrtke također se suočavaju sa sve većim pritiskom zbog svojih sigurnosnih mjera za korisnike s problemima mentalnog zdravlja.
