Elon Musk među stručnjacima koji pozivaju na prekid obuke umjetne inteligencije
Američki milijarder Elon Musk i grupa stručnjaka za umjetnu inteligenciju (artificial intelligence - AI) pozivaju na šestomjesečnu pauzu u sistemima za obuku umjetne inteligencije.
U otvorenom pismu navode da su ti sistemi moćniji otkada je nedavno lansirana naprednija verzija chatbota ChatGPT tvrtke Open AI, piše Reuters.
Pismo, koje je objavio neprofitni institut Future of Life, potpisalo je više od 1.000 osoba, uključujući Muska.
Međutim, pismo potpisuju Emad Mostaque, izvršni direktor Stability AI-ja i istraživač DeepMinda Stuart Russell. Oni pozivaju na pauzu u razvoju napredne umjetne inteligencije dok se zajednički sigurnosni protokoli ne razviju za takve sisteme.
Također, traže da te sisteme razviju, implementiraju i revidiraju neovisni stručnjaci.
"Moćne AI sisteme treba razvijati tek kada budemo sigurni da će njihovi efekti biti pozitivni i da će se rizicima moći upravljati", ističe se u pismu.
U pismu su opisali potencijalne rizike za društvo i civilizaciju koje donosi umjetna inteligencija.
Navode da se umjetna inteligencija takmiči s ljudima te da to može dovesti do ekonomskih i političkih poremećaja.
Analitičari su pozvali programere da surađuju s kreatorima politike i nadležnim tijelima.
Pismo dolazi u trenutku kada se Europol pridružio zboru koji je etički i pravno zabrinut zbog napredne umjetne inteligencije poput ChatGPT-4. Oni upozoravaju na potencijalnu zloupotrebu sistema u pokušajima krađe identiteta, dezinformacije i kibernetičkog kriminala.
Kompanija Tesla u Muskovom vlasništvu koristi u automobilima umjetnu inteligenciju za sistem autopilota. Uprkos tome, Musk je potpisao otvoreno pismo i izrazio zabrinutost u vezi s umjetnom inteligencijom.
ChatGPT Open AI-ja, firma koju podržava Microsoft, prošle godine je potaknuo konkurente da ubrzaju razvoj sličnih velikih jezičnih modela. Osim toga, kompanije su potaknute da integriraju generativne AI modele u svoje proizvode.
Probali smo ChatGPT na RSE - Pročitajte šta nam je odgovorio
Izvršni direktor OpenAI-ja Sam Altman nije potpisao pismo, rekao je Reutersu glasnogovornik Future of Lifea. OpenAI nije odmah odgovorio na zahtjev za komentar.
"Pismo nije savršeno, ali namjera je ispravna. Moramo usporiti dok bolje ne shvatimo posljedice", rekao je profesor emeritus na Sveučilištu New York koji je potpisao pismo, Gary Marcus.
"Umjetna inteligencija može prouzrokovati ozbiljnu štetu, veliki igrači postaju sve tajnovitiji o tome što rade. To društvu otežava odbranu od štete koja može nastati", dodao je.