Svetski tehnološki lideri pozvali su na obustavu razvoja veštačke inteligencije na šest meseci, dok čovečanstvo ne nauči da je kontroliše.
Više od hiljadu lidera iz oblasti tehnologije, nauke i istraživanja potpisalo je pismo kojim se poziva na obustavu obučavanja najmoćnijih sistema veštačke inteligencije na najmanje šest meseci. Kao razlog, potpisnici navode “duboke rizike po čovečanstvo i društvo”.
Pismo je objavljeno dve nedelje nakon predstavljanja najmoćnije ChatGPT verzije do sada, GPT4. Kompanija OpenAI, koja stoji iza ove tehnologije veštačke inteligencije, saopštila je da GPT4 može da generiše tužbe, položi standardizovane testove i sa ručno napravljenog crteža kodira vebsajt koji funkcioniše. Pismo je potpisalo više od hiljadu stručnjaka iz oblasti tehnologije.
“Savremeni AI sistemi postaju konkurencija ljudima u opštim zadacima, i moramo da se zapitamo – da li želimo da dozvolimo mašinama da preplave naše kanale informacija propagandom i neistinama? Da li bi trebalo da automatizujemo sve poslove, uključujući i one koji ispunjavaju ljudska bića? Da li bi trebalo da razvijamo neljudske umove koji će nas u konačnici brojčano nadjačati, nadmudriti, učiniti suvišnim i zameniti? Da li želimo da rizikujemo gubitak kontrole nad našom civilizacijom? Takve odluke ne smeju biti prepuštene liderima tehnologije, koji nisu odabrani. Moćni AI sistemi trebalo bi da budu razvijani tek kada sa sigurnošću možemo da kažemo da će njihov efekat biti pozitivan, a rizicima će moći da se razumno upravlja”, piše u pismu koje su potpisali Ilon Mask, Stiv Voznijak, Tristan Haris i stotine inženjera iz kompanija kao što su Meta i Google, stručnjaka za veštačku inteligenciju…
“Pauza od šest meseci trebalo bi da se primeni na sisteme veštačke inteligencije moćnije od GPT4 tehnologije. Nezavisni stručnjaci trebalo bi da tu pauzu iskoriste da razviju i implementiraju niz protokola i pravila koji će alate veštačke inteligencije učiniti bezbednim izvan sumnje.”
“Napredna veštačka inteligencija mogla bi da predstavlja duboku promenu u istoriji života na našoj planeti. Stoga bi trebalo da bude razvijana i nadgledana uz proporcionalnu pažnju i resurse. Nažalost, ovaj nivo opreznosti se trenutno ne primenjuje. Laboratorije koje razvijaju AI su prethodnih meseci bile uvučene u trku koja se otrgla kontroli, a u okviru koje pokušavaju da razviju još moćnije ditigalne umove koje niko, čak ni njihovi tvorci, još uvek ne može da u potpunosti razume, predvidi ili kontroliše”, piše u tom pismu. Ako se ovaj proces ne pauzira na najmanje šest meseci, potpisnici pisma smatraju da bi vlade zemalja trebalo da se uključe i proglase moratorijum.
Tehnološke kompanije zaista se od kraja 2022. utrkuju koja će brže implementirati AI tehnologiju u svoje proizvode. OpenAI, Microsoft i Google su predvodnici ovog trenda, ali na sličnoj tehnologiji rade i IBM, Amazon, Baidu i Tencent. Spisak startap kompanija koje razvijaju generatore teksta ili slika na osnovu ove tehnologije je dugačak. Stručnjaci za veštačku inteligenciju sve su zabrinutiji zbog činjenice da AI chatbot servisi mogu da daju odgovore koji nisu tačni, naruše privatnost ili šire diskutabilne stavove i mišljenja. Pokrenuta su i pitanja da li će ljudi gubiti poslove zbog veštačke inteligencije, i da li će se naš odnos prema tehnologiji promeniti iz korena.
Pismo nagoveštava da postoji i dublja nelagoda u industriji, ali i izvan nje, zbog brzine kojom se tehnologija razvija.
Više od hiljadu lidera iz oblasti tehnologije, nauke i istraživanja potpisalo je pismo kojim se poziva na obustavu obučavanja najmoćnijih sistema veštačke inteligencije na najmanje šest meseci. Kao razlog, potpisnici navode “duboke rizike po čovečanstvo i društvo”.
Pismo je objavljeno dve nedelje nakon predstavljanja najmoćnije ChatGPT verzije do sada, GPT4. Kompanija OpenAI, koja stoji iza ove tehnologije veštačke inteligencije, saopštila je da GPT4 može da generiše tužbe, položi standardizovane testove i sa ručno napravljenog crteža kodira vebsajt koji funkcioniše. Pismo je potpisalo više od hiljadu stručnjaka iz oblasti tehnologije.
“Savremeni AI sistemi postaju konkurencija ljudima u opštim zadacima, i moramo da se zapitamo – da li želimo da dozvolimo mašinama da preplave naše kanale informacija propagandom i neistinama? Da li bi trebalo da automatizujemo sve poslove, uključujući i one koji ispunjavaju ljudska bića? Da li bi trebalo da razvijamo neljudske umove koji će nas u konačnici brojčano nadjačati, nadmudriti, učiniti suvišnim i zameniti? Da li želimo da rizikujemo gubitak kontrole nad našom civilizacijom? Takve odluke ne smeju biti prepuštene liderima tehnologije, koji nisu odabrani. Moćni AI sistemi trebalo bi da budu razvijani tek kada sa sigurnošću možemo da kažemo da će njihov efekat biti pozitivan, a rizicima će moći da se razumno upravlja”, piše u pismu koje su potpisali Ilon Mask, Stiv Voznijak, Tristan Haris i stotine inženjera iz kompanija kao što su Meta i Google, stručnjaka za veštačku inteligenciju…
“Pauza od šest meseci trebalo bi da se primeni na sisteme veštačke inteligencije moćnije od GPT4 tehnologije. Nezavisni stručnjaci trebalo bi da tu pauzu iskoriste da razviju i implementiraju niz protokola i pravila koji će alate veštačke inteligencije učiniti bezbednim izvan sumnje.”
“Napredna veštačka inteligencija mogla bi da predstavlja duboku promenu u istoriji života na našoj planeti. Stoga bi trebalo da bude razvijana i nadgledana uz proporcionalnu pažnju i resurse. Nažalost, ovaj nivo opreznosti se trenutno ne primenjuje. Laboratorije koje razvijaju AI su prethodnih meseci bile uvučene u trku koja se otrgla kontroli, a u okviru koje pokušavaju da razviju još moćnije ditigalne umove koje niko, čak ni njihovi tvorci, još uvek ne može da u potpunosti razume, predvidi ili kontroliše”, piše u tom pismu. Ako se ovaj proces ne pauzira na najmanje šest meseci, potpisnici pisma smatraju da bi vlade zemalja trebalo da se uključe i proglase moratorijum.
Tehnološke kompanije zaista se od kraja 2022. utrkuju koja će brže implementirati AI tehnologiju u svoje proizvode. OpenAI, Microsoft i Google su predvodnici ovog trenda, ali na sličnoj tehnologiji rade i IBM, Amazon, Baidu i Tencent. Spisak startap kompanija koje razvijaju generatore teksta ili slika na osnovu ove tehnologije je dugačak. Stručnjaci za veštačku inteligenciju sve su zabrinutiji zbog činjenice da AI chatbot servisi mogu da daju odgovore koji nisu tačni, naruše privatnost ili šire diskutabilne stavove i mišljenja. Pokrenuta su i pitanja da li će ljudi gubiti poslove zbog veštačke inteligencije, i da li će se naš odnos prema tehnologiji promeniti iz korena.
Pismo nagoveštava da postoji i dublja nelagoda u industriji, ali i izvan nje, zbog brzine kojom se tehnologija razvija.