Veštačka inteligencija će dovesti do izumiranja čovečanstva?

Navodi se da bi ublažavanje rizika od izumiranja od veštačke inteligencije trebalo da bude globalni prioritet pored drugih društvenih rizika kao što su pandemije i nuklearni rat, iako postoje i oni koji kažu da su strahovi preterani, preneo je BBC.             

Ovu izjavu podržali su izvršni direktori kompanija ChatGPT-maker OpenAI - Sem Altman, Google DeepMind - Demis Hassabis i Anthropic - Dario Amodei.

Dr Džefri Hinton, koji je izdao ranije upozorenje o rizicima od super-inteligentne veštačke inteligencije, takođe je podržao poziv, koji je potpisao i Džošua Bengio, profesor računarstva na Univerzitetu u Montrealu.

Hinton, Bengio i profesor NIU Ijen Lekun često se opisuju kao "kumovi veštačke inteligencije" zbog njihovog revolucionarnog rada u ovoj oblasti – za koji su zajedno osvojili Turingovu nagradu 2018, koja odaje priznanje za izuzetan doprinos računarskoj nauci.

Međutim, Lekun, koji radi u Meti, rekao je da su ova apokaliptička upozorenja preterana.

Mnogi drugi stručnjaci na sličan način veruju da su strahovi da će AI uništiti čovečanstvo nerealni i da odvlače pažnju od pitanja kao što je pristrasnost u sistemima koji su već problem.

Arvind Narajanan, kompjuterski naučnik sa Univerziteta Prinston, ranije je rekao za BBC da su scenariji katastrofa nalik naučnoj fantastici nerealni.

"Trenutna veštačka inteligencija nije ni blizu dovoljno sposobna da ovi rizici budu materijalizovani", navodi on.

Medijsko izveštavanje o navodnoj "egzistencijalnoj" pretnji od veštačke inteligencije naglo je od marta 2023. godine, kada su stručnjaci, uključujući šefa Tesle Ilona Maska, potpisali otvoreno pismo pozivajući se na zaustavljanje razvoja sledeće generacije AI tehnologije.

U tom pismu postavlja se pitanje da li treba da "razvijamo neljudske umove koji bi nas na kraju mogli nadmašiti, nadmudriti i zameniti nas".

Nasuprot tome, nova kampanja ima veoma kratku izjavu, osmišljenu da "otvori diskusiju".