Вештачка интелигенција ће довести до изумирања човечанства?

Наводи се да би ублажавање ризика од изумирања од вештачке интелигенције требало да буде глобални приоритет поред других друштвених ризика као што су пандемије и нуклеарни рат, иако постоје и они који кажу да су страхови претерани, пренео је BBC.             

Ову изјаву подржали су извршни директори компанија ChatGPT-maker ОпенАИ - Сем Алтман, Google ДеепМинд - Демис Hassabis и Anthropic - Дарио Амодеи.

Др Џефри Хинтон, који је издао раније упозорење о ризицима од супер-интелигентне вештачке интелигенције, такође је подржао позив, који је потписао и Џошуа Бенгио, професор рачунарства на Универзитету у Монтреалу.

Хинтон, Бенгио и професор НИУ Ијен Лекун често се описују као "кумови вештачке интелигенције" због њиховог револуционарног рада у овој области – за који су заједно освојили Турингову награду 2018, која одаје признање за изузетан допринос рачунарској науци.

Међутим, Лекун, који ради у Мети, рекао је да су ова апокалиптичка упозорења претерана.

Многи други стручњаци на сличан начин верују да су страхови да ће АИ уништити човечанство нереални и да одвлаче пажњу од питања као што је пристрасност у системима који су већ проблем.

Арвинд Нарајанан, компјутерски научник са Универзитета Принстон, раније је рекао за BBC да су сценарији катастрофа налик научној фантастици нереални.

"Тренутна вештачка интелигенција није ни близу довољно способна да ови ризици буду материјализовани", наводи он.

Медијско извештавање о наводној "егзистенцијалној" претњи од вештачке интелигенције нагло је од марта 2023. године, када су стручњаци, укључујући шефа Тесле Илона Маска, потписали отворено писмо позивајући се на заустављање развоја следеће генерације АИ технологије.

У том писму поставља се питање да ли треба да "развијамо нељудске умове који би нас на крају могли надмашити, надмудрити и заменити нас".

Насупрот томе, нова кампања има веома кратку изјаву, осмишљену да "отвори дискусију".