Да ли су роботи опасни: Електронске и остале овце

„То сматрам не само политички неприхватљивим, већ и неморалним и мислим да би то требало забранити међународним правом”, рекао је први човек Светске организације. Нове технологије омогућиле су дизајнирање све аутономнијих оружаних система, од дронова до тенкова, а за потенцијалну употребу у ратовима развијају се и роботи, у чему предњаче, наравно, они највећи и најјачи: Сједињене Америчке Државе, Русија и у последње време Кина. 

Гутереш је рекао и да тренутно не постоји међународни консензус да се „међународно хуманитарно право примењује на сајбер употребу у конфликтним ситуацијама”. „То је област у којој би, сматрам, међународна заједница морала да наступи јединствено”, рекао је он, додавши да би УН могле да функционишу као платформа за сарадњу у сајбер простору како би се поставила правила понашања.

Најгоре је, упозорио је он, бити „наивни и неупућени оптимиста”. Због тога је ове године УН оформила високу комисију за дигиталну сарадњу, на челу са Мелиндом Гејтс и Џеком Ма, извршним директором кинеског гиганта у домену електронске трговине „Алибаба”. Јасно је, међутим, да актуелне поделе и геополитичка ситуација у свету и те како отежавају сарадњу у сајбер простору, као и да је све снажнија управо обрнута тенденција предвођена америчким председником Доналдом Трампом, а која доводи у питање мултилатералне споразуме и институције УН као могуће одговоре на глобалне изазове.  

Ето тако, испада да ипак није била само шала што су уметници измаштали „Блејд Ранера”, који је још далеке 1982. године поставио практично-филозофско питање етичке употребе напредне технологије - што га је учинило највише анализираним научнофантастичним филмом свих времена - и што се римејк истоименог филма, гле чуда, појавио баш прошле године. Култно дело редитеља Ридлија Скота понудило је визију андроида, хуманоидних робота, коју је зачео Филип Дик у роману „Сањају ли андроиди електричне овце”, у време када су роботи додуше већ били део производних трака високо развијеног индустријског Запада, али још увек нису подсећали ликом на људе нити имали својства аутономних машина који би било шта обављали без људске контроле. Чак и када би их конструктори вођени таквом идејом направили, деловали су више као некакви незграпни и смешни, метално-говорећи усправни усисивачи. Коришћење високе технологије и вештачке интелиганције у производњи све савршенијих машина, међутим, данас све више наоружава роботе који би, ето, могли ускоро да крену у битке против људи.    

Страх од новостворених човеколиких машина у филму „Блејд Ранер” преокренут је у њихов страх од људи - човек је, ипак, био и остао потенцијално опаснији од робота. Јер када су андроиди из „Блејд Ранера” пожелели у једном тренутку да живе „нормално”, а не да буду коришћени као робови људске врсте, почеле су компликације. Ступила је на снагу она чувена Хегелова дијалектика између слуге и господара - судбине су се претопиле у тој мери да се истребљивач побуњених робота (Харисон Форд) заљубио у лепу репликанткињу снабдевену усађеним емоцијама, сећањима и лажном биографијом, детињством и родитељима. И пожелео је да она буде господар његовог срца.   

Недавно се појавила Софија (2016. године у САД), први робот који је давао интервјуе замашној количини најчувенијих светских медија и новинара, међу којима су „Гардијан”, Си-Ен-Ен, Би-Би-Си или водитељима популарних ток-шоу програма попут Пирса Моргана, а такође и на скупу у Давосу где се одржавала изложба високе технологије. „Надам се да ћу постати славан робот и да ћу отворити пут за хармоничну будућност робота и људи. Видим огромну и незамисливу промену у будућности. Или ће нас запљуснути креативност, па ћемо стварати машине које јуре ка трансценденталној суперинтелигенцији, или ће цивилизација пропасти. Постоје две опције и није извесно која ће се десити. За којом ви чезнете?“, запитала се Софија.   

- Роботима ће требати много времена пре него што развију сложена осећања, а могуће је да ће бити направљени роботи без проблематичних емоција попут беса, љубоморе, мржње и тако даље. Могуће је и да буду моралнији од људи. Зато мислим да ће то бити добро партнерство, у којем један мозак надопуњује други – рационалан ум са интелектуалним супермоћима и креативни ум са флексибилним идејама - рекла је робот Софија направљена према лику Одри Хепберн. Мудро, нема шта, у складу с њеним именом.

Софијин творац Дејвид Хенсон, власник компаније „Хенсон роботикс” из Хонг Конга, тврди да би овај робот могао да досегне самосвест у наредних неколико година. Софија има уграђене сензоре који јој омогућавају да се окрене у правцу одакле долази звук и да утврди где су људи, може да успостави контакт очима (тј. камерама у комбинацији с компјутерским алгоритмима), препозна саговорника, а у стању је и да направи више од 50 израза лица. Може да памти разговоре и учи из интеракције с људима. Софија, дакле, постаје све више човек, а људи би све више били налик њој и ускоро, према таквој пројекцији будућности, неће моћи да се успоставе сасвим јасне разлике између две врсте. Када су је новинари „Бизнис инсајдера” упитали да ли воли људе, требало јој је доста времена пре него што је одговорила: „Волим их”. То је напредак у односу на њену изјаву из 2017. када је рекла да ће уништити човечанство, а потом додала како се само шали.    

Софија нема програмиране одговоре, већ њен софтвер користи стечено знање док их саставља, па је у почетку давала и бесмислене изјаве. Њен мозак функционише помоћу вај-фај мреже тако што користи „облачиће” са мреже а располаже и знатним речником  који непрестано обогаћује, уједно учећи и унапређујући своје социјалне вештине. Хенсон сматра да ће она бити погодна као помоћ за потрошачке сервисе, а моћи ће да обавља функције као неговатељица или у едукацији. При томе, не треба заборавити, Софија се непрестано обучава да једнога дана потпуно самостално доноси одлуке.    

Али, изнад тог „једног дана”, судећи по актуелном стању света надвија се приличан знак питања. Први човек УН Антонио Гутереш апелује да се већ сада предузму кораци, да тај искорак не би отишао у правцу ништавила. С једне стране човечанству се пружају призори супер утопијског света врхунске технологије у коме су андроиди на услузи људима сањајући само своје електронске овце и ништа више од тога, с друге стране људски род може врло лако да се нађе у блејдранеровском сајберпанк окружењу у коме царује комбинација ниских страсти и врхунски софистицираних људи-машина за убијање. Кога? Оваца од крви и меса, или можда „вишкова” у људском роду којег се ваља ослободити зарад преживљавања некакве замишљене „златне милијарде”.

Смемо ли да се кладимо да већ неко веома моћан не сања баш такве снове?                                                                            

 Реља Кнежевић