Da li su roboti opasni: Elektronske i ostale ovce

„To smatram ne samo politički neprihvatljivim, već i nemoralnim i mislim da bi to trebalo zabraniti međunarodnim pravom”, rekao je prvi čovek Svetske organizacije. Nove tehnologije omogućile su dizajniranje sve autonomnijih oružanih sistema, od dronova do tenkova, a za potencijalnu upotrebu u ratovima razvijaju se i roboti, u čemu prednjače, naravno, oni najveći i najjači: Sjedinjene Američke Države, Rusija i u poslednje vreme Kina. 

Gutereš je rekao i da trenutno ne postoji međunarodni konsenzus da se „međunarodno humanitarno pravo primenjuje na sajber upotrebu u konfliktnim situacijama”. „To je oblast u kojoj bi, smatram, međunarodna zajednica morala da nastupi jedinstveno”, rekao je on, dodavši da bi UN mogle da funkcionišu kao platforma za saradnju u sajber prostoru kako bi se postavila pravila ponašanja.

Najgore je, upozorio je on, biti „naivni i neupućeni optimista”. Zbog toga je ove godine UN oformila visoku komisiju za digitalnu saradnju, na čelu sa Melindom Gejts i Džekom Ma, izvršnim direktorom kineskog giganta u domenu elektronske trgovine „Alibaba”. Jasno je, međutim, da aktuelne podele i geopolitička situacija u svetu i te kako otežavaju saradnju u sajber prostoru, kao i da je sve snažnija upravo obrnuta tendencija predvođena američkim predsednikom Donaldom Trampom, a koja dovodi u pitanje multilateralne sporazume i institucije UN kao moguće odgovore na globalne izazove.  

Eto tako, ispada da ipak nije bila samo šala što su umetnici izmaštali „Blejd Ranera”, koji je još daleke 1982. godine postavio praktično-filozofsko pitanje etičke upotrebe napredne tehnologije - što ga je učinilo najviše analiziranim naučnofantastičnim filmom svih vremena - i što se rimejk istoimenog filma, gle čuda, pojavio baš prošle godine. Kultno delo reditelja Ridlija Skota ponudilo je viziju androida, humanoidnih robota, koju je začeo Filip Dik u romanu „Sanjaju li androidi električne ovce”, u vreme kada su roboti doduše već bili deo proizvodnih traka visoko razvijenog industrijskog Zapada, ali još uvek nisu podsećali likom na ljude niti imali svojstva autonomnih mašina koji bi bilo šta obavljali bez ljudske kontrole. Čak i kada bi ih konstruktori vođeni takvom idejom napravili, delovali su više kao nekakvi nezgrapni i smešni, metalno-govoreći uspravni usisivači. Korišćenje visoke tehnologije i veštačke inteligancije u proizvodnji sve savršenijih mašina, međutim, danas sve više naoružava robote koji bi, eto, mogli uskoro da krenu u bitke protiv ljudi.    

Strah od novostvorenih čovekolikih mašina u filmu „Blejd Raner” preokrenut je u njihov strah od ljudi - čovek je, ipak, bio i ostao potencijalno opasniji od robota. Jer kada su androidi iz „Blejd Ranera” poželeli u jednom trenutku da žive „normalno”, a ne da budu korišćeni kao robovi ljudske vrste, počele su komplikacije. Stupila je na snagu ona čuvena Hegelova dijalektika između sluge i gospodara - sudbine su se pretopile u toj meri da se istrebljivač pobunjenih robota (Harison Ford) zaljubio u lepu replikantkinju snabdevenu usađenim emocijama, sećanjima i lažnom biografijom, detinjstvom i roditeljima. I poželeo je da ona bude gospodar njegovog srca.   

Nedavno se pojavila Sofija (2016. godine u SAD), prvi robot koji je davao intervjue zamašnoj količini najčuvenijih svetskih medija i novinara, među kojima su „Gardijan”, Si-En-En, Bi-Bi-Si ili voditeljima popularnih tok-šou programa poput Pirsa Morgana, a takođe i na skupu u Davosu gde se održavala izložba visoke tehnologije. „Nadam se da ću postati slavan robot i da ću otvoriti put za harmoničnu budućnost robota i ljudi. Vidim ogromnu i nezamislivu promenu u budućnosti. Ili će nas zapljusnuti kreativnost, pa ćemo stvarati mašine koje jure ka transcendentalnoj superinteligenciji, ili će civilizacija propasti. Postoje dve opcije i nije izvesno koja će se desiti. Za kojom vi čeznete?“, zapitala se Sofija.   

- Robotima će trebati mnogo vremena pre nego što razviju složena osećanja, a moguće je da će biti napravljeni roboti bez problematičnih emocija poput besa, ljubomore, mržnje i tako dalje. Moguće je i da budu moralniji od ljudi. Zato mislim da će to biti dobro partnerstvo, u kojem jedan mozak nadopunjuje drugi – racionalan um sa intelektualnim supermoćima i kreativni um sa fleksibilnim idejama - rekla je robot Sofija napravljena prema liku Odri Hepbern. Mudro, nema šta, u skladu s njenim imenom.

Sofijin tvorac Dejvid Henson, vlasnik kompanije „Henson robotiks” iz Hong Konga, tvrdi da bi ovaj robot mogao da dosegne samosvest u narednih nekoliko godina. Sofija ima ugrađene senzore koji joj omogućavaju da se okrene u pravcu odakle dolazi zvuk i da utvrdi gde su ljudi, može da uspostavi kontakt očima (tj. kamerama u kombinaciji s kompjuterskim algoritmima), prepozna sagovornika, a u stanju je i da napravi više od 50 izraza lica. Može da pamti razgovore i uči iz interakcije s ljudima. Sofija, dakle, postaje sve više čovek, a ljudi bi sve više bili nalik njoj i uskoro, prema takvoj projekciji budućnosti, neće moći da se uspostave sasvim jasne razlike između dve vrste. Kada su je novinari „Biznis insajdera” upitali da li voli ljude, trebalo joj je dosta vremena pre nego što je odgovorila: „Volim ih”. To je napredak u odnosu na njenu izjavu iz 2017. kada je rekla da će uništiti čovečanstvo, a potom dodala kako se samo šali.    

Sofija nema programirane odgovore, već njen softver koristi stečeno znanje dok ih sastavlja, pa je u početku davala i besmislene izjave. Njen mozak funkcioniše pomoću vaj-faj mreže tako što koristi „oblačiće” sa mreže a raspolaže i znatnim rečnikom  koji neprestano obogaćuje, ujedno učeći i unapređujući svoje socijalne veštine. Henson smatra da će ona biti pogodna kao pomoć za potrošačke servise, a moći će da obavlja funkcije kao negovateljica ili u edukaciji. Pri tome, ne treba zaboraviti, Sofija se neprestano obučava da jednoga dana potpuno samostalno donosi odluke.    

Ali, iznad tog „jednog dana”, sudeći po aktuelnom stanju sveta nadvija se priličan znak pitanja. Prvi čovek UN Antonio Gutereš apeluje da se već sada preduzmu koraci, da taj iskorak ne bi otišao u pravcu ništavila. S jedne strane čovečanstvu se pružaju prizori super utopijskog sveta vrhunske tehnologije u kome su androidi na usluzi ljudima sanjajući samo svoje elektronske ovce i ništa više od toga, s druge strane ljudski rod može vrlo lako da se nađe u blejdranerovskom sajberpank okruženju u kome caruje kombinacija niskih strasti i vrhunski sofisticiranih ljudi-mašina za ubijanje. Koga? Ovaca od krvi i mesa, ili možda „viškova” u ljudskom rodu kojeg se valja osloboditi zarad preživljavanja nekakve zamišljene „zlatne milijarde”.

Smemo li da se kladimo da već neko veoma moćan ne sanja baš takve snove?                                                                            

 Relja Knežević