VIRTUELNI POMOĆNICI PUNI PREDRASUDA Aleksa i Siri štucaju kao i ChatGPT
Virtuelni pomoćnici kao što su Amazon Aleksa i Eplov Siri dizajnirani su da odgovaraju na pitanja, daju predloge, pa čak i pokazuju ono što bismo mogli da tumačimo kao empatiju. Međutim, nova istraživanja pokazuju da nisu mnogo napredovali u tumačenju i istraživanju korisničkog iskustva.
Ove virtuelne pomoćnike pokreću takozvani veliki jezični modeli (LLM-ovi) koji unose ogromne količine podataka koje su proizveli ljudi, a od toga šta su usvojili zavisi i šta iznose. Zato mogu da budu skloni istim predrasudama kao i ljudi od kojih dolaze informacije.
Čini se da virtuelni pomoćnici donose vrednosne sudove o određenim identitetima te da mogu da podrže sagovornike koji pokazuju sklonost određenim ideologijama. Tako su barem zaključili istraživači Univerziteta Kornel, Olin koledža i Stenford univerziteta, pošto su Aleksu i Siri podstakli da u komunikaciji s ljudima pokažu empatiju.
Istraživači su otkrili da su, u suštini, LLM dobili visoke ocene za emocionalne reakcije, ali niske ocene za tumačenja i istraživanja. Drugim rečima, LLM-i mogu da odgovore na upit na temelju svoje obuke, ali ne mogu da kopaju dublje, pokazali su rezultati istraživanja „The Illusion of Empathy? Notes on Displays of Emotion in Human-Computer Interaction” predstavljeni na konferenciji Udruženja kompjuterskih mašina o ljudskim faktorima u računalnim sustavima CHI’24 u Honoluluu.
- Automatizovana empatija pokazuje ogroman potencijal i mogla bi imati veliki pozitivan uticaj u obrazovanju ili zdravstvu – poručili su optimistični naučnici.
Nije zgoreg podsetiti na to da većina analitičara ponašanja veštačke inteligencije ukazuje na problem proste reprodukcije usvojenih podataka, bez analize da li su ti podaci tačni. Drugim rečima, ako dovoljan broj ljudi na internetu negde napiše da je Zemlja ravna ploča, veštačka inteligencija će u nekom odgovoru to i napisati, jer jednako vrednim tumači linkove na opskurne, kao i na naučne sajtove. Ovo bi uskoro trebalo da se promeni, a aplikacije provere podataka i za korisnike interneta već postoje, tako da se „peglanje” informacija očekuje u bliskoj budućnosti.
A što se Alekse i Siri tiče, predrasude su i sama njihova imena – žene su tu da, poput sekretarica ili domaćica, pomognu vlasniku da se snađe u svakodnevnim aktivnostima.
I. R.
