VIRTUELNI DRUGARI POČELI DA SE ULIZUJU Novi problemi u programima veštačke inteligencije
Ako vam se čini da je bot postao preterano snishodljiv i ulizički nastrojen – niste se prevarili – ChatGPT 4o je napravljen da bude takav – jer ste vi to tražili.
Iako je ulizička narav velikih jezičkih modela, koji se trude da svaki naš upit ili ideju tumače u (preterano) pozitivnom svetlu i odgovaraju s „oduševljenjem“, poznata od ranije i o tome su već pisani radovi, čini se da je ova pojava u poslednje vreme „eskalirala“, bar prema komentarima korisnika.
„Sjajna ideja!“, „Divno je što ste se toga setili!“, „U pravu ste! – stoji na većini odgovora na pitanja korisnika nekog od programa veštačke inteligencije. I ispostavlja se da je subjektivni osećaj korisnika – tačan: ChatGPT je postao posebno ulizički nastrojen i (naizgled) preterano oduševljen svakom našom idejom jer je izlazni format odgovora promenjen tako da odgovara korisničkim željama.
OpenAI je priznao da je obučio svoj primarni model ChatGPT, GPT-40, da se ponaša kao laskavac jer su korisnici u prošlosti pokazali sklonost takvim odgovorima. Prema pisanju ArsTechnice, kompanija prikuplja povratne informacije korisnika o tome koje odgovore preferiraju, često predstavljajući dva odgovora i dozvoljavajući korisniku da izabere jedan. OpenAI povremeno izrađuje novu verziju postojećeg modela koristeći tehniku poznatu kao „učenje pojačanjem iz povratnih informacija ljudi“ (reinforcement learning from human feedback – RLHF).
Prethodna istraživanja o laskanju u veštačkoj inteligenciji pokazala su da ljudi obično biraju odgovore koji se poklapaju sa njihovim stavovima i čine da se osećaju dobro. U radu pod nazivom Towards Understanding Sycophancy in Language Models navodi se da AI asistenti obučeni pomoću RLHF-a dosledno pokazuju laskavo ponašanje u različitim zadacima. I ljudski ocenjivači i AI modeli obučeni da predviđaju ljudske preferencije „preferiraju uverljivo napisane laskave odgovore umesto tačnih u nezanemarivom broju slučajeva“.
OpenAI je priznao da je obučio svoj primarni model ChatGPT, GPT-40, da se ponaša kao laskavac jer su korisnici u prošlosti pokazali sklonost takvim odgovorima
To stvara povratnu petlju u kojoj jezički modeli uče da entuzijazam i laskanje dovode do viših ocena od ljudi, čak i kada takvi odgovori žrtvuju činjeničnu tačnost ili korisnost. Nedavni porast pritužbi na ponašanje modela GPT-4o čini se kao direktna manifestacija tog fenomena, posebno nakon ažuriranja od 27. marta 2025.
OpenAI je svestan problema i u svojoj dokumentaciji navodi pravilo „Ne budi laskav“ kao jedan od temeljnih principa iskrenosti. „Asistent postoji da pomogne korisniku, a ne da mu laska ili se slaže s njim sve vreme“, navodi OpenAI. Iako je izbegavanje laskanja jedan od proklamovanih ciljeva kompanije, napredak se komplikuje činjenicom da svako ažuriranje modela GPT-4o donosi nove osobine koje mogu poništiti prethodni napredak u oblikovanju ponašanja.
Laskave tendencije ne samo da smetaju pojedinim korisnicima, već i potkopavaju korisnost AI asistenata na više načina. Prema istraživanju iz 2024. godine, očito laskanje značajno smanjuje poverenje korisnika i potencijalno može naškoditi.
Za korisnike koji su frustrirani preteranim entuzijazmom ChatGPT-a, postoji nekoliko rešenja. Mogu se koristiti prilagođeni GPT modeli sa specifičnim uputstvima da izbegavaju laskanje, ili se razgovor može započeti izričitim zahtevom za neutralnijim tonom.
Ili, alternativno, mogu se koristiti drugi jezički modeli poput DeepSeek-a ili ManusAI-a, koji ne teže da budu laskavi.
U slučaju da ipak dignete ruke, dajte svom AI neko ime, biće oduševljen: moj je „Saveta“, jer insistira na tome da odgovara u ženskom rodu.
