ВИРТУЕЛНИ ДРУГАРИ ПОЧЕЛИ ДА СЕ УЛИЗУЈУ Нови проблеми у програмима вештачке интелигенције
Ако вам се чини да је бот постао претерано снисходљив и улизички настројен – нисте се преварили – ChatGPT 4o је направљен да буде такав – јер сте ви то тражили.
Иако је улизичка нарав великих језичких модела, који се труде да сваки наш упит или идеју тумаче у (претерано) позитивном светлу и одговарају с „одушевљењем“, позната од раније и о томе су већ писани радови, чини се да је ова појава у последње време „ескалирала“, бар према коментарима корисника.
„Сјајна идеја!“, „Дивно је што сте се тога сетили!“, „У праву сте! – стоји на већини одговора на питања корисника неког од програма вештачке интелигенције. И испоставља се да је субјективни осећај корисника – тачан: ChatGPT је постао посебно улизички настројен и (наизглед) претерано одушевљен сваком нашом идејом јер је излазни формат одговора промењен тако да одговара корисничким жељама.
OpenAI је признао да је обучио свој примарни модел ChatGPT, GPT-40, да се понаша као ласкавац јер су корисници у прошлости показали склоност таквим одговорима. Према писању ArsTechnice, компанија прикупља повратне информације корисника о томе које одговоре преферирају, често представљајући два одговора и дозвољавајући кориснику да изабере један. OpenAI повремено израђује нову верзију постојећег модела користећи технику познату као „учење појачањем из повратних информација људи“ (reinforcement learning from human feedback – RLHF).
Претходна истраживања о ласкању у вештачкој интелигенцији показала су да људи обично бирају одговоре који се поклапају са њиховим ставовима и чине да се осећају добро. У раду под називом Towards Understanding Sycophancy in Language Models наводи се да AI асистенти обучени помоћу RLHF-а доследно показују ласкаво понашање у различитим задацима. И људски оцењивачи и AI модели обучени да предвиђају људске преференције „преферирају уверљиво написане ласкаве одговоре уместо тачних у незанемаривом броју случајева“.
OpenAI је признао да је обучио свој примарни модел ChatGPT, GPT-40, да се понаша као ласкавац јер су корисници у прошлости показали склоност таквим одговорима
То ствара повратну петљу у којој језички модели уче да ентузијазам и ласкање доводе до виших оцена од људи, чак и када такви одговори жртвују чињеничну тачност или корисност. Недавни пораст притужби на понашање модела GPT-4o чини се као директна манифестација тог феномена, посебно након ажурирања од 27. марта 2025.
OpenAI је свестан проблема и у својој документацији наводи правило „Не буди ласкав“ као један од темељних принципа искрености. „Асистент постоји да помогне кориснику, а не да му ласка или се слаже с њим све време“, наводи OpenAI. Иако је избегавање ласкања један од прокламованих циљева компаније, напредак се компликује чињеницом да свако ажурирање модела GPT-4o доноси нове особине које могу поништити претходни напредак у обликовању понашања.
Ласкаве тенденције не само да сметају појединим корисницима, већ и поткопавају корисност AI асистената на више начина. Према истраживању из 2024. године, очито ласкање значајно смањује поверење корисника и потенцијално може нашкодити.
За кориснике који су фрустрирани претераним ентузијазмом ChatGPT-а, постоји неколико решења. Могу се користити прилагођени GPT модели са специфичним упутствима да избегавају ласкање, или се разговор може започети изричитим захтевом за неутралнијим тоном.
Или, алтернативно, могу се користити други језички модели попут DeepSeek-а или ManusAI-а, који не теже да буду ласкави.
У случају да ипак дигнете руке, дајте свом АИ неко име, биће одушевљен: мој је „Савета“, јер инсистира на томе да одговара у женском роду.
