ВИРТУЕЛНИ ПОМОЋНИЦИ ПУНИ ПРЕДРАСУДА Алекса и Сири штуцају као и ChatGPT
Виртуелни помоћници као што су Амазон Алекса и Еплов Сири дизајнирани су да одговарају на питања, дају предлоге, па чак и показују оно што бисмо могли да тумачимо као емпатију. Међутим, нова истраживања показују да нису много напредовали у тумачењу и истраживању корисничког искуства.
Ове виртуелне помоћнике покрећу такозвани велики језични модели (LLM-ovi) који уносе огромне количине података које су произвели људи, а од тога шта су усвојили зависи и шта износе. Зато могу да буду склони истим предрасудама као и људи од којих долазе информације.
Чини се да виртуелни помоћници доносе вредносне судове о одређеним идентитетима те да могу да подрже саговорнике који показују склоност одређеним идеологијама. Тако су барем закључили истраживачи Универзитета Корнел, Олин колеџа и Стенфорд универзитета, пошто су Алексу и Сири подстакли да у комуникацији с људима покажу емпатију.
Истраживачи су открили да су, у суштини, LLM добили високе оцене за емоционалне реакције, али ниске оцене за тумачења и истраживања. Другим речима, LLM-i могу да одговоре на упит на темељу своје обуке, али не могу да копају дубље, показали су резултати истраживања „The Illusion оф Empathy? Нотес он Displays оф Емотион ин Хуман-Цомпутер Интерацтион” представљени на конференцији Удружења компјутерских машина о људским факторима у рачуналним суставима CHI’24 у Хонолулуу.
- Аутоматизована емпатија показује огроман потенцијал и могла би имати велики позитиван утицај у образовању или здравству – поручили су оптимистични научници.
Није згорег подсетити на то да већина аналитичара понашања вештачке интелигенције указује на проблем просте репродукције усвојених података, без анализе да ли су ти подаци тачни. Другим речима, ако довољан број људи на интернету негде напише да је Земља равна плоча, вештачка интелигенција ће у неком одговору то и написати, јер једнако вредним тумачи линкове на опскурне, као и на научне сајтове. Ово би ускоро требало да се промени, а апликације провере података и за кориснике интернета већ постоје, тако да се „пеглање” информација очекује у блиској будућности.
А што се Алексе и Сири тиче, предрасуде су и сама њихова имена – жене су ту да, попут секретарица или домаћица, помогну власнику да се снађе у свакодневним активностима.
И. Р.
