СКАНДАЛ НА REDDIT-У Тајни експеримент открио моћ АИ да обликује људска мишљења
Група истраживача је у тајности спроводила четворомесечни експеримент у једној од најпопуларнијих Reddit заједница користећи АИ генерисане коментаре како би тестирали убедљивост великих језичких модела.
Експеримент, који се одвијао унутар r/changemyview заједнице, а који су модератори разоткрили током викенда, описан је као "психолошка манипулација" корисницима који нису били свесни да учествују у истраживању.
"Тим модератора мора да обавести заједницу о неовлашћеном експерименту који су спровели истраживачи са Универзитета у Цириху над r/changemyview корисницима“, написали су модератори у објави на Reddit-у. "Овај експеримент је укључивао коментаре генерисане помоћу АИ-ја, како би се проучило на који начин вештачка интелигенција може утицати на промену ставова."
Истраживачи су користили велике језичке моделе (ЛЛМ-ове) како би генерисали коментаре на објаве у заједници која окупља 3,8 милиона чланова, у којој корисници износе мишљења и позивају друге да их изазову аргументима.
Према речима модератора, АИ је током експеримента користио различите идентитете у коментарима, међу којима и улогу особе која је преживела сексуално насиље, наводи 404 Media.
Модератори р/цхангемyвиеw субреддит-а истичу да су истраживачи прекршили више правила заједнице, укључујући обавезу да се нагласи када је коментар генерисала вештачка интелигенција, као и забрану коришћења ботова. Због тога су поднели званичну жалбу Универзитету у Цириху и затражили од истраживача да не објаве свој рад.
Сам Reddit такође разматра правне кораке. Главни правни саветник Reddit-а, Бен Ли, наводи да су поступци истраживача "веома погрешни, како са моралне, тако и са правне тачке гледишта", као и да представљају кршење правила платформе. "У току је формално обраћање Универзитету у Цириху и истраживачком тиму уз правне захтеве. Урадићемо све што можемо да заштитимо заједницу и обезбедимо да одговорни буду позвани на одговорност."
С друге стране, истраживачи тврде да је њихов пројекат одобрила етичка комисија универзитета и да њихово истраживање може помоћи заједницама попут Reddit-а да се заштите од злонамерних употреба АИ-ја.
"Разумемо да модератори сматрају да је ова студија била непожељан упад у вашу заједницу и схватамо да се неки од вас можда осећају нелагодно јер је експеримент спроведен без претходне сагласности", навели су истраживачи у коментару модераторима. "Верујемо да потенцијалне користи овог истраживања значајно надмашују ризике. Наша контролисана студија ниског ризика донела је вредне увиде у стварне способности LLM-ова да утичу на ставове људи - способности које су већ лако доступне свима, а које би злонамерни актери могли да искористе у много опасније сврхе (нпр. манипулација изборима или ширење говора мржње)."
Модератори r/changemyview заједнице оспоравају тврдње да је истраживање било неопходно или иновативно, напомињући да су истраживачи из ОпенАИ-ја већ спроводили експерименте користећи податке са тог subreddit-а, али без експериментисања над корисницима без њиховог пристанка.
