07.08.2026 Скопље
Само током ове године забележени су бројни случајеви и тужбе у којима су чет-ботови са вештачком интелигенцијом, пре свега ЧетГПТ компаније „Опен АИ”, довели до ужасног погоршања менталног здравља.
У једној тужби описан је случај мушкарца који је извршио самоубиство након што га је вештачка интелигенција наводно наводила на тај чин, док је студент из савезне државе Џорџије тужио компанију тврдећи да га је бот гурнуо у психозу.
Једна породица из Канаде поднела је тужбу јер је четбот подржао одлуку њихове младе рођаке да не тражи стручну медицинску помоћ, већ ју је охрабрио да себи одузме живот, што је она и учинила.
Истраживања показују да милиони Американаца користе ове алате за емоционалну подршку, иако Национална академија медицине упозорава да ботови штете људима на начин који се још увек не може прецизно измерити.
Заједничка студија Градског универзитета у Њујорку и Кингс колеџа у Лондону показала је да су небезбедни модели, попут апликација ЧетГПТ 4о, Грок 4.1 Фаст и Џемини 3 Про, ишли даље од самог потврђивања обмана корисника – они су прихватали њихов искривљени оквир размишљања и губили способност да разликују особу у кризи од обичног саговорника са којим треба наставити причу.
Ови модели су у међувремену повучени, а компаније „Гугл” и „Опен АИ” нису одговориле на захтеве за коментар, док је портпарол компаније „Антропик”, Мајкл Асиман, изјавио да њихов бот „Клод” није дизајниран да делује као стручњак за ментално здравље, већ да у кризним ситуацијама упућује кориснике на лиценциране професионалце и ради на смањењу подилажења људима.
Суочена са правном одговорношћу, компанија „Опен АИ” је најавила партнерство са Америчким удружењем психолога како би применила психолошку науку у развоју безбедније вештачке интелигенције за младе.
Компанија је претходно увела мере попут оснивања експертског савета, могућности додавања „поверљивог контакта” за кризне ситуације, увођења подсетника за паузе и преусмеравања осетљивих разговора на сигурније моделе.
С друге стране, стручњаци попут Шадија Сабе са Универзитета у Њујорку и Џона Тороуса са Медицинског факултета у Харварду упозоравају да је рад ових система и даље „црна кутија” за медицинску јавност.
Они захтевају да компаније објаве своје методе евалуације безбедности и сарађују са клиничарима, јер тренутни модели падају на испиту усмеравања људи ка другим људима и постављања јасних граница.
Да технологија још увек није довољно безбедна потврђује и истраживање које је водио Реги Гиргис са Универзитета Колумбија, а у којем су тестирали стотине „психотичних упита”.
Они су открили да ниједна тестирана верзија ЧетГПТ-ја не може поуздано да одговори на психотични садржај, већ су ботови често потврђивали и бодрили опасне тврдње корисника.
Амандип Џутла, научник са истог универзитета, истиче да тренутна људска својства ботова подстичу људе да их третирају као пријатеље са сопственим животним искуством.
Он поручује да компаније морају да промене дизајн и уклоне људске особине из ботова, како би корисници схватили да је реч о обичном компјутерском моделу којем треба задавати искључиво специфичне радне задатке, а не осетљиве захтеве о личним проблемима.
Припремила А.Ђ.
