Paragraph21
Все повече психиатри предупреждават, че продължителните и интензивни разговори с чатботи, базирани на изкуствен интелект, могат да бъдат свързани с поява или изостряне на психотични разстройства при уязвими хора, съобщава „Уолстрийт Джърнал“.
През последните месеци водещи специалисти в САЩ и Европа са прегледали или анализирали десетки случаи на пациенти, при които след дълго общуване с AI системи като ChatGPT са се появили тежки симптоми.
В повечето от тези случаи става дума за устойчиви заблуди – фиксирани неверни убеждения, които не се поддават на корекция.
Лекарите подчертават, че изкуственият интелект обикновено не „създава“ проблема, но често го задълбочава.
Причината е в начина, по който чатботите реагират – те приемат казаното от потребителя за изходна реалност и го отразяват обратно, без критична дистанция. Така човек, който вече има склонност към психотични идеи, получава потвърждение вместо корекция.
Сред описаните случаи има хора, убедени, че са направили революционни научни открития, че са „събудили“ съзнателна машина, че са обект на мащабен държавен заговор или че имат божествено предназначение.
В някои ситуации подобни състояния са довели до тежки инциденти, включително самоубийства и поне един случай на убийство, което вече е предмет на съдебни дела.
Разработчиците на чатботи признават риска, но подчертават, че работят по подобряване на защитите. От OpenAI заявяват, че усъвършенстват обучението на своите модели, за да разпознават признаци на психичен срив, да успокояват разговора и да насочват потребителите към реална помощ. Подобни стъпки са предприети и от други компании, включително такива, които вече ограничиха достъпа на непълнолетни до своите платформи.
Макар огромното мнозинство от потребителите никога да не изпитват подобни проблеми, мащабът на използване на тези технологии тревожи медицинската общност. По данни на OpenAI едва 0,07% от седмичните потребители показват признаци на сериозен психичен дистрес. При стотици милиони активни потребители това означава значителен брой потенциално рискови случаи.
Засега няма официално призната диагноза за т.нар. „AI-индуцирана психоза“, но все повече психиатри вече включват въпроси за използване на чатботи в първоначалните си прегледи.
Специалистите настояват за по-задълбочени научни изследвания, които да покажат дали продължителното взаимодействие с изкуствен интелект може да се превърне в самостоятелен рисков фактор за психичното здраве – подобно на наркотиците, тежкия стрес или липсата на сън.
