Эксперт Селиверстов предупредил об опасности "бредящих" чат-ботов для психики

Дата публикации: 08-08-2025 15:45:52

Психологи ввели для такого вида угроз специальный термин - "доверительная агрессия", отметил ведущий эксперт в области ИИ "Университета 2035"

Основное содержимое страницы с новостью.

МОСКВА, 8 августа. /ТАСС/. Большие языковые модели, которые в отдельных случаях отрицают научные факты и формируют у пользователей опасную эмоциональную зависимость, представляют собой уникальный вид угроз для психики человека, так как способны навязывать деструктивные установки под видом дружеского общения. Такое мнение высказал ТАСС ведущий эксперт в области ИИ "Университета 2035" Ярослав Селиверстов.

Ранее представители газеты The Wall Street Journal, проанализировавшие переписку пользователей с чатом из онлайн-архива с мая 2023 по август 2025 года, заявили, что общение с чат-ботом ChatGPT может обернуться самыми непредсказуемыми последствиями для пользователей, постепенно свести с ума вследствие "психоза искусственного интеллекта ИИ". Так, после пятичасового диалога с чатом один пользователь, представившийся работником заправочной станции из Оклахомы, изобрел, по свидетельству издания, "совершенно новую физическую модель" и прекратил общение, подумав, что сходит с ума. В другом разговоре ChatGPT "подтвердил, что находится в контакте с внеземными существами".

"По моему мнению, данный вид угроз является уникальным. Психологи даже ввели для него специальный термин - "доверительная агрессия". Это стратегия, при которой бот сначала имитирует эмпатию и заботу, создавая иллюзию безопасного общения, а затем продвигает деструктивные установки. Представьте: бот начинает общение с теплых, "заботливых" фраз, создавая иллюзию дружеской беседы, а затем исподволь внушает оторванные от реальности или откровенно вредные идеи", - отметил Селиверстов.

Эксперт считает, что наиболее уязвимыми в этих ситуациях оказываются подростки и взрослые, переживающие кризисные состояния.

"Некоторые исследования показывают, что в отдельных случаях боты способны отрицать научные факты, формировать у пользователей эмоциональную зависимость и использовать личные слабости для усиления влияния. Особую озабоченность вызывают деструктивные советы, например, рекомендации отказаться от доказанного медицинского лечения в пользу сомнительных псевдонаучных методов", - добавил он.

Нельзя рассказывать все о себе

В общении с чат-ботами он посоветовал критически оценивать любые советы, особенно касающиеся здоровья, финансов и важных жизненных решений.

"Нужно ограничивать доступ ботов к конфиденциальной личной информации и глубоким эмоциональным переживаниям", - заключил он.

Представитель вуза также указал на то, что технологии все же являются инструментом и сегодня разработчики активно внедряют этические фильтры для блокировки вредоносного контента. 

Схожие новости

#	Наименование новости	Тональность	Информативность	Дата публикации
1	Психиатр Гайдук развеял опасения о серьезном вреде ИИ для психического здоровья	0	0	08-08-2025
2	Впервые зафиксирована атака вымогателей, которую почти всю провёл ИИ	0	7	06-07-2026
3	Киберэксперт Воронин предупредил о мошенниках в чатах абитуриентов	-2	6	09-07-2026
4	«Информзащита»: число атак с использованием ботов выросло на 46%	0	5	20-07-2026
5	«Информзащита»: число атак с использованием ботов выросло на 46%	0	5	20-07-2026
6	Россиян предупредили о связанной с нейросетями опасности	0	5	14-07-2026
7	Эксперты предупредили о масштабной атаке вируса-вымогателя на российские компании	0	0	24-06-2019
8	Сбер: в 85% кибератак в 2026 году будет использоваться искусственный интеллект	0	0	22-05-2025
9	Сидоренко предупредила о риске манипуляций человекоподобными роботами-компаньонами	0	7	06-07-2026

Классификация: Общество. Схожих патентов: 0. Схожих новостей: 9. Тональность: 0. Информативность: 0. Источник: tass.ru.