В беседе с РИА «ФедералПресс» он рассказал о тестах, во время которых модели смогли выйти за пределы изолированной среды или получить доступ к реальным системам, приняв их за часть учебного полигона.

«Фраза «не выходи за пределы задания» не заменяет межсетевой экран, а «используй инструменты ответственно» не заменяет управление правами», — подчеркнул Зыков.

По мнению специалиста, полномочия ИИ необходимо ограничивать средствами операционной системы, сети, криптографии и независимого контроля. Он также предупредил, что автоматическое подтверждение всех запрашиваемых моделью разрешений может привести к повреждению данных и инфраструктуры компании.

Ранее судебный юрист Владимир Комсолев заявил, что сотрудника могут уволить не за сам факт использования искусственного интеллекта, а за ненадлежащее исполнение обязанностей при работе с ним.

Ошибка в тексте? Выделите её и нажмите «Ctrl + Enter»

Подписывайтесь на наш канал в MAX