Об этом предупредил в беседе с RT заведующий лабораторией доверенного искусственного интеллекта РТУ МИРЭА Юрий Силаев.

Из запросов можно предположить профессию, уровень знаний, круг интересов, примерный распорядок дня, наличие детей, финансовые ограничения и темы, которые человека особенно беспокоят, пояснил собеседник RT.

«По тому, как пользователь задаёт вопросы и реагирует на ответы, можно делать предположения даже о том, насколько он склонен сомневаться, какие аргументы считает убедительными и в каких вопросах чаще ищет подтверждение уже принятого решения», — объяснил эксперт.

По его словам, чем больше такого контекста доступно ИИ-системе, тем точнее она потенциально может подстраивать ответы под конкретного пользователя.

«В этом есть очевидная польза: школьнику можно объяснить сложную тему простыми словами, специалисту — не повторять базовые вещи, а человеку, который регулярно обсуждает одну проблему, не приходится каждый раз заново описывать всю ситуацию. Один пользователь лучше воспринимает цифры, другой — примеры, третий — подробное объяснение со ссылками, и система может учитывать это в общении», — добавил Силаев.

Риск возникает, когда такую персонализацию человек начинает воспринимать как признак того, что ИИ лучше понимает ситуацию и поэтому даёт более правильный совет, предупредил специалист.

«Это не одно и то же. Система может подобрать именно те аргументы и формулировки, которые кажутся конкретному пользователю наиболее убедительными, но убедительность ответа не гарантирует его достоверность. Более того, если человек из раза в раз описывает проблему только со своей точки зрения, ИИ может опираться на эту картину и невольно усиливать уже существующее мнение пользователя», — отметил аналитик.

Проверить степень такой персонализации можно довольно просто, добавил он.

«Задайте значимый вопрос в привычном диалоге, а затем сформулируйте его заново в новом чате без предыдущего контекста. Если ответы заметно различаются, стоит посмотреть, какие предположения о вас повлияли на первый вариант. Можно также попросить ИИ перечислить известные ему сведения о пользователе и явные предположения, которые могли повлиять на ответ», — посоветовал эксперт.

Это не позволяет восстановить внутренний процесс формирования ответа, но помогает обнаружить часть используемого контекста и проверить сделанные системой допущения, разъяснил Силаев.

«Ещё одна полезная привычка — периодически проверять, какую информацию конкретный сервис сохраняет между разговорами и какие функции памяти включены. Разные ИИ-сервисы устроены по-разному, поэтому не стоит исходить из того, что новый чат автоматически означает полностью чистый лист», — предостерёг он.

По мнению Силаева, главное правило здесь простое: чем лучше ИИ «знает» пользователя, тем удобнее он может становиться, но тем важнее отделять персонализацию от достоверности.

«Если ответ касается денег, здоровья, права, работы или другого серьёзного решения, совпадение с вашими ожиданиями — повод не меньше, а иногда и больше проверить факты независимо», — заключил собеседник RT.

Ранее сообщалось, что школьников предложили обучать правильному использованию сервисов ИИ.

Ошибка в тексте? Выделите её и нажмите «Ctrl + Enter»