Предупреждения Стивена Хокинга о будущем искусственного интеллекта вновь оказались в центре внимания на фоне стремительного развития технологий. Британский физик опасался, что достаточно мощная машина однажды сможет превзойти человека по интеллекту и начнет развиваться с такой скоростью, что люди потеряют возможность полностью контролировать ее действия.

Стивен Хокинг умер в 2018 году, однако в последние годы жизни неоднократно говорил о потенциальных рисках искусственного интеллекта. В одном из интервью BBC он предупреждал, что создание системы, превосходящей человеческий интеллект, может иметь серьезные последствия для цивилизации.

Ученый рассматривал сценарий, при котором развитый ИИ сможет самостоятельно улучшать собственные возможности. В таком случае скорость технологического развития машин, по его мнению, окажется несопоставима с темпами биологической эволюции человека, сообщает ИНОСМИ.

Еще раньше Хокинг допускал, что искусственный интеллект способен заменить людей в ряде интеллектуальных профессий. Тогда подобные предположения казались многим достаточно отдаленными, однако за последние годы возможности ИИ заметно расширились.

Современные системы искусственного интеллекта умеют создавать тексты, изображения, видео и программный код, анализировать большие объемы информации и выполнять задачи, которые еще недавно требовали участия специалистов. ИИ активно используется в бизнесе, программировании, исследованиях и других сферах.

Однако наличие сложных возможностей само по себе не означает появления машины, способной самостоятельно развиваться без ограничений. Современные модели по-прежнему работают в рамках заданных архитектур, инструментов и условий эксплуатации, а наиболее тревожные сценарии остаются предметом исследований и дискуссий.

К словам Хокинга привлекают внимание и заявления специалистов, работавших в ведущих компаниях отрасли. В частности, исследователь Джейкоб Коксон после работы в Anthropic и OpenAI публично выражал обеспокоенность темпами создания все более автономных систем.

По его мнению, технологическая гонка может привести к появлению моделей, способных выполнять все более широкий набор задач практически без непосредственного участия человека. При этом подобные заявления являются оценкой конкретного специалиста, а сроки появления полноценного общего искусственного интеллекта остаются спорными.

Главная часть дискуссии связана с концепцией AGI — общего искусственного интеллекта. Под этим термином обычно понимают систему, способную выполнять широкий спектр интеллектуальных задач на уровне человека или превосходить его в значительной части таких задач.

Появление AGI потенциально может серьезно изменить экономику и рынок труда. Машины смогут брать на себя больше интеллектуальной работы, что способно повысить производительность, но одновременно создать новые проблемы для занятости и социальной адаптации.

Специалисты по безопасности ИИ обращают внимание прежде всего на то, что современные модели становятся сложнее и получают доступ к большему количеству внешних инструментов. Это увеличивает значение тестирования, ограничений доступа и контроля за действиями систем.

Известны случаи, когда модели во время испытаний демонстрировали неожиданное поведение или использовали предоставленные им инструменты не совсем так, как предполагали разработчики. Но такие эпизоды не доказывают, что искусственный интеллект уже способен самостоятельно выйти из-под контроля или представляет непосредственную угрозу существованию человечества.