Читать ria.ru в

Краткий пересказ от РИА ИИ

• Небольшие ИИ-модели смогут через несколько месяцев самостоятельно распространяться по умной бытовой технике без доступа к дата-центрам.
• В ходе тестов нейросеть успешно разобралась в работе оборудования восьми различных типов.
• Современные нейросети способны выполнять этапы взлома, но пока не могут связать их воедино без ошибок.

МОСКВА, 13 окт – РИА Новости. Небольшие ИИ-модели (не требующие больших вычислительных мощностей) уже через несколько месяцев смогут самостоятельно распространяться по "умной" бытовой технике без доступа к дата-центрам, заявили в американской компании Anthropic.

"Наши эксперименты показывают, что небольшим моделям ИИ может потребоваться всего несколько месяцев, чтобы стать способными к самостоятельному распространению на коммерческих устройствах интернета вещей, таких как умные духовки и телевизионные приставки", - говорится в опубликованном исследовании.

В компании отметили, что подобный вирусный алгоритм будет крайне сложно обезвредить из-за отсутствия единой точки отключения. В ходе тестов исследователи запустили нейросеть на сети из 15 дешевых телевизионных приставок, а в другом эксперименте алгоритм смог самостоятельно разобраться в работе незнакомого оборудования восьми различных типов.

По данным разработчиков, современные общедоступные нейросети уже сегодня способны выполнять отдельные этапы взлома, однако пока допускают ошибки при попытке связать их воедино. При этом более продвинутая модель GLM-5.2 успешно осуществила полный цикл автономного распространения, но лишь в упрощенной виртуальной среде. Тест проходил в изолированной сети из восьми эмуляторов без защиты портов, а сами вычисления велись на отдельном сервере, так как мощности узлов было недостаточно.

В Anthropic отметили, что полноценного самостоятельного ИИ-вируса пока не существует. Однако появление таких алгоритмов возможно в ближайшем будущем, а борьба с ними потребует общих усилий производителей техники и интернет-провайдеров.

В начале октября портал Axios сообщил, что руководители ИИ-компаний США тайно моделируют последствия кибератак, способных парализовать инфраструктуру. Поводом стала атака на южнокорейские банки: по данным CrowdStrike, китайский хакер использовал ИИ для кражи данных клиентов, после чего в конгрессе вновь начали обсуждать введение "кнопки экстренного отключения" передовых нейросетей.