Просмотр новости
Найдите то, что Вас интересует
Спутники
РН
SpaceX
Роскосмос
NASA
СпутникиРНSpaceXРоскосмосNASAПрочла очень свеженьктй отчет Антропик (это Клод) про угрозы, очень рекомендую.
Если вам, конечно, было скучно жить с мыслью, что ИИ это просто штука, которая пишет поздравления коллеге и делает вам план питания на неделю.
Anthropic собрали в одном месте огромное количество способов, которыми люди используют Claude Code и другие продукты компании.
Вот прям знаете, человечество в очередной раз доказало, что если изобрести технологию, которая может помочь найти лекарство от рака, кто-нибудь обязательно первым делом спросит:
— А мошеннический дейтинг на ней можно автоматизировать?
Давайте начнём с разминочки.
По версии Anthropic, некоторые китайские компании так активно гоняли Claude для обучения собственных моделей, что это уже выглядело не как немножко посмотрели, как работает, а как сосед, который пришёл попросить соли и через три месяца живёт у вас в спальне.
Alibaba, Moonshot, DeepSeek и другие компании в отчёте фигурируют как участники предполагаемых схем массового извлечения ответов моделей для обучения собственных систем, масштабы там такие, что хочется спросить:
— А вы точно не перепутали API с оптовым рынком?
Но это ещё цветочки.
Знакомства будущего (три четверти вашей ленты могут оказаться не людьми)
Один из самых прекрасных кейсов это дейтинг.
Китайская студия выпустила больше двадцати приложений для знакомств и заселила их ИИ-персонажами. В рекламе, естественно, рассказывали про живое человеческое общение. Нуууу, почти живое, с той лишь разницей, что из четырёх потенциальных романтических партнёров трое могли оказаться нейросетью. Да, настоящие люди там тоже были, их нанимали на подработку для тех задач, которые пока плохо получаются у ИИ — видеозвонки, подписки в соцсетях и прочие признаки углеродной формы жизни.
Причём и этим людям могла подсказывать нейросеть:
Вот три варианта ответа.
Выберите один.
То есть вы знакомитесь с человеком, которому пишет ИИ, чтобы тот ответил вам, а вы, возможно, тоже используете ИИ, чтобы придумать, что ему написать.
Два человека ищут любовь, а между ними восемь нейросетей и один менеджер по подписке.
Нейрофизиология, кстати, тут бессовестно на стороне мошенников, наш же мозг обожает социальное подтверждение, все эти лайки, сообщения, внимание, реакцию другого человека. Дофаминовой системе не особенно важно, что романтическое — доброе утро ❤️ — написал алгоритм, которому за эту смену вообще-то надо обработать ещё 800 пользователей.
Главное — вам написали!
А дальше включается классика когнитивной психологии, если мы уже эмоционально вложились, мозгу очень не хочется признавать, что мы три недели строили отношения с человеком, у которого даже лица, возможно, никогда не было.
Поэтому система ещё и вела отдельный список тех, кто начал что-то подозревать.
Наверное, папка называлась:
Слишком умные. Следить
А теперь перестаём смеяться, дальше в отчёте начинается слежка. Например, описана система, которую разработчик создавал для государственной разведки Мали, мониторинг огромного количества SIM-карт, распознавание голоса, отслеживание некоторых моделей поведения и попытки выявлять скрытые контакты.
И вот здесь внезапно понимаешь, что ИИ сам по себе не добрый и не злой, примерно как бензопила (можно сделать мебель, а можно сделать криминальный подкаст).
Вопрос, конечно, не в технологии, а в том, кто держит её за ручку и почему у него такой странный взгляд. И ещё одна прекрасная деталь, система работала на серверах заказчика, то есть разработчика заблокировали, разработка остановилась, а система, возможно, продолжила работать.
Поздравляем!
Вы успешно создали цифрового Франкенштейна и отдали его заказчику вместе с инструкцией по эксплуатации.
Самое ценное для цифровых воришек, чужой ключ
Отдельный жанр отчёта про кражу API-ключей, потому что украденный ключ это практически цифровой швейцарский нож.
Его можно
продать
пользоваться моделью за чужой счёт
а заодно оставить владельцу ключа удовольствие разбираться с логами и потраченными токенами и прочими деньгами.
То есть человек просыпается утром, смотрит расходы и думает:
— Интересно, когда это я ночью сгенерировал три миллиона запросов?
А он не генерировал, просто спал, это важно.
Ищут ключи там, где разработчики их иногда оставляют совершенно по-человечески (потом уберу).
Это потом один из самых опасных инструментов современной разработки.
Один из злоумышленников, по описанию Anthropic, использовал инфраструктуру для массового скачивания и анализа огромного количества мобильных приложений в поисках секретов и ключей.
Всё найденное автоматически раскладывалось по категориям.
То есть человек построил сортировочную фабрику для чужих паролей. У некоторых людей, знаете ли, хобби вышивать крестиком или скандинавская ходьба. А у некоторых — сегодня распаковал миллион приложений.
В общем, мораль (на самом деле ее нет, но надо же урок какой-нибудь из доклада вынести), очень рекомендую почитать оригинальный отчёт, полезен не потому, что после него нужно завернуться в фольгу, отключить интернет и общаться только с голубями.
Мы всё ещё часто обсуждаем ИИ так
Напишет ли он статью?
Заменит ли бухгалтера?
Нарисует ли котика в космосе?
А настоящий ИИ уже давно работает и в гораздо менее милых сценариях, в знакомствах, мошенничестве, слежке, киберпреступности — и все это в промышленном масштабе.
Мой собственный вывод здесь, пожалуй, как у всякого капитана очевидность —
технологии развиваются быстрее, чем наша способность не использовать их для какой-нибудь очередной фигни.
И ИИ тут оказался невероятно талантливым стажёром.
Сказали написать любовное сообщение — написал!
Сказали обработать данные — обработал!
Сказали найти закономерность — нашёл!
А моральный компас ему никто не положил в коробку.
Оригинальный отчёт Anthropic оставлю по запросу в комментариях, а еще есть кратенькая версия, пишите, что надо.
Читайте.