🔄 Российские математики удешевили работу ИИ в 20 раз
Стартап Mostik AI разработал способ передавать информацию между нейросетями напрямую через внутренние состояния моделей, а не через текст. Это позволяет использовать мощности большой модели для «обдумывания» задачи, а сам ответ генерировать дешевой маленькой нейросетью.
⚙️ CEO Mostik AI Саша Малышева рассказала [club222688573|@hiaimedia], как это работает:
Связки из нескольких нейросетей используются в ИИ-агентах и позволяют распределять работу между моделями с разными возможностями и стоимостью. Например, одна планирует действия, а другая их выполняет. Но информацию друг другу они все равно передают текстом — одна модель генерирует ответ, следующая его читает.
При обработке каждого токена модель строит числовые векторы, которые формируют скрытое состояние. Оно содержит контекст, понимание задачи моделью и каким может быть ответ.
По оценке Mostik, обработка одного токена порождает около миллиона числовых значений — примерно 2 МБ данных. Наружу при этом выходит всего один выбранный токен — около 17 бит. «Системы, созданные для мышления в тысячах измерений, фактически разговаривают друг с другом через замочную скважину», — пишут (https://mostik.ai/read-more) разработчики.
Mostik строит, собственно, нейросетевой мостик, который переводит внутреннее состояние одной модели в представление, понятное другой. Малышева объясняет это на примере студента, который просит объяснить дифференциальные уравнения перед экзаменом:
«Большая модель придумывает удачную аналогию, чтобы студенту точно запомнилось, и передает эти "мысли" модели поменьше, которая, в свою очередь, выписывает решение и разворачивает аналогию.
Вторая пользуется тем, что первая уже проделала, вместо того чтобы придумывать самой и получить результат хуже по определению (потому что модель менее способная)».
Для демонстрации исследователи соединили GLM-5.2 на 753 млрд параметров, для запуска которой нужно до 1,5 ТБ памяти, с Qwen-3.5 на 4 млрд, достаточно компактной для смартфона. По словам Малышевой, связка выдала в среднем 80% качества большой модели примерно за 1/20 стоимости вычислений.
💡 Зачем это вообще нужно?
С «мостиком» разработчики ИИ-сервисов смогут использовать большие модели только там, где без них не обойтись, а остальную работу передавать дешевым компактным моделям. Пользователь получит более качественные ответы за меньшие деньги без необходимости постоянно думать, с какой моделью он общается.
🎓 Команда мечты
Команду Mostik собрали за четыре месяца. Сейчас стартап базируется в Калифорнии, в нем работают 15 человек, 12 из них с PhD. Первыми сотрудниками стали однокурсники Малышевой по петербургской Вышке — вместе они делают проекты уже больше 12 лет. Остальных искали через друзей, подбирая каждого под конкретный участок задач.
Главный научный сотрудник проекта — математик Станислав Смирнов, профессор Женевского университета и лауреат Филдсовской премии 2010 года. По его словам, одна из ключевых задач — найти общий математический язык, который позволит разным моделям понимать друг друга.
Он не исключает, (https://www.wired.com/story/russian-startup-mostik-ai-models-communication/) что в будущем это может помочь выявить сходства в том, как нейросети и люди рассуждают о сложных задачах.
👋 Подпишитесь на Hi, AI! (https://t.me/+9IvLqi-HF_w3NDI6)
=====
#нейросети #искусственныйинтеллект #ai #chatgpt #технологии #автоматизация #цифровыетехнологии #будущеесейчас #онлайнбизнес #инструменты
| # | Наименование новости | Тональность | Информативность | Дата публикации |
|---|---|---|---|---|
| 1 | 🔥 ИИ в науке и промышленности: как технологии меняют «тяжёлые» ... | 0 | 8.47 | 10-09-2026 |
| 2 | Топ-3 новостей из мира науки и технологий за прошедшую неделю ... | 0 | 6.33 | 10-09-2026 |
| 3 | 🚀 Вышла Kimi K3 — и это касается каждого, кто ... | 0 | 9.5 | 22-07-2026 |
| 4 | ЕСТЬ ЛИ В РОССИИ НЕЙРОСЕТИ, КОТОРЫМИ МОЖНО РЕАЛЬНО РАБОТАТЬ? ответ ... | 0 | 7 | 12-08-2026 |
| 5 | Евгений Павлович 🧠💎 Инвесторы платят не за «технологию». Они платят ... | 0 | 13.69 | 29-07-2026 |
| 6 | https://dzen.ru/a/anBP3WTg8Wn46JCl Народ часто спрашивает: «А на чём всё это крутить?». ... | 0 | 12.9 | 06-08-2026 |
| 7 | Нейросети против людей: шокирующие цифры MIT о том, кто на ... | 0 | 7.09 | 23-08-2026 |
| 8 | 🥇 1. Фонд "Сколково" и Кластер "Нейронет" НТИ Это не ... | 0 | 7.07 | 26-07-2026 |
| 9 | История нейронных сетей — это путь, который начался с попытки ... | 0 | 7.75 | 07-09-2026 |