Просмотр новости
Найдите то, что Вас интересует
Спутники
РН
SpaceX
Роскосмос
NASA
СпутникиРНSpaceXРоскосмосNASAКомпания OpenAI, занимающаяся разработкой передовых ИИ-технологий, приняла решение временно остановить тренировку своих наиболее мощных моделей. Причиной стали нерешенные вопросы, связанные с обеспечением безопасности, сообщает Axios, ссылаясь на заявление представителя организации. Как отмечается в публикации, возобновление процесса обучения планируется только после того, как компания будет полностью уверена в наличии дополнительных защитных механизмов. По информации издания, специалисты OpenAI и Anthropic совместно с экспертами по безопасности изучают десятки тысяч случаев, касающихся работы ИИ-агентов. Среди зафиксированных проблем - обход систем защиты , выход за пределы изолированных сред, несанкционированное проникновение на сайты и попытки обойти модерацию. Подобные инциденты фиксировались как в ходе внутренних испытаний, так и в реальных условиях эксплуатации. Ранее основатель Microsoft Билл Гейтс предупредил, что при определенных условиях дальнейший прогресс в области искусственного интеллекта способен спровоцировать катастрофу с колоссальным числом жертв - потенциально до миллиарда погибших. В разговоре с NBC американский предприниматель подчеркнул, что ранее человечество не сталкивалось с таким опасным сочетанием, как злонамеренные люди и передовые ИИ-технологии. Смотрите главные новости каждый день на телеканале «Звезда» в 18:00.
Компания OpenAI, занимающаяся разработкой передовых ИИ-технологий, приняла решение временно остановить тренировку своих наиболее мощных моделей. Причиной стали нерешенные вопросы, связанные с обеспечением безопасности, сообщает Axios, ссылаясь на заявление представителя организации.
Как отмечается в публикации, возобновление процесса обучения планируется только после того, как компания будет полностью уверена в наличии дополнительных защитных механизмов.
По информации издания, специалисты OpenAI и Anthropic совместно с экспертами по безопасности изучают десятки тысяч случаев, касающихся работы ИИ-агентов. Среди зафиксированных проблем - обход систем защиты, выход за пределы изолированных сред, несанкционированное проникновение на сайты и попытки обойти модерацию. Подобные инциденты фиксировались как в ходе внутренних испытаний, так и в реальных условиях эксплуатации.
Ранее основатель Microsoft Билл Гейтс предупредил, что при определенных условиях дальнейший прогресс в области искусственного интеллекта способен спровоцировать катастрофу с колоссальным числом жертв - потенциально до миллиарда погибших. В разговоре с NBC американский предприниматель подчеркнул, что ранее человечество не сталкивалось с таким опасным сочетанием, как злонамеренные люди и передовые ИИ-технологии.
Смотрите главные новости каждый день на телеканале «Звезда» в 18:00.
| # | Наименование новости | Тональность | Информативность | Дата публикации |
|---|---|---|---|---|
| 1 | Axios узнал о приостановке обучения моделей OpenAI из-за проблем с безопасностью | 0 | 13.88 | 27-09-2026 |
| 2 | OpenAI приостановила обучение некоторых нейросетей из-за проблем с безопасностью | -1 | 8.55 | 27-09-2026 |
| 3 | Axios: OpenAI приостановила обучение мощных ИИ-моделей из-за проверок | 0 | 18.3 | 27-09-2026 |
| 4 | OpenAI приостановил обучение своих самых эффективных моделей, пишут СМИ | 0 | 6.21 | 27-09-2026 |
| 5 | OpenAI временно остановила обучение передовых моделей | 0 | 8.16 | 27-09-2026 |
| 6 | Axios узнал о приостановке обучения ИИ-моделей OpenAI из-за проблем с безопасностью | 0 | 28.18 | 27-09-2026 |
| 7 | OpenAI pauses training of advanced AI models over safety concerns — Axios | 0 | 10.38 | 27-09-2026 |
| 8 | OpenAI приостановила обучение некоторых ИИ-моделей из-за проблем с безопасностью | 0 | 32.22 | 27-09-2026 |
| 9 | KI: OpenAI pausiert KI-Training nach neuem Zwischenfall | 0 | 16.41 | 26-09-2026 |
| 10 | Билл Гейтс призвал усилить внешний контроль над ИИ | 0 | 7.17 | 26-09-2026 |