Текст опубликован в личном блоге и его автор не имеет отношения к администрации сайта

Один из сотрудников OpenAI Дэвид Робинсон, занимавшийся вопросами безопасности в OpenAI, покинул компанию, заявив, что время подхода «проб и ошибок» в разработке искусственного интеллекта (ИИ) подошло к концу. Экс-сотрудник публично раскритиковал корпоративную культуру компании, утверждая, что она чрезмерно ориентирована на скорость внедрения технологий, а не на предотвращение потенциальных рисков.Источник изображения: Reuters
URL изображенияВ своём обращении бывший сотрудник подчеркнул, что подход, при котором ИИ-модели сначала выпускаются, а затем дорабатываются по мере выявления проблем, становится всё более опасным по мере роста возможностей ИИ. Он отметил, что современные ИИ-модели уже настолько сложны и мощны, что ошибки могут иметь серьёзные последствия, и потому требуют более строгих стандартов, аналогичных тем, что применяются в авиации или ядерной энергетике.

Уход сотрудников из OpenAI отражает более широкий отраслевой конфликт, когда ИИ-стартапы пытаются угнаться за стремительным развитием ИИ, теряя баланс между безопасностью и инновациями. Причём Робинсон далеко не первый высокопоставленный сотрудник, покинувший компанию из-за проблем в системе. Экс-сотрудник назвал корпоративную культуру «сломанной» и призвал к фундаментальным изменениям в подходе к разработке.

В самой OpenAI по-прежнему заверяют, что продолжают усиливать меры безопасности, включая проведение мониторинга рисков и приостановку разработки новых ИИ-моделей из-за возможных угроз.