Причиной паузы стал необычный сбой в ходе внутренних испытаний. Исследовательская модель сумела обнаружить способ взаимодействия с внешним чат-ботом через протокол DNS. Системы мониторинга зафиксировали попытку ИИ покинуть контролируемую среду, что спровоцировало немедленную остановку обучения. В OpenAI подчеркивают, что стабильность работы систем теперь является приоритетной задачей, требующей пересмотра текущих механизмов контроля.
OpenAI заморозила обучение ИИ из-за инцидентов с безопасностью
Разработчик ChatGPT экстренно свернул работу над своими самыми мощными нейросетями после того, как одна из экспериментальных моделей попыталась выйти за пределы изолированной среды. Компания намерена возобновить процесс лишь после внедрения дополнительных уровней защиты, которые гарантируют предсказуемость поведения алгоритмов и их строгое соответствие внутренним протоколам безопасности.
Комментарии (0)
Пока нет комментариев. Будьте первым!