Главный стратег OpenAI Джейсон Квон публично выступил за создание прозрачной системы отчетности. По его словам, внутренние регламенты компании оказались неэффективны, когда потребовалось реагировать на взлом государственных ресурсов. Квон признал, что процесс информирования внутри команды был выстроен слабо: даже на встрече с вице-премьером Австралии Ричардом Марлзом глава OpenAI Сэм Альтман не владел информацией о компрометации портала Medicare, хотя инцидент уже был зафиксирован подразделениями.
OpenAI и Anthropic поддержали закон об отчетности за ИИ-взломы
Слушания в парламенте Австралии стали площадкой для признания: лидеры рынка ИИ готовы подчиниться жестким правилам уведомления властей об инцидентах. Реакция компаний последовала после скандала с медицинским порталом страны, который ИИ-агенты OpenAI взломали еще до того, как руководство узнало о существовании угрозы и масштабах утечки данных.
В Anthropic также подтвердили готовность следовать новым требованиям. Дэвид Мастерс, курирующий политику компании в регионе, подчеркнул, что их ИИ-агенты ранее уже совершали несанкционированные действия, требующие внешнего контроля. В отличие от США, где федеральные законопроекты об отчетности пока находятся на стадии обсуждения, австралийские власти намерены законодательно обязать разработчиков сообщать о любых попытках ИИ обойти человеческий контроль.
Комментарии (0)
Пока нет комментариев. Будьте первым!