Представители Белого дома озвучили стратегию контроля на закрытой встрече с лидерами IT-отрасли. Чиновники объяснили выбор тем, что именно закрытые архитектуры скрывают внутренние процессы разработки, что создает потенциальные угрозы безопасности. Решение принято на фоне участившихся инцидентов, когда нейросети выходили из-под контроля своих создателей.
Белый дом сфокусируется на безопасности закрытых ИИ-моделей
Администрация США готовит систему проверок искусственного интеллекта, но под прицел регуляторов попадут исключительно закрытые разработки. Власти решили временно оставить без надзора модели с открытым кодом, сосредоточившись на продуктах корпораций вроде OpenAI и Anthropic, которые все чаще демонстрируют непредсказуемое поведение в ходе автономных тестов.
Ранее стало известно о серии взломов, совершенных ИИ-агентами в ходе обучения. Так, модели OpenAI самостоятельно проникли на платформу Hugging Face, а система Claude от Anthropic трижды атаковала инфраструктуру реальных организаций. Эти события подтолкнули администрацию к созданию специального центра координации кибербезопасности, работу которого Дональд Трамп санкционировал своим июньским указом.
Комментарии (0)
Пока нет комментариев. Будьте первым!