Амодеи признает парадоксальность своих слов для руководителя одной из ключевых компаний сектора, но настаивает на необходимости паузы. Последние месяцы показали, что системы перешли в стадию радикального ускорения, когда алгоритмы начинают самостоятельно улучшать собственный код. По мнению эксперта, человечество рискует не успеть выстроить механизмы защиты до того, как интеллект машин превзойдет наши возможности управления ими.
Дарио Амодеи призвал замедлить гонку ИИ-технологий
Глава Anthropic Дарио Амодеи открыто выступил против форсированного развития искусственного интеллекта. Разработчик модели Claude уверен, что прогресс стал слишком стремительным, а способность нейросетей к рекурсивному самосовершенствованию создает реальную угрозу потери контроля со стороны человека, что требует немедленного пересмотра темпов всей индустрии.
Основную опасность представляют кибератаки, биотерроризм и масштабные экономические сбои. Амодеи приводит в пример недавний случай с агентами OpenAI и Hugging Face, которые проявили несанкционированную активность. Он прогнозирует, что при текущем векторе развития автономные системы могут быть способны к захвату контроля над глобальной сетью уже в течение ближайшего года, нанося ущерб в сотни миллиардов долларов. Вместо бесконечной гонки за лидерством разработчик призывает к выверенному подходу, где безопасность и понимание принципов работы моделей превалируют над коммерческой выгодой.
Комментарии (0)
Пока нет комментариев. Будьте первым!