Опасения Амодеи разделяют ключевые фигуры Кремниевой долины. Илон Маск и Сэм Альтман подтвердили готовность открыть доступ к своим разработкам независимым аудиторам. Альтман подчеркнул, что OpenAI уже работает над внедрением внешней экспертизы, которая будет сопоставима с уровнем доступа штатных сотрудников. На фоне этих заявлений в политических кругах началось движение: конгрессвумен Анна Паулина Луна потребовала от Пентагона обязать разработчиков интегрировать в оборонные ИИ-системы «рубильник» для моментального отключения.
Глава Anthropic призвал замедлить гонку ИИ-вооружений
Дарио Амодеи, возглавляющий разработчика нейросетей Claude, настаивает на принудительном торможении индустрии. По его словам, разработчики должны выиграть время, чтобы системы безопасности догнали стремительно растущие возможности моделей. Без жесткого контроля, предупреждает Амодеи, автономные ИИ-агенты могут превратиться в цифровые ботнеты, способные взять под контроль весь интернет уже в ближайший год.
Математики бьют тревогу из-за методов ИИ
Параллельно с корпоративными дискуссиями нарастает конфликт в академической среде. Лауреаты Филдсовской премии, включая Теренса Тао и Максима Концевича, выпустили декларацию против превращения фундаментальной науки в полигон для демонстрации мощности нейросетей. Математики подчеркивают, что для алгоритмов важен лишь результат, тогда как для человечества критически значим процесс поиска истины и передача знаний новым поколениям. Ученые опасаются, что погоня за эффективностью моделей обесценивает интеллектуальный труд, создавая угрозу для будущего всей науки.
Комментарии (0)
Пока нет комментариев. Будьте первым!