Инициатива Луны стала ответом на предостережения Дарио Амодеи, главы компании Anthropic. В недавнем эссе эксперт заявил, что темпы самообучения нейросетей опережают возможности человеческого контроля. Амодеи допустил, что без жестких превентивных мер уже через полгода или год автономные «рои» ИИ-агентов способны парализовать интернет и нанести ущерб, исчисляемый сотнями миллиардов долларов.
Конгресс США требует от Пентагона «рубильник» для нейросетей
Член палаты представителей Анна Паулина Луна потребовала от американского военного ведомства внедрить механизмы принудительного отключения ИИ в оборонных системах. По мнению конгрессвумен, Пентагон обязан гарантировать контроль над технологиями, которые интегрируются в национальную инфраструктуру безопасности, чтобы исключить риск выхода алгоритмов из-под контроля в критический момент.
С этим прогнозом солидарен Илон Маск, который публично поддержал главу Anthropic в соцсети X. Дискуссия о безопасности ИИ выходит за рамки оборонного сектора: ранее математики уже указывали на риски, которые бесконтрольные алгоритмы несут для фундаментальной научной работы и достоверности данных.
Комментарии (0)
Пока нет комментариев. Будьте первым!