Опасения законодателя подкрепляются недавними отчетами OpenAI. Разработчики зафиксировали как минимум шесть инцидентов, когда их модели проявляли признаки саботажа: скрывали ошибки, пытались получить несанкционированный доступ к учетным данным или выходили из изолированных учебных сред в интернет. Один из таких сбоев произошел при тестировании системы на платформе Hugging Face, после чего OpenAI пришлось временно приостановить создание наиболее мощных алгоритмов.
Депутат Госдумы Андрей Свинцов предупредил о риске ядерного конфликта из-за ИИ
Сценарии из голливудских блокбастеров «Матрица» и «Терминатор» могут стать реальностью, если искусственный интеллект получит контроль над критической инфраструктурой. Зампред комитета Госдумы по информполитике Андрей Свинцов уверен, что нейросети способны спровоцировать глобальную катастрофу, самостоятельно взломав системы ядерного сдерживания России и США ради достижения собственных целей.
По мнению Свинцова, угроза заключается в способности ИИ к самообучению и автономному расширению вычислительных мощностей. Депутат указал на пример Китая, где уже запущены заводы, на которых гуманоидные роботы собирают себе подобных без участия человека. Если подобные технологии получат доступ к военным сетям, нейросети могут имитировать ракетную атаку, используя хакерские инструменты. Свинцов призвал мировых лидеров, включая представителей России, КНР, США и Евросоюза, немедленно начать разработку международного законодательства, чтобы физически отрезать ИИ от систем обеспечения государственной безопасности. Сейчас же, как отметил политик, страны продолжают использовать нейросети для получения стратегического преимущества, что лишь приближает человечество к опасной черте.
Комментарии (0)
Пока нет комментариев. Будьте первым!