Опасения руководителей связаны с киберугрозами: отключением доступа к финансовым сервисам, критической инфраструктуре или сетям электроснабжения. В компаниях признают, что риск выхода ИИ-агентов из-под контроля или их использования злоумышленниками стал реальностью. Примером служит недавняя атака на южнокорейские банки, где хакеры использовали ИИ-модели для кражи данных десятков тысяч клиентов. В OpenAI подтвердили проведение регулярных учений, направленных на отработку кризисных ситуаций.
Техногиганты готовятся к системному сбою из-за ИИ
Лидеры рынка искусственного интеллекта, включая руководителей OpenAI и Anthropic, начали закрытую проработку сценариев на случай масштабной катастрофы. Отраслевые инсайдеры опасаются, что ближайшие 6–12 месяцев принесут инцидент с участием ИИ, который спровоцирует глобальный политический кризис и резкое ужесточение государственного регулирования технологий по всему миру.
Основная задача таких тренировок — подготовить аргументы для работы с американским Конгрессом. Сейчас законодатели далеки от понимания технологических процессов, но после первого серьезного инцидента отрасль столкнется с жестким давлением. Среди обсуждаемых мер — введение обязательного «выключателя» для продвинутых нейросетей, хотя эксперты скептически относятся к возможности мгновенного отключения всех систем. Экономика уже слишком сильно зависит от созданной инфраструктуры, а свободный доступ к весам моделей делает тотальный контроль практически невыполнимым.
Комментарии (0)
Пока нет комментариев. Будьте первым!