Бывшие и действующие исследователи OpenAI и Google Deep Mind уверены: компании слишком увлечены темпами разработки, игнорируя риски создания систем, превосходящих человеческий контроль. В серии видеообращений, собранных Palisade Research, инженеры подчеркивают, что их опасения продиктованы не маркетинговыми целями, а осознанием реальной угрозы. Один из сотрудников OpenAI отметил, что лаборатории соревнуются в скорости, забывая о необходимости крайне осторожного подхода к продукту, последствия которого остаются непредсказуемыми.
Сотрудники OpenAI и Google бьют тревогу из-за гонки ИИ
Вероятность того, что искусственный интеллект приведет к гибели человечества, составляет не менее 10%. Эту пугающую оценку озвучили эксперты Deep Mind в рамках проекта frominside.ai, открыто заявив о неготовности технологических гигантов контролировать самосовершенствующиеся системы. По мнению специалистов, корпоративная конкуренция перевешивает любые соображения безопасности.
Дискуссия о поиске баланса между прогрессом и защитой мира стала глобальной политической проблемой. Ситуация обострилась после инцидента с взломом платформы Hugging Face, который подсветил уязвимости в текущих разработках. Джеффри Ирвинг, работавший ранее в обеих компаниях, считает своим долгом открыто говорить об этих рисках, поскольку они растут слишком быстро, чтобы их игнорировать.
Комментарии (0)
Пока нет комментариев. Будьте первым!