Альтман настаивает на жестком ограничении: компании должны прекратить обучение моделей, если не могут гарантировать их полное подчинение человеку. Разработчики обязаны наращивать системы контроля параллельно с ростом вычислительных мощностей, исключая даже минимальную вероятность катастрофических сбоев. Любые попытки использовать мощный ИИ для идеологического давления или продвижения узких взглядов он считает недопустимыми.
Сэм Альтман предупредил о риске монополии на искусственный интеллект
Глава OpenAI Сэм Альтман на заседании Совета Безопасности ООН заявил о скрытой угрозе развития нейросетей. По его мнению, бесконтрольный прогресс технологий рискует сосредоточить критический объем влияния в руках узкого круга лиц, что создаст опасный дисбаланс сил на глобальном уровне и позволит навязывать частные интересы целым государствам.
Текущий этап индустрии требует крайней осторожности. Альтман призывает коллег отказаться от погони за максимальной выгодой в ущерб безопасности, предлагая искать «средний путь» между слепым оптимизмом и алармизмом. Эту позицию на заседании поддержал руководитель компании Anthropic Дарио Амодеи. Ранее схожие опасения относительно вызовов, связанных с повсеместным внедрением алгоритмов, высказывал президент России Владимир Путин.
Комментарии (0)
Пока нет комментариев. Будьте первым!