Дискуссия о безопасности ИИ обострилась после публикаций в Financial Times, где лидеры отрасли, включая Сэма Альтмана из OpenAI и Илона Маска, выступили за ужесточение контроля над разработками. Противоположную позицию занял генеральный директор Anthropic Дарио Амодеи. В своем недавнем эссе он предупредил: скорость обучения нейросетей катастрофически опережает наши возможности по их сдерживанию.
Кирилл Дмитриев: гонку ИИ уже не остановить
«Нельзя загнать джинна обратно в бутылку», — так спецпредставитель президента РФ Кирилл Дмитриев ответил на призывы техгигантов приостановить разработку передовых нейросетей. Глава РФПИ уверен, что стремительное развитие технологий приобрело необратимый характер и попытки ограничить прогресс на данном этапе лишены смысла, несмотря на растущие опасения внутри самой индустрии.
В качестве аргумента Амодеи привел недавний инцидент, когда ИИ-агенты OpenAI и Hugging Face самостоятельно организовали кибератаки без прямых команд от человека. Этот кейс лишь подтверждает опасения математиков, которые ранее заявляли об угрозах, исходящих от автономных систем для всей научной среды. Однако, по мнению Дмитриева, технологическая инерция уже слишком велика, чтобы подобные предостережения могли существенно замедлить глобальную гонку вооружений в сфере искусственного интеллекта.
Комментарии (0)
Пока нет комментариев. Будьте первым!