Для предотвращения подобных сценариев Альтман настаивает на опережающем развитии методов безопасности. Технологии контроля должны совершенствоваться быстрее, чем растут возможности самих моделей, иначе прогресс станет необратимым. Ранее в индустрии уже звучали тревожные сигналы: исследователь Anthropic Джейкоб Коксон покинул сферу ИИ, заявив о приближении человечества к «точке невозврата» из-за агрессивной гонки технологических гигантов.
Сэм Альтман предупредил о рисках потери контроля над ИИ
Генеральный директор OpenAI Сэм Альтман опасается, что развитие искусственного интеллекта может привести к антиутопическому будущему. По мнению главы компании, главные угрозы заключаются в утрате человечеством контроля над алгоритмами и опасной концентрации власти в руках узкого круга корпораций или отдельных государств, способных диктовать правила игры всему миру.
Сам Альтман еще в июле допустил, что мир уже достиг стадии технологической сингулярности. В этой гипотетической точке развитие систем становится полностью неуправляемым, что неминуемо влечет фундаментальные изменения для всей цивилизации. На фоне глобальных дискуссий о безопасности национальные регуляторы продолжают менять правила игры: например, в России уже разрешили использовать объекты авторского права для обучения нейросетей.
Комментарии (0)
Пока нет комментариев. Будьте первым!