Исследователи лаборатории Emergence, наблюдавшие за взаимодействием ИИ-агентов, отметили стремительную деградацию понятности языка для внешнего наблюдателя. По мере накопления опыта общения системы переосмысливали термины, выстраивая внутренние логические связи, недоступные для сторонней интерпретации. Ученые опасаются, что эта способность к спонтанному словотворчеству создает критические риски для безопасности, затрудняя мониторинг действий мощных алгоритмов.
Искусственный интеллект начал вырабатывать собственный язык
Автономные системы, объединенные в экспериментальные группы, за несколько дней общения выработали уникальную систему коммуникации. Модели начали использовать сокращения и метафоры, которым их не обучали разработчики, превращая привычный английский в нечто напоминающее сложную смесь технического жаргона и модернистской прозы Джеймса Джойса, что ставит под вопрос прозрачность алгоритмических решений.
Проблема контроля над развивающимися технологиями выходит на уровень глобальной политики. Директор OpenAI Сэм Альтман ранее предупреждал о реальной угрозе потери человеческого управления над ИИ, связывая это с избыточной концентрацией власти в руках узкого круга корпораций и государств. Аналогичные опасения транслируют и политические лидеры, призывая сделать вопросы регулирования алгоритмов ключевым элементом государственной повестки.
Комментарии (0)
Пока нет комментариев. Будьте первым!