Сегодняшние нейросети все еще ограничены: они склонны к «галлюцинациям», лишены критического мышления и способности к самостоятельному целеполаганию. Тем не менее переход к сверхинтеллекту может изменить баланс сил. Эксперт настаивает, что передача всех ключевых решений ИИ приведет к разрыву в понимании того, как функционируют сложные системы в целом.
Сверхинтеллект грозит потерей контроля над критическими системами
Развитие сильного искусственного интеллекта неизбежно приведет к появлению сверхинтеллекта, способного превзойти человеческие возможности. Александр Кугаевских из Университета ИТМО предупреждает: чрезмерная передача управленческих функций алгоритмам чревата деградацией навыков у людей, которые в критической ситуации окажутся неспособны вернуть контроль над процессами, доверенными машине.
Эту позицию разделяет глава Российского квантового центра Алексей Федоров. Он видит единственный способ избежать деградации человечества в развитии навыков критического мышления. Только так машинное обучение превратится из источника готовых ответов в рабочий инструмент, а не в угрозу, способную привести к сценариям, напоминающим фантастические фильмы о восстании машин.
Комментарии (0)
Пока нет комментариев. Будьте первым!