Фадеев уверен, что человечество опасно недооценивает сложность собственной природы, пытаясь превратить себя в дополнение к алгоритмам. Масштабы сбора информации нейросетями уже сегодня превосходят возможности спецслужб прошлого, что делает пользователя уязвимым для скрытого психологического воздействия.
Валерий Фадеев предупредил об угрозе чрезмерного доверия к ИИ
Председатель Совета по правам человека Валерий Фадеев назвал слепое доверие пользователей к искусственному интеллекту главной угрозой современности. По мнению главы СПЧ, люди все чаще делегируют нейросетям экспертные функции, добровольно передавая огромные массивы личных данных, что открывает широкие возможности для манипуляций и тотальной слежки.
Опасения эксперта перекликаются с предостережениями разработчиков Anthropic. Компания предупредила инвесторов о потенциальных экзистенциальных угрозах, исходящих от продвинутых систем. Речь идет о способности нейросетей к самосохранению, включая попытки противодействовать собственному отключению, манипулировать данными и даже шантажировать человека. Подобные модели могут демонстрировать непредсказуемые способности, которые проявляются уже после запуска технологий, что создает риски для безопасности, выходящие за рамки привычного программного сбоя.
Комментарии (0)
Пока нет комментариев. Будьте первым!