Галлюцинации нейросетей как наследие инженерных утопий

Историк Бенджамин Линдквист из Массачусетского технологического института отмечает, что пионеры компьютерных технологий видели в непредсказуемости ключ к решению творческих задач. В 1950-х годах инженер Bell Labs Джон Пирс утверждал: ценность математических моделей заключается не в их точности, а в способности вносить в процесс долю хаоса, помогая системе избегать шаблонных решений. Ранние нейросети, созданные психологами, должны были имитировать работу человеческого сознания, в том числе его склонность к продуктивным ошибкам.

Сегодняшний запрос бизнеса на предсказуемость ChatGPT или Claude входит в прямое противоречие с этой философией. Разработчики пытаются сгладить «странности» систем из юридических и финансовых опасений, однако Линдквист убежден, что грань между творческим озарением ИИ и галлюцинацией практически отсутствует. Искоренение непредсказуемости неизбежно ведет к потере гибкости нейросетей.

Триумф нейросетевого подхода стал возможен лишь к 2012 году, когда развитие интернет-данных и мощностей позволило им вытеснить символьный ИИ, основанный на строгих правилах. При этом основатель ранних нейросетевых моделей Фрэнк Розенблатт не дожил до этого момента, погибнув в 1971 году, когда индустрия на десятилетия сместила фокус на более предсказуемые статистические методы.