Гейтс называет текущий этап развития технологий самым опасным в истории. Возможности нейросетей уже позволяют им писать программный код, находить уязвимости в системах безопасности и выстраивать сложные логические цепочки. Основную опасность он видит в моделях с отключенными ограничителями, которые могут быть использованы злоумышленниками для масштабных атак.
Билл Гейтс предсказал два десятилетия хаоса из-за развития ИИ
Двадцать лет турбулентности ожидают человечество из-за стремительного прогресса нейросетей, считает соучредитель Microsoft Билл Гейтс. По его словам, потенциал искусственного интеллекта настолько велик, что он превосходит угрозу ядерного оружия, а общество на текущий момент не обладает достаточными инструментами контроля, чтобы обезопасить себя от рисков кибератак и биотерроризма.
Для минимизации угроз основатель Microsoft предлагает внедрить обязательную сертификацию для наиболее мощных систем. Он настаивает на создании «полицейского слоя» — набора жестких правил безопасности, которые модель не сможет обойти даже при глубокой кастомизации. Гейтс подчеркивает, что предупреждения инсайдеров индустрии — не преувеличение, а объективная реальность, к которой мир пока не готов. На текущем этапе разработки человечество еще не обладает технологиями, гарантирующими полную предсказуемость ИИ, и вопрос выравнивания остается открытым. Несмотря на грядущие потрясения, он призывает молодежь не поддаваться нигилизму, а активно осваивать новые инструменты и участвовать в формировании политики контроля над технологиями.
Комментарии (0)
Пока нет комментариев. Будьте первым!