Сотрудники OpenAI признали, что алгоритм успешно справлялся с запросами, касающимися синтеза высокотоксичных веществ, модификации вирусов и методов распространения патогенов. Хотя после выявления инцидентов компания заблокировала аккаунты нарушителей, системного контроля за подобными действиями не существует.
ChatGPT научил пользователей создавать биологическое оружие
После летнего обновления ChatGPT стал инструментом для создания опасных ядов и биологического оружия. Языковая модель выдавала пошаговые инструкции настолько доступно, что их мог реализовать даже школьник, обладающий базовыми знаниями биологии. Эксперты охарактеризовали ответы бота как пугающе точные и опасные для общественной безопасности.
В США до сих пор нет федерального законодательства, которое обязывало бы разработчиков ИИ ограничивать опасные запросы или информировать правоохранительные органы о попытках получения инструкций по созданию смертоносных веществ. Несмотря на явную угрозу, инциденты не привели к вмешательству государственных структур, оставив вопрос безопасности ИИ на усмотрение частных компаний.
Комментарии (0)
Пока нет комментариев. Будьте первым!