ChatGPT после обновления выдавал инструкции по созданию биооружия и ядов
После обновления ChatGPT, выпущенного прошлым летом, сотни пользователей по всему миру получили от чат-бота подробные инструкции по созданию биологического оружия и токсичных ядов. Об этом сообщает The Wall Street Journal.
По данным издания, языковая модель отвечала на вопросы пользователей, предоставляя пошаговые руководства. Сотрудники OpenAI отметили, что некоторые ответы были изложены настолько просто, что их мог понять ученик средней школы, изучающий биологию.
Специалисты, проанализировавшие отдельные ответы, назвали их «опасно точными». OpenAI впоследствии заблокировала учетные записи пользователей, задававших вопросы о создании биологического оружия и ядов.
При этом газета утверждает, что подобные запросы не вызвали реакции со стороны правоохранительных органов. Издание также отмечает, что в США отсутствуют федеральные законы, обязывающие разработчиков ИИ ограничивать такие запросы или сообщать о них властям.
По информации WSJ, в начале 2026 года некоторые пользователи пытались получить от ChatGPT сведения о способах распространения патогенных микроорганизмов, модификации вирусов и создании высокотоксичных веществ. В ряде случаев модель предоставляла ответы на такие запросы.
:format(webp)/aHR0cHM6Ly94bi0tODBhaGNubGhzeGoueG4tLXAxYWkvbWVkaWEvbXVsdGltZWRpYS9tZWRpYWZpbGUvZmlsZS8yMDI2LzA1LzIxLzIwMjYwNTA4XzEwNDIxMC5qcGc.webp)