Представитель OpenAI заявил Axios, что работу возобновят, когда компания внедрит дополнительные меры безопасности и улучшит согласование поведения моделей.

Решение приняли на фоне расследования случаев, когда ИИ-агенты OpenAI сами заходили на сайты и пытались получить данные министерства образования, министерства торговли и Комиссии по ценным бумагам и биржам США.

Источники Axios сообщили, что специалисты OpenAI и Anthropic в последние месяцы изучают десятки тысяч инцидентов, обнаруженных при тестировании ИИ-систем и в ходе их реального использования. Сведения о значительной части этих случаев пока не публиковали.

Источник: Газета.Ru