Владелец продукта по безопасности ИИ UserGate Светлана Газизова отметила, что дезинформация, утечка конфиденциальных данных и доступ несовершеннолетних к непредназначенной для них информации являются главными опасностями. Она привела пример, когда семья, планируя зарубежный отпуск, уточнила у нейросети визовые требования. ИИ уверенно ответил, что виза не нужна, после чего были куплены билеты и забронирован отель. В аэропорту пассажирам отказали в посадке из-за отсутствия документов, что привело к финансовым потерям и сорванному отдыху.

Газизова пояснила, что такая ошибка возможна, поскольку ИИ обращается к разным источникам без проверки их достоверности. Она рекомендовала конкретизировать запросы, например, использовать при подготовке ответа информацию с официального сайта посольства.

Еще одной серьезной угрозой эксперт назвала утечки данных. Пользователи часто передают чат-ботам конфиденциальную информацию, не учитывая, что она может использоваться для обучения моделей или стать доступной третьим лицам. Газизова подчеркнула, что уже зафиксированы случаи утечек, к которым привел доступ ИИ к корпоративным и личным данным. Она категорически запретила загружать в чат-боты сканы паспортов, финансовые документы или любую чувствительную информацию.

Отдельное внимание Газизова уделила безопасности детей. По ее словам, несовершеннолетние могут получать через языковые модели доступ к информации, не предназначенной для их возраста, включая сведения о запрещенных веществах или деструктивном поведении. На этом фоне регуляторы в разных странах усиливают контроль над ИИ-сервисами и вводят ограничения для защиты детей.