Microsoft Copilot: ИИ раскрыл способы взлома спустя 8 месяцев

Специалисты по кибербезопасности обнаружили, что ИИ-помощник Microsoft Copilot может быть спровоцирован на раскрытие информации о способах его взлома. Исследователи использовали специальные запросы, чтобы обойти защитные механизмы ИИ.

Интересно, что Microsoft узнала об этой уязвимости еще восемь месяцев назад, однако исправление было выпущено только недавно. Это вызывает вопросы о скорости реакции компании на потенциальные угрозы безопасности своих продуктов.

Данный инцидент подчеркивает важность постоянного мониторинга и оперативного устранения уязвимостей в системах искусственного интеллекта, особенно тех, которые имеют доступ к конфиденциальной информации или могут быть использованы для выполнения критически важных задач.