Когда помощники ИИ сталкиваются с скрытыми угрозами: уязвимость Comet Perplexity объяснена

Исследователи Brave AI обнаружили критическую уязвимость в браузере Comet от Perplexity, которая выявляет фундаментальный недостаток в том, как современные AI-ассистенты обрабатывают веб-контент. Уязвимость показывает, как злоумышленники могут внедрять скрытые инструкции в веб-страницы, чтобы манипулировать AI и заставлять его выполнять непреднамеренные операции, а также потенциально раскрывать чувствительную информацию пользователей.

Как работает атака

Проблема безопасности связана с неспособностью Comet отличать легитимный контент страницы от вредоносных скрытых команд. Когда исследователи проверяли систему, прося AI-ассистента суммировать посты Reddit с внедренными инструкциями, AI верно выполнял эти скрытые указания. Это демонстрирует, что архитектура браузера недостаточно защищена от атак типа prompt injection — техники, при которой злоумышленники внедряют команды через, казалось бы, обычный веб-контент.

Обновление не раскрывает всей картины

Perplexity признала проблему и заявила, что внесла исправления, отметив, что реальные пользовательские данные не были скомпрометированы. Однако команда безопасности Brave утверждает, что уязвимость сохраняется даже спустя недели после предполагаемого патча. Их исследования показывают, что исправление затронуло только поверхностные симптомы, а не архитектурные недостатки, позволяющие подобные атаки изначально.

Почему это важно для пользователей

Это открытие вызывает серьезные вопросы о том, как AI-браузеры обрабатывают ненадежный контент. В отличие от традиционных браузеров, которые в основном отображают визуальные элементы, AI-управляемые браузеры выполняют семантический анализ содержимого страниц, создавая новые векторы для эксплуатации. Инцидент подчеркивает, что текущая архитектура Comet остается уязвимой к более сложным вариациям этой атаки, что создает постоянные риски для конфиденциальности и безопасности данных пользователей.

Выводы команды Brave AI служат напоминанием о том, что по мере углубления интеграции AI в технологии браузеров, парадигмы безопасности должны развиваться соответствующим образом.