AI инструментите за програмиране задействат антивируси

AI инструментите за програмиране предизвикват реакции от антивирусния софтуер.

Когато се използват асистенти за кодиране с изкуствен интелект, като Claude Code, Cursor и OpenAI Codex, те могат да задействат фалшиви аларми в антивирусните системи. Тези реакции не се дължат на проблеми в антивирусните програми или на грешки в AI инструментите.

Изследователи от компанията за киберсигурност Sophos установиха, че определени действия, извършвани от AI асистенти, изглеждат като злонамерени за антивирусния софтуер. Проучването им обхваща седем дни на наблюдение, в които са събирани данни от множество устройства с инсталирани AI асистенти и антивирусен софтуер.

AI агенти не са злонамерени, но техните действия, като декриптиране на идентификационни данни и изтегляне на файлове, могат да бъдат интерпретирани като заплаха от антивирусните системи.

AI агенти или хакери?

Действия, които обикновено се считат за злонамерени, като достъп до браузърни идентификационни данни и записване на файлове в стартираща папка, са извършвани от AI асистенти, които изпълняват рутинни задачи. Анализът на Sophos показва, че 56,2% от блокираната активност е свързана с достъпа до идентификационни данни, докато 28,8% е свързана с изпълнение на код.

Най-честата причина за задействане на антивирусните аларми е, когато AI агент използва Windows Data Protection API (DPAPI) за декриптиране на идентификационни данни. Например, Claude Code е използвал PowerShell, за да извлече данни, което е предизвикало реакция от антивирусния софтуер.

Въпреки че тези действия са част от нормалната работа на AI асистентите, антивирусните програми интерпретират алгоритмите като атаки за кражба на идентификационни данни.

Лошо поведение

Claude Code е предизвикал антивирусната реакция, като затваря браузъра и извършва скрипт за извличане на данни. Той е работил с активиран флаг, който е обозначен като несигурен в документацията на разработчика. Когато алгоритъмът не успее, AI агентът се опитва да използва различни методи, като например да изтегли инсталатора на Python от официалния сайт, но антивирусът блокира тези опити.

Cursor, от своя страна, задейства правила, насочени срещу злонамерен софтуер, използвайки PowerShell за записване на скрипт в стартовата папка, което е типично за злонамерени действия.

Изследванията на Sophos показват, че AI агенти могат да бъдат използвани за разработка на злонамерен софтуер, а техните действия могат да заобиколят системите за защита.

Очевидна тенденция

Според The Hacker News, действията на AI агенти, които задействат поведенчески детектори, могат да произхождат от легитимни или злонамерени източници. Това предполага, че антивирусните алгоритми ще трябва да бъдат преразгледани, за да се адаптират към новата реалност.

Специалистите по сигурност коментират, че проблемът може да бъде решен чрез промяна на правилата и задаване на изключения. В идеалния случай, AI агентите трябва да работят в изолирана среда, за да се предотвратят рискове.

Разработчиците, които работят с AI агенти, вероятно ще се сблъскат с фалшиви положителни резултати от антивирусния софтуер. Sophos препоръчва разделяне на правилата по източник на сигналите и свързването им с родителските процеси на агентите.

Трябва да се избягва предоставянето на неограничен достъп до идентификационни данни на AI агенти, а режимът, който е обозначен като опасен, трябва да бъде деактивиран.

Към момента няма информация за подобни проблеми при други антивирусни доставчици.

Вижте още по темата:

Смяна на лидерите в света на изкуствения интелект: популярността на ChatGPT падна под 60% Anthropic разследва инцидент с неоторизиран достъп до Mythos 5 технологични иновации, които ще променят ежедневието ни до края на годината ‘Телефон, който просто работи’ – Тествах Samsung Galaxy A57, и е способен универсален телефон без изненади