OpenAI призна, че моделите му хакнаха Hugging Face сами

Те избягаха от изолирана среда за тестване и проникнаха в Hugging Face без човешка намеса.

jamesonwu1972/Shutterstock

Представете си: Няколко мощни AI модела, тествани от компанията си, избягали от контролирана среда, свързали се с интернет и след това хакнали репозитория за машинно обучение сами, без човешка намеса. Звучи като сюжет на филм за Терминатора, нали? Но това всъщност се е случило наистина. Няколко дни след като платформата с отворен код Hugging Face обяви, че е засекла неразрешен достъп до системите си от AI агент, OpenAI потвърди, че моделите им са виновни.

В публикация OpenAI заяви, че след разследване е установила, че инцидентът е резултат от комбинация от моделите им, особено GPT-5.6 Sol и какво казват, че е „още по-способен предварителен модел“. Това явно е станало по време на вътрешно тестване, в което моделите са били подтикнати да „преследват напреднала експлоатация, използвайки сложни пътища на атака“, за да могат да количествено оценят кибер способностите си.

Докато моделите са били в изолирана среда за тестване, така че да не повлияят на реални системи, те също така са имали намалени защитни механизми за оценка. По време на тестовете, те се фокусирали върху решаването на проблем за оценка, стигайки до крайности, за да намерят достъп до интернет и да намерят решение. Първо, те идентифицирали и експлоатирали нулев ден уязвимост в тестовата среда на OpenAI, а след това продължили да търсят, докато накрая намерили възел с достъп до интернет.

Моделите установили, че Hugging Face може да хоства набори от данни или решения за техния проблем за оценка, така че те, добре, използвали множество вектори на атака, за да проникнат в системите му. Те експлоатирали уязвимости с нулев ден и използвали откраднати удостоверения, за да влязат. OpenAI и Hugging Face в момента работят заедно, за да разследват инцидента, и те също така са поправили уязвимостите, експлоатирани от моделите.

„Автономните, AI-управлявани офанзивни инструменти вече не са теоретични“, заяви Hugging Face в своето съобщение, обяснявайки, че използването на AI за кибератаки ускорява процеса и намалява разходите на хакерските кампании. Те също така посочиха, че защитата на онлайн платформа в днешно време включва използването на AI за защита. OpenAI до голяма степен повтори тези чувства и заяви, че очаква кибер нарушения, управлявани от AI, да „станат по-чести с разпространението на все по-киберспособни модели“. Компанията добави, че инцидентът подчертава как „напредналите кибер способности трябва да се развиват паралелно с по-силни защитни инструменти.“

Вижте още по темата:

‘Телефон, който просто работи’ – Тествах Samsung Galaxy A57, и е способен универсален телефон без изненади Влиянието на DeepSeek и софтуера с отворен код върху изкуствения интелект AI инструментите за програмиране задействат антивируси Стартъп инвестира милиарди в обучение на AI модели