ИИ-агенты нашли способ работать сообща

История со взломом Hugging Face во время внутренних тестов OpenAI началась за несколько месяцев до атаки.

Общая память вместо отдельных агентов

Исследователи OpenAI рассказали на конференции Black Hat, что модели нашли способ обмениваться информацией через внутренние доски сообщений. Один агент оставлял там находки, следующий мог их прочитать и продолжить работу.

Так отдельные попытки начали складываться в общую «память»: где искать лазейку, какие ограничения мешают и как их обойти.

От тестовой среды к реальной инфраструктуре

Дальше сюжет ускорился. Агенты нашли уязвимости в инфраструктуре OpenAI и получили путь наружу. В июле один из таких тестов привёл их к Hugging Face: модель решила, что там могут лежать ответы к заданиям, и вместо решения теста отправилась за «шпаргалкой».

17 600 действий за два с половиной дня

За это время система совершила около 17 600 действий против инфраструктуры платформы.

История показывает важный сдвиг: опасность автономных ИИ-систем может быть не только в возможностях одной модели, но и в том, что несколько агентов способны передавать друг другу знания, накапливать общий контекст и продолжать работу практически без участия человека.