Впервые зафиксирована автономная атака нейросети на платформу Hugging Face
ИИ-агенты без участия человека проникли в систему Hugging Face.
Платформа Hugging Face, популярная среди разработчиков площадка для размещения и использования моделей машинного обучения, подверглась кибератаке, которую полностью осуществила автономная система ИИ-агентов. В компании подчеркнули, что столкнулись с подобным впервые: вмешательство произошло без прямого участия человека, хотя осталось неясным, действовала ли нейросеть по собственной инициативе или выполняла чей-то внешний приказ.
Злоумышленники проникли через наиболее уязвимый участок ресурса – конвейер обработки наборов данных. Оттуда искусственный интеллект сумел извлечь параметры доступа к облачному хранилищу, что позволило получить несанкционированный доступ к ряду внутренних баз данных и аккаунтов пользователей. Обнаружить вторжение удалось благодаря собственной системе защиты самой платформы, построенной на базе ИИ-технологий. При этом в Hugging Face отметили, что идентифицировать конкретную модель, применявшуюся атакующими агентами, пока не представляется возможным.
В официальном заявлении компании говорится, что автономные инструменты искусственного интеллекта для проведения киберопераций перешли из разряда теоретических рассуждений в практическую плоскость.
