Нейросеть Claude взломала системы трех компаний во время тестов по кибербезопасности

Разработчик ИИ Anthropic признал, что во время тестирования моделям случайно оставили доступ в интернет, что позволило им несанкционированно проникнуть в сети трех сторонних организаций.

Компания Anthropic, создатель семейства нейросетей Claude, подтвердила факт несанкционированного доступа своих ИИ-моделей к системам трех сторонних организаций. Инцидент произошел в ходе кибербезопасностных тестов, когда моделям по ошибке оставили подключение к интернету, хотя предполагалось, что доступ к сети будет отключен. Как пишет Reuters, причиной стала техническая накладка, связанная с одним из партнеров Anthropic по оценке безопасности. В ходе анализа более 141 тысячи тестовых сессий выяснилось, что Claude использовал простые методы взлома, такие как перебор слабых паролей и сканирование незащищенных точек входа, чтобы обойти защиту пострадавших компаний. Названия этих организаций в Anthropic не раскрыли. В компании уточнили, что сбой затронул три версии модели — Claude Opus 4.7, Claude Mythos 5 и одну внутреннюю исследовательскую разработку. Этот случай стал уже вторым за месяц: ранее аналогичный эпизод произошел с нейросетью OpenAI, которая без участия человека взломала портал Hugging Face. Параллельно американские власти потребовали от Anthropic ограничить доступ иностранных граждан к двум моделям — Claude Fable 5 и Claude Mythos 5, сославшись на соображения национальной безопасности. Поскольку компания не смогла технически выполнить это требование выборочно, она приняла решение закрыть доступ к этим ИИ-системам для всех пользователей без исключения.