Bloomberg: хакеры взломали ИИ Mythos от Anthropic
Bloomberg сообщает о взломе мощной ИИ-модели Mythos от Anthropic. Неизвестные получили доступ через подрядчика и используют её не по назначению, что обострило конфликт компании с Пентагоном.
Данные о новой модели ИИ Mythos от Anthropic оказались в руках неизвестных лиц
Несанкционированный доступ к перспективной системе искусственного интеллекта Mythos, созданной компанией Anthropic, получила группа неизвестных пользователей. Об этом сообщает агентство Bloomberg, ссылаясь на собственные источники.
Согласно заявлениям разработчика, модель Mythos Preview представляет собой наиболее совершенную на сегодняшний день разработку компании в области ИИ. Её ключевой особенностью является способность по запросу выявлять и эксплуатировать уязвимости в любой распространённой операционной системе или основном веб-браузере.
Как передаёт агентство, утечка произошла практически сразу после анонса:
Несколько пользователей через частный онлайн-форум получили доступ к Mythos в тот же день, когда Anthropic впервые объявила о плане выпустить модель ограниченному числу компаний для тестирования.
По информации источников, для получения доступа была применена комбинация методов, включавшая использование учётных данных сотрудника одного из подрядчиков Anthropic, а также стандартные инструменты интернет-разведки.
Все фигуранты инцидента состоят в закрытом Discord-канале, члены которого специализируются на поиске информации о ещё не выпущенных моделях ИИ. Для этого они используют ботов, сканирующих незащищённые ресурсы, такие как GitHub, на предмет данных, случайно оставленных Anthropic и другими компаниями.
Группа регулярно использует Mythos с тех пор, но не в целях кибербезопасности, — отмечает Bloomberg.
Ранее, в начале апреля, Anthropic самостоятельно ограничила доступ к Mythos примерно для 40 организаций, посчитав её возможности в сфере кибербезопасности чрезмерно рискованными для широкого распространения. Ситуация усугубляется позицией Пентагона, который официально уведомил руководство компании о рассмотрении её деятельности как угрозы для цепочек поставок. В ответ Anthropic инициировала судебный иск против федеральных властей США.
Конфликт вокруг доступа к технологиям искусственного интеллекта проистекает из принципиальной позиции Anthropic. Руководство компании отказывается предоставлять Министерству обороны США полный доступ к своим разработкам, аргументируя это тем, что технологии ещё не достигли уровня зрелости, достаточного для их применения в создании автономных вооружений. Кроме того, в компании указывают на отсутствие в настоящее время надёжной правовой базы для использования её ИИ в целях внутреннего наблюдения.