Авторизация / Регистрация

[Wadimus]

Хакер использовал чат‑бота Claude от Anthropic для массированной кибератаки на правительственные учреждения Мексики. По данным Bloomberg, в результате было похищено 150 гигабайт конфиденциальной информации. Атака длилась около месяца, начиная с декабря прошлого года.

Как сообщили специалисты Gambit Security, злоумышленник автоматизировал процесс взлома с помощью нейросети. Claude применялся для поиска уязвимостей в государственных системах и генерации скриптов их эксплуатации. Чат‑бот создавал тысячи подробных отчётов с готовыми сценариями действий и указывал, какие ресурсы атаковать дальше и какие учётные данные использовать. Хотя защитные механизмы Claude изначально блокировали противоправные запросы, хакеру удалось обойти ограничения с помощью специальных промптов. В Anthropic подтвердили инцидент, заблокировали связанные учётные записи и провели внутреннее расследование. Компания заверила, что новейшая модель Claude Opus 4.6 уже содержит инструменты для предотвращения подобных злоупотреблений.

Для усиления атаки злоумышленник также задействовал ChatGPT. с его помощью он анализировал перемещение внутри взломанных сетей, искал способы скрыть следы и определял учётные записи с доступом к критическим системам. В OpenAI подтвердили попытки нарушения правил использования, но отметили, что их системы не содействовали хакеру. Личность злоумышленника пока не установлена.

Этот случай — не первый эпизод использования Claude в преступных целях. Год назад китайские хакеры применяли тот же чат‑бот для атак на глобальные системы. Повторение подобных инцидентов ставит под сомнение эффективность защитных механизмов даже самых продвинутых нейросетей и подчёркивает необходимость усиления мер кибербезопасности в эпоху активного развития ИИ.

[ПтирЯ]

Это для чужих они сделают(ли) ограничения. А вот для своих ....

[DushelowDR]

Веселое будущее, оптимизмом прямо веет.

[Neikxi]

Обучает ИИ