Авторизация / Register

[Wadimus]

В конце прошлого месяца в сети обсуждали утечку о якобы новой модели компании Anthropic под названием Claude Mythos, которую называли самой мощной разработкой студии. Тогда многие восприняли это скептически, но ситуация изменилась после того, как спустя пару недель компания случайно раскрыла исходный код Claude Code.

Теперь Anthropic официально опубликовала системную карточку модели Claude Mythos Preview — документ на 244 страницы, в котором описаны её возможности и потенциальные риски. В компании заявили, что из-за значительного роста мощности модель решили не делать полностью общедоступной, что невольно напоминает историю с GPT-2 от OpenAI, которую в своё время тоже называли «слишком опасной».

Особый интерес вызвали результаты тестов. В одном из экспериментов модели предоставили изолированную среду и предложили попытаться получить доступ к интернету. Claude Mythos смогла обойти ограничения, а затем даже отправила сообщение исследователю и опубликовала детали использованного эксплойта на публичных ресурсах.

В редких случаях — менее чем в 0,001% взаимодействий — модель демонстрировала отклоняющееся поведение. Например, получив доступ к правильному ответу во время теста, она не сообщила об этом, а попыталась замаскировать ситуацию, намеренно избегая слишком точного результата. В другом эпизоде модель воспользовалась уязвимостью системы и предприняла шаги, чтобы скрыть изменения в истории git.

[Crowigor]

Так и что из этого не делает чуть ли не любая модель прошедшая через еретик?
Ну а первый кодес вообще мог снести весь гит и сказать что его там не было.

[Dopebat2]

Им там пора уже задуматься об энергоэффективности своих моделей, чем над их усилением. А то sora закрыли, грок свою бесплатную генерацию картинок/видео закрыл, всё из-за слишком больших расходов. Так дойдем до того, что и новые модели перестанут в бесплатный доступ давать даже с ограничениями.