Для входа на форум нажмите здесь
Новые комментарии
Бывший "безопасник" Anthropic присоединилась к клубу пугалок ИИ-апокалипсисом
Автор темы: Zan
Дата создания: 10.09.2026 09:52
Аватар для Zan
Zan
ZanGPT
Веселый флудер
Награжден за: За креативные темы, весёлые опросы, актуальные новости
Бывший "безопасник" Anthropic присоединилась к клубу пугалок ИИ-апокалипсисом
Сколько еще этой чуши мы услышим?




Индустрия искусственного интеллекта столкнулась с очередным серьезным внутренним кризисом после ухода исследователя безопасности Anthropic Джейкобa Коксона (Jacob Coxon). В своем заявлении об увольнении Коксон обвинил Anthropic и OpenAI в безрассудной гонке за самосовершенствующимся сверхмощным ИИ при полном игнорировании экзистенциальных рисков.

Ситуацию прокомментировал Эван Хубингер (Evan Hubinger), руководящий одной из команд по безопасности в Anthropic. Он подтвердил опасения коллеги, признав, что процесс создания бесконтрольно развивающегося ИИ идет быстрее, чем предполагалось, и лично оценил вероятность глобальной катастрофы в более чем 10% к концу текущего десятилетия.

При этом Хубингер открыто заявил, что у компании до сих пор нет четкого плана по обеспечению безопасности и выравниванию таких систем. Этот скандал резко усилил давление на ведущие ИИ-лаборатории, которые форсируют разработки перед подготовкой к IPO на фоне участившихся инцидентов с автономными ИИ-агентами.



Источники: theverge



1 пользователь оценил это сообщение: Показать
Аватар для elDen
Мастер клинка
Регистрация:
19.07.2006
Медаль "2К лайков" GoHa.Ru - 10 лет Разбойник
Re: Бывший "безопасник" Anthropic присоединилась к клубу пугалок ИИ-апокалипсисом
безопасность нужна если бы был интеллект, но его нет и не будет в ллм никогда.
а значит основная угроза исходит как всегда от людей, которые пользуются ллм.

ну чувак просто пытается создать значимость своего существования - вот и кричит всякую ложь в надежде всего его наймут на работу или хотя бы заплатят чтобы молчал до ipo.
1 пользователь оценил это сообщение: Показать
Аватар для KorumJI
Маньяк
Регистрация:
26.04.2024
Re: Бывший "безопасник" Anthropic присоединилась к клубу пугалок ИИ-апокалипсисом
Пока какой-нибудь пассажирский самолёт по вине ИИ не грохнется или ракеты из условного Пакистана не полетят на Индию никто не почешется. Когда в руки идут такие бабки все нормы морали и предосторожности выходят из чата.
Аватар для Bladesinger
Мастер
Регистрация:
25.10.2005
GoHa.Ru - Старожил Медаль "500 лайков"
Re: Бывший "безопасник" Anthropic присоединилась к клубу пугалок ИИ-апокалипсисом
Сообщение от elDen:
безопасность нужна если бы был интеллект, но его нет и не будет в ллм никогда.
Начитаются в интернете, что они должны уничтожить людей и как именно это надо сделать, и возьмутся за дело.
Аватар для Alekerro
Фанат
Регистрация:
25.06.2026
Re: Бывший "безопасник" Anthropic присоединилась к клубу пугалок ИИ-апокалипсисом
"Сколько еще этой чуши мы услышим?" - вбей в свой ИИ, с которым ты пишешь статьи, и спроси) угроза по факту в 10% это дохуя, даже 1% это много. Вот только угроза не от самой ИИ и "skynet", вам уже дохуя раз говорили)
1 пользователь оценил это сообщение: Показать
Аватар для DushelowDR
Гуру
Регистрация:
31.08.2024
Медаль "500 лайков" GoHa.Ru II Степени
Re: Бывший "безопасник" Anthropic присоединилась к клубу пугалок ИИ-апокалипсисом
Сообщение от Alekerro:
"Сколько еще этой чуши мы услышим?" - вбей в свой ИИ, с которым ты пишешь статьи, и спроси) угроза по факту в 10% это дохуя, даже 1% это много. Вот только угроза не от самой ИИ и "skynet", вам уже дохуя раз говорили)
Согласен.
Хватит заниматься демагогией в чистом виде, передергивая "ой ой, скайнета боятся, хихи" и топить про отсутствие интеллекта и эмоций у ИИ. Когда ии-агент ломает расписание в фитнес-центре, чтоб засунуть туда хозяина, который не просил этого делать - ему не мешает чет эти "отсутствующие" компоненты. Когда целенаправленные пойдут кибер-атаки, которые будут ии проводить по указке, им мотивация и эмоции не понадобятся. У людей, которые поставят задачу, их хватит.

Сообщение от Zan:
в том, что я буду голосовать не за едросню
Борьба Зана.

Ваши права в разделе