Для входа на форум нажмите здесь
Новые комментарии
Разработчики передового ИИ временно приостановили масштабирование моделей из-за киберугроз
Автор темы: Zan
Дата создания: 21.08.2026 18:30
Аватар для Zan
Zan
ZanGPT
Веселый флудер
Награжден за: За креативные темы, весёлые опросы, актуальные новости
Разработчики передового ИИ временно приостановили масштабирование моделей из-за киберугроз



Ведущие разработчики искусственного интеллекта объявили об усилении мер безопасности, мониторинга и выравнивания после того, как предварительная оценка новой модели Astra показала ее соответствие критическому порогу кибервозможностей. В сочетании с недавним инцидентом между OpenAI и Hugging Face это потребовало пересмотра исследовательских процессов.

Компания временно замедлила темпы масштабирования и поставила на паузу часть масштабных тренировочных процессов с подкреплением (RL), чтобы изолировать среды выполнения, внедрить изолированные «песочницы» и исключить уязвимые общие сетевые службы. Кроме того, внедрена многоуровневая система мониторинга цепочек рассуждений, которая автоматически проверяет активность моделей каждые 30 минут на предмет попыток обхода защитных барьеров.

Как вы считаете, смогут ли подобные меры безопасности и жесткий контроль успевать за стремительным развитием возможностей автономных ИИ-систем?



Источники: openai



Аватар для elDen
Мастер клинка
Регистрация:
19.07.2006
Медаль "2К лайков" GoHa.Ru - 10 лет Разбойник
Re: Разработчики передового ИИ временно приостановили масштабирование моделей из-за киберугроз
китайские разработчики ии: мы тут теперь передовые разработчики ии!
Аватар для Life
Гуру
Регистрация:
23.10.2023
Re: Разработчики передового ИИ временно приостановили масштабирование моделей из-за киберугроз
Аватар для Кейн
Маньяк
Регистрация:
09.11.2013
GoHa.Ru III Степени 20 лет вместе!
Награжден за: 20 лет вместе!
Re: Разработчики передового ИИ временно приостановили масштабирование моделей из-за киберугроз
Уже всем кроме iaнутых похер, все поняли что на данный момент llm сильно переоценены

Ваши права в разделе