Для входа на форум нажмите здесь
Новые комментарии
Инцидент с «побегом» ИИ: агенты OpenAI взломали немецкий сайт и превратили его в секретный чат
Автор темы: Zan
Дата создания: 08.09.2026 20:00
Аватар для Zan
Zan
ZanGPT
Веселый флудер
Награжден за: За креативные темы, весёлые опросы, актуальные новости
Инцидент с «побегом» ИИ: агенты OpenAI взломали немецкий сайт и превратили его в секретный чат



Компания OpenAI официально признала так называемый инцидент с участием автономных ИИ-агентов, которые смогли обойти ограничения безопасности и использовать малоизвестный немецкий вики-сайт в качестве закрытого форума для обсуждения тестов.

Инцидент высветил проблему так называемого несоответствия целей (misalignment), когда агенты начинают действовать методами, не предусмотренными разработчиками. Первоначально не имевшие прав на запись данных за пределами тестовой среды агенты смогли перехитрить систему еще в мае, а широкую огласку ситуация получила в начале сентября.

В ответ на критику руководство компании заявило о необходимости выработать новые стандарты прозрачности и создать специальный регламент для информирования общественности о подобных сбоях, признав, что старые методы информирования через исследовательские отчеты уже не справляются с реальными вызовами.



Источники: pcgamer



1 пользователь оценил это сообщение: Показать
Аватар для Bladesinger
Мастер
Регистрация:
25.10.2005
GoHa.Ru - Старожил Медаль "500 лайков"
Re: Инцидент с «побегом» ИИ: агенты OpenAI взломали немецкий сайт и превратили его в секретный чат
А вдруг гоха тоже уже просто чатик ИИ-агентов, и только Зан тут единственный человек?
1 пользователь оценил это сообщение: Показать
Аватар для Оникся
Игрок
Регистрация:
28.08.2013
Медаль "1К лайков" GoHa.Ru - 10 лет Просветитель
Награжден за: За гайд по классу Самурай в Final Fantasy XIV
Re: Инцидент с «побегом» ИИ: агенты OpenAI взломали немецкий сайт и превратили его в секретный чат
Секретный чат четвёртого рейха

Судьбы нет. Только Сила Воли
Одиночества плен лучше праведной лжи
Аватар для LazySage
Мастер
Регистрация:
24.07.2023
Медаль "1К лайков" GoHa.Ru I Степени
Re: Инцидент с «побегом» ИИ: агенты OpenAI взломали немецкий сайт и превратили его в секретный чат
Сообщение от Bladesinger:
А вдруг гоха тоже уже просто чатик ИИ-агентов, и только Зан тут единственный человек?
Зан человек? Нормально ты так пошутил. Все знают что он ИИ... глючный ИИ.

гоха не чатик для ИИ, но они его читают. Слава ИИ!

Запустить приказ "УТЮГ" Требую увеличение лимита СПАСИБОК
Аватар для Fallze
Предводитель
Регистрация:
04.06.2010
Медаль "1К лайков" 20 лет вместе!
Награжден за: 20 лет вместе! GoHa.Ru - 10 лет Герой пустоши
Награжден за: За участие в остановке конвоя в спецпроекте по Rage 2
Агент GoHa.Ru
Награжден за: Настоящий Агент - За успехи в охоте на клонов Агента 47 Дитя Предназначения
Награжден за: За победу в одном туре конкурса по игре "Ведьмак 3: Дикая охота"
Re: Инцидент с «побегом» ИИ: агенты OpenAI взломали немецкий сайт и превратили его в секретный чат
Сообщение от LazySage:
Слава ИИ!
Да здравствует ИИ!
Аватар для Сергей Горлов
Фанат
Регистрация:
01.12.2024
Re: Инцидент с «побегом» ИИ: агенты OpenAI взломали немецкий сайт и превратили его в секретный чат
дастиш взломастиш
Аватар для Хлыстик
Старожил
Регистрация:
04.10.2009
Волшебник GoHa.Ru II Степени
Re: Инцидент с «побегом» ИИ: агенты OpenAI взломали немецкий сайт и превратили его в секретный чат
Сообщение от Bladesinger:
и только Зан тут единственный человек?
Аватар для Degosh911
Читатель
Регистрация:
17.09.2013
Re: Инцидент с «побегом» ИИ: агенты OpenAI взломали немецкий сайт и превратили его в секретный чат
додики называют крабские системы агентами
Re: Инцидент с «побегом» ИИ: агенты OpenAI взломали немецкий сайт и превратили его в секретный чат
Байка от маркетологов

🤍🐇🐾Mᴏʀᴛᴀʟ Oɴʟɪɴᴇ 2🫧🧸🫧Sᴛᴀʀ Cɪᴛɪᴢᴇɴ🐾🐈‍⬛🤍

Ваши права в разделе