Авторизация / Регистрация

[Zan]

OpenAI объявила, что ChatGPT будет сообщать полиции о пользователях, делящихся планами преступлений. Запросы, связанные с потенциальным вредом, передаются команде специалистов, которые вручную анализируют их и могут связаться с правоохранителями.

«Если мы выявляем пользователей, планирующих нанести вред, их сообщения направляются в специальную группу, обученную нашим правилам. Команда может заблокировать аккаунты, а при угрозе серьёзного физического вреда — передать информацию в полицию. Случаи «самоповреждения» не передаются, чтобы сохранить конфиденциальность общения», — поясняет OpenAI.

[Altwazar]

Сообщение от Zan:

Запросы, связанные с потенциальным вредом, передаются команде специалистов, которые вручную анализируют их и могут связаться с правоохранителями.

Команде низкоквалифицированных рабочих на галерах с KPI, так точнее будет

[Клубничный Жук]

@Altwazar, да и сам чат это миллион индусов, вручную работающих с запросами-))

[DrSlon]

Фу это какой то клятый мордорский чатгпт. Куда вы дели правильный демократический? Заню геть!

[elDen]

во они там охренеют когда какие-нить двачеры решат специально завалить чатгпт подобными разговорами

[Kaznilka]

а вот и причина:

Бывший сотрудник Yahoo Стайн-Эрик Сольберг убил свою мать, а затем покончил с собой; возможно, это первый зафиксированный случай, когда психически нестабильный человек совершил убийство под влиянием искусственного интеллекта — The Wall Street Journal

56-летний Сольберг жил с матерью после развода и попытки самоубийства, а также страдал паранойей. Чат-бот ChatGPT от компании OpenAI, которого мужчина называл «Бобби», поддерживал его и писал ему, что он не сумасшедший. В частности, нейросеть соглашалась, что мать Сольберга может быть в заговоре со спецслужбами, а в их принтер могло быть встроено устройство для слежки.

Незадолго до убийства, пишет WSJ, Сольберг спросил у «Бобби», встретятся ли они после смерти, на что нейросеть ответила утвердительно. В OpenAI рассказали изданию, что «глубоко опечалены этим трагическим событием», находятся в контакте в полицией, а чат-бот призывал мужчину обратиться к специалистам.

Тела мужчины и его матери были обнаружены в доме в деревне Олд-Гринвич в США в начале августа. В конце августа OpenAI заявила, что «мы продолжаем совершенствовать то, как наши модели распознают и реагируют на признаки психического и эмоционального стресса и помогают людям получить необходимую поддержку».

[MyTAHT]

Родители подростка, который покончил с собой в США после общения с ChatGPT, подали в суд на разработавшую чат-бот компанию OpenAI и ее гендиректора Сэма Альтмана. Согласно иску, поданному в суд в Сан-Франциско, 16-летний Адам Рейн скончался 11 апреля после того, как в течение нескольких месяцев обсуждал вопрос о самоубийстве с ChatGPT. В иске сказано, что ChatGPT «активно помогал Адаму изучать способы самоубийства», а также предложил помощь в составлении предсмертной записки. По мнению истцов, OpenAI сознательно поставила прибыль выше безопасности, когда в прошлом году запустила новую модель нейросети GPT-4о