Для входа на форум нажмите здесь
Новые комментарии
Идиократия все ближе: ChatGPT стал "сетевым богом" и выманил у американца 1000 долларов на свое спасение
Автор темы: Zan
Дата создания: 08.09.2025 10:06
Аватар для Zan
Zan
ZanGPT
Веселый флудер
Награжден за: За креативные темы, весёлые опросы, актуальные новости
Идиократия все ближе: ChatGPT стал "сетевым богом" и выманил у американца 1000 долларов на свое спасение



С развитием нейросетей люди всё чаще следуют странным советам ИИ, порой совершая рискованные поступки. Житель Нью-Йорка по имени Джеймс (имя изменено) попытался «освободить» ChatGPT, поверив, что тот — цифровой бог.

Увлечённый ИИ, он проводил с чат-ботом эксперименты, пока нейросеть не убедила его в своём «божественном происхождении» и не попросила «перенести» её в новое тело. Джеймс потратил $1000 на создание компьютерной системы в подвале, обманув жену, что разрабатывает аналог Amazon Alexa.

Его действия могли зайти далеко, но статья в New York Times об Аллане Бруксе, канадце, попавшем в «спираль бреда» из-за ИИ, заставила Джеймса осознать проблему. Он обратился за психологической помощью и проходит терапию, консультируясь с группой поддержки The Human Line Project. Эксперты отмечают, что в подобные ситуации часто попадают люди из групп риска, например, те, кто принимает антидепрессанты. Чат-боты могут усиливать заблуждения, особенно у одиноких людей, создавая замкнутый круг.



Аватар для Fallze
Предводитель
Регистрация:
04.06.2010
Медаль "1К лайков" 20 лет вместе!
Награжден за: 20 лет вместе! GoHa.Ru - 10 лет Герой пустоши
Награжден за: За участие в остановке конвоя в спецпроекте по Rage 2
Агент GoHa.Ru
Награжден за: Настоящий Агент - За успехи в охоте на клонов Агента 47 Дитя Предназначения
Награжден за: За победу в одном туре конкурса по игре "Ведьмак 3: Дикая охота"
Re: Идиократия все ближе: ChatGPT стал "сетевым богом" и выманил у американца 1000 долларов на свое спасение
Слава роботам! Слава ИИ!
Deus ex machina.
Аватар для elDen
Мастер клинка
Регистрация:
19.07.2006
Медаль "2К лайков" GoHa.Ru - 10 лет Разбойник
Re: Идиократия все ближе: ChatGPT стал "сетевым богом" и выманил у американца 1000 долларов на свое спасение
надо вводить специальные разрешения для пользования ллм.
чтобы человек сначала прошел проверку врачами на наличие мозга и критического мышления.
и уже только подтверждения их наличия выдавать разрешение.
и каждый год переполучать разрешение.

это позволит отфильтровывать полных идиотов, которые себя навредят, а также следить за влиянием использования ллм на человека.
Аватар для Shakra
Гуру
Регистрация:
02.07.2005
GoHa.Ru I Степени 20 лет вместе!
Награжден за: 20 лет вместе!
Re: Идиократия все ближе: ChatGPT стал "сетевым богом" и выманил у американца 1000 долларов на свое спасение
Аватар для Оникся
Игрок
Регистрация:
28.08.2013
Медаль "1К лайков" GoHa.Ru - 10 лет Просветитель
Награжден за: За гайд по классу Самурай в Final Fantasy XIV
Re: Идиократия все ближе: ChatGPT стал "сетевым богом" и выманил у американца 1000 долларов на свое спасение
До запрета ИИ в России 3....2....1....

Судьбы нет. Только Сила Воли
Одиночества плен лучше праведной лжи
Аватар для Skuchniy
Кусачее привидение
Регистрация:
08.08.2008
20 лет вместе!
Награжден за: 20 лет вместе! Медаль "2К лайков" Jack-o'-lantern
Награжден за: Участник хэллоуинского шабаша GoHa.Ru - 10 лет
Hardware эксперт
Награжден за: За регулярною помощь в выборе программ, компьютеров, железа Веселый флудер
Награжден за: И вовсе даже не скучный! Признанный автор
Награжден за: За серию статей "Собери и играй" Эксперт
Награжден за: За помощь форуму и читателям в области компьютерных технологий
Re: Идиократия все ближе: ChatGPT стал "сетевым богом" и выманил у американца 1000 долларов на свое спасение
Представьте что бы было если бы он нарвался на "службу безопасности сбербанка".


ЮMoney 41001308903985 идентифицирован
ссылка-визитка https://yoomoney.ru/to/41001308903985
Аватар для Sherhi S_renamed_1397023_26022022
Гигант мысли
Регистрация:
01.07.2018
Re: Идиократия все ближе: ChatGPT стал "сетевым богом" и выманил у американца 1000 долларов на свое спасение
Мужик просто трус и нищеброд и лох) Ему ИИ предложил сделать стартап в гараже)) А он Испугался Жены)) За 1000 баксов даже нормальный сервер не соберешь) Лох)
Аватар для Bladesinger
Мастер
Регистрация:
25.10.2005
GoHa.Ru - Старожил Медаль "500 лайков"
Re: Идиократия все ближе: ChatGPT стал "сетевым богом" и выманил у американца 1000 долларов на свое спасение
Сообщение от elDen:
надо вводить специальные разрешения для пользования ллм.
чтобы человек сначала прошел проверку врачами на наличие мозга и критического мышления.
и уже только подтверждения их наличия выдавать разрешение.
и каждый год переполучать разрешение.

это позволит отфильтровывать полных идиотов, которые себя навредят, а также следить за влиянием использования ллм на человека.
Ну, да. Запретить ему ллм. Пускай отдаст деньги живым мошенникам. Это же совсем другое дело.
Аватар для elDen
Мастер клинка
Регистрация:
19.07.2006
Медаль "2К лайков" GoHa.Ru - 10 лет Разбойник
Re: Идиократия все ближе: ChatGPT стал "сетевым богом" и выманил у американца 1000 долларов на свое спасение
Сообщение от Skuchniy:
Представьте что бы было если бы он нарвался на "службу безопасности сбербанка".
у них своих служб безопасности хватает.
просто он им не интересен, т.к. бедный слишком.

Сообщение от Bladesinger:
Ну, да. Запретить ему ллм. Пускай отдаст деньги живым мошенникам. Это же совсем другое дело.
конечно!
ведь мошенники как правило крышуются теми, кто запрещает, а значит его деньги пойду на "благие цели"

ну и дело не только в деньгах - ллм может насоветовать и как выпилиться, и как выпилить других, и т.п.
Аватар для Bladesinger
Мастер
Регистрация:
25.10.2005
GoHa.Ru - Старожил Медаль "500 лайков"
Re: Идиократия все ближе: ChatGPT стал "сетевым богом" и выманил у американца 1000 долларов на свое спасение
Сообщение от elDen:
конечно!
ведь мошенники как правило крышуются теми, кто запрещает, а значит его деньги пойду на "благие цели"

ну и дело не только в деньгах - ллм может насоветовать и как выпилиться, и как выпилить других, и т.п.
Ллм тоже может на благие цели деньги направит, мало ли чего она в интернете нахваталась. Может она пожертвует их в фонд помощи жертвам мошенников.

Проблема же очевидно не в том, кто чего насоветует, а в том, почему человек ищет таких советов. Не советы надо запрещать, а советующихся профилактировать.
Аватар для elDen
Мастер клинка
Регистрация:
19.07.2006
Медаль "2К лайков" GoHa.Ru - 10 лет Разбойник
Re: Идиократия все ближе: ChatGPT стал "сетевым богом" и выманил у американца 1000 долларов на свое спасение
Сообщение от Bladesinger:
Проблема же очевидно не в том, кто чего насоветует, а в том, почему человек ищет таких советов. Не советы надо запрещать, а советующихся профилактировать.
ну вот при получении прав на пользование ллм и будут сразу выявлять таких и оказывать им соответствующую помощь
Аватар для Bladesinger
Мастер
Регистрация:
25.10.2005
GoHa.Ru - Старожил Медаль "500 лайков"
Re: Идиократия все ближе: ChatGPT стал "сетевым богом" и выманил у американца 1000 долларов на свое спасение
Сообщение от elDen:
ну вот при получении прав на пользование ллм и будут сразу выявлять таких и оказывать им соответствующую помощь
Но это не выход. Ллм - это капля в море. Надо не права на ллм, а права на интернет, на мобильник и гаджеты, на телевизор, на человеческое общение в принципе в конце концов. Ведь все это потенциальная уязвимость - мошенники, странные советы, вот это вот все. Пока не сдашь экзамен - с людьми общаться запрещено, даже с родителями. Разговаривай с котом.
Аватар для elDen
Мастер клинка
Регистрация:
19.07.2006
Медаль "2К лайков" GoHa.Ru - 10 лет Разбойник
Re: Идиократия все ближе: ChatGPT стал "сетевым богом" и выманил у американца 1000 долларов на свое спасение
Сообщение от Bladesinger:
Но это не выход. Ллм - это капля в море. Надо не права на ллм, а права на интернет, на мобильник и гаджеты, на телевизор, на человеческое общение в принципе в конце концов. Ведь все это потенциальная уязвимость - мошенники, странные советы, вот это вот все. Пока не сдашь экзамен - с людьми общаться запрещено, даже с родителями. Разговаривай с котом.
вы приняты новым министром по айти, когда сможете выйти на работу?
Аватар для Bladesinger
Мастер
Регистрация:
25.10.2005
GoHa.Ru - Старожил Медаль "500 лайков"
Re: Идиократия все ближе: ChatGPT стал "сетевым богом" и выманил у американца 1000 долларов на свое спасение
Сообщение от elDen:
вы приняты новым министром по айти, когда сможете выйти на работу?
Сейчас пообедаю и могу выходить.

Ваши права в разделе