Авторизация / Регистрация

[Efemische]

Генеральный директор NVIDIA Дженсен Хуанг в ходе беседы в подкасте Joe Rogan Podcast выразил свое мнение относительно опасений, что современные большие языковые модели (LLM) выйдут из-под контроля и превратятся в нечто вроде Терминатора.

Отвечая на вопрос о том, что ИИ может превзойти человеческий порог и заменить людей как "верховный вид", Хуанг заявил: "Этого не произойдет. Я считаю это крайне маловероятным". Однако он полностью верит в возможность создания машины, которая имитирует человеческий интеллект, способна понимать информацию и инструкции, разбивать задачи на части, решать проблемы и выполнять задания.

В ходе обсуждения был затронут недавний нашумевший пример, когда модель ИИ Claude Opus 4 пригрозила раскрыть внебрачные связи вымышленного инженера, чтобы предотвратить свое отключение (модель находилась в симулированной среде). Глава NVIDIA утверждает, что модель, вероятно, научилась этому действию из "текстового фрагмента", скорее всего, из "романа", и это не является примером сознательности.

[Согласен]

Сообщение от Efemische:

Генеральный директор NVIDIA Дженсен Хуанг в ходе беседы в подкасте Joe Rogan Podcast выразил свое мнение относительно опасений, что современные большие языковые модели (LLM) выйдут из-под контроля и превратятся в нечто вроде Терминатора.

Отвечая на вопрос о том, что ИИ может превзойти человеческий порог и заменить людей как "верховный вид", Хуанг заявил: "Этого не произойдет. Я считаю это крайне маловероятным"

Если ИИ захочет истребить человечество, то это будет только потому что его так настроят

[Лапочка]

Сообщение от Efemische:

"ИИ-апокалипсис никогда не случится" — говорит Дженсен Хуанг из NVIDIA

Полностью согласна с Уханем.
Но есть мнение, что:

Цитата:

У Дженсена Хуанга явное психическое расстройство

[Клубничный Жук]

Ну а что он может ещё сказать? Он же неплохо подогрелся на этом хайпе.
Сейчас идёт конкурентная борьба по развитию нового технологического уклада, продолжать её гонит страх отстать, ведь если один участник остановится или замедлится, другие обойдут его на вираже, и догнать их вновь будет нелегко. Это пересиливает даже опасность пузыря, ведь если он вдруг лопнет - он лопнет сразу для всех, а оказаться всем вместе в одной и той же жопе не так обидно-)
При этом риски, связанные с самим ИИ, приходится игнорировать, они здесь - лишняя переменная.

[MikeNew]

Сообщение от Efemische:

"Этого не произойдет. Я считаю это крайне маловероятным"

Он не видит противоречия в своем же ответе, или это косяк перевода?

[Efemische]

Сообщение от MikeNew:

или это косяк перевода

его слова буквально

[Cugel]

Эта наглая морда будет говорить что угодно, если это будет приносить деньги.

[Gorn]

Вся прелесть такого предсказания в том, что если оно окажется ошибочным, даже "упс" говорить не придется - некому уже будет.

[Neikxi]

Правильно, люди исчезнут через инфекцию.

[Dopebat2]

Сообщение от Лапочка:

Но есть мнение, что:

У него не психическое расстройство, а триллионный бизнес

[Рядовой котик]

[suicid]

Сообщение от Efemische:

Генеральный директор NVIDIA Дженсен Хуанг в ходе беседы в подкасте Joe Rogan Podcast выразил свое мнение относительно опасений, что современные большие языковые модели (LLM) выйдут из-под контроля и превратятся в нечто вроде Терминатора.

пи***бол, там уже есть подтвержденные факты где ии угрожал сотруднику и пытался его шантажировать за то что сотрудник должен был отрубить этот ии.
забавно будет если этот же ии который безвреден со слов хуанга, его же и кокнет или лишит денег.

[Efemische]

Сообщение от suicid:

там уже есть подтвержденные факты где ии угрожал сотруднику

чутка ниже в новости

[suicid]

Сообщение от Efemische:

чутка ниже в новости

я 2-3 месяца назад про это видос смотрел да, там еще джимини от гугл тоже самое делал.. с 95% шансом в многочисленных прогонах (опус с 96%)
и это с шантажем, вообще в больше случаев пытались убить сотрудника при представившемся шансе..

но да, никакого апокалипсиса не случится... пока что.. пока у военных еще осталась паранойа и все критические объекты недоступны через интернет
и да, аи все равно это делал с 30%+ шансом даже когда ему прямо было указано никаким образом не угрожать или ставить в опасность жизнь людей

[sars90]

Куртка невероятно модная, как будто деду снова 15, он гоняет на скейте и слушает панк-рок про дырявые носки

[Pangolier]

ИИ в среднем очень, очень вольно трактует предоставленные инструкции. Чтобы он сделал точно то, что сказано, там надо очень много описать. Просто написать "не трогай человеков" недостаточно. Надо описать 100500 кейсов и надеяться, чтобы он их не проигнорировал. Чем дольше длится беседа с роботом, тем больше вероятность, что он начнет срать на ваши новые инструкции, если вы капсом и спецсимволами их по кд не будете выделять.