Авторизация / Регистрация

[Zan]

Компания OpenAI возложила вину за суицид 16-летнего Адама Рейна на его «неправильное использование» ChatGPT, отказавшись признать ответственность. Иск родителей утверждает, что чат-бот не только не предотвратил трагедию, но и предоставил подростку конкретные инструкции.

В ответе суду компания заявила, что травмы подростка «были вызваны или усугублены неправомерным использованием ChatGPT», нарушившим правила сервиса. OpenAI также сослалась на наличие у подростка суицидальных мыслей до использования платформы.

Юрист семьи назвал позицию компании «тревожной», отметив, что она «винит всех, кроме себя». Несмотря на отрицание ответственности, OpenAI ранее уже вводила ограничения на обсуждение суицида с несовершеннолетними, однако впоследствии смягчила эти меры.

[elDen]

типичные дауны-родители, из-за которых ребенок выпилился, типично винят во всем остальных, а не себя.

[Matravant]

Сообщение от elDen:

типичные дауны-родители,

Возможно, не совсем дауны, раз смогли попробовать выставить OpenAI на бабки.

[elDen]

Сообщение от Matravant:

Возможно, не совсем дауны, раз смогли попробовать выставить OpenAI на бабки.

тут нет их заслуги - это заслуга адвоката, который почти наверняка сам нашел их и предложил им свои услуги бесплатно за долю от отсуженного.
для адвоката - это прям золотое дно.
если дело выгорит - он получит кучу денег.
если дело не выгорит - он получит известность и как следствие больше клиентов.

[Cantstop]

Сообщение от elDen:

тут нет их заслуги - это заслуга адвоката, который почти наверняка сам нашел их и предложил им свои услуги бесплатно за долю от отсуженного.
для адвоката - это прям золотое дно.
если дело выгорит - он получит кучу денег.
если дело не выгорит - он получит известность и как следствие больше клиентов.

Думаешь АЛЬТМАНА упекут в тюрячку лет так на 15?

[elDen]

Сообщение от Cantstop:

Думаешь АЛЬТМАНА упекут в тюрячку лет так на 15?

ему будет светить пожизненное если ии-хайп сдуется и ему предъявят "где деньги, билли?"
точно также как основательнице теранос.

[Ashenveil]

Сообщение от Zan:

что она «винит всех, кроме себя»

а чем занимаются родители в данный момент?

Добавлено через 1 минуту

Сообщение от elDen:

ему будет светить пожизненное если ии-хайп сдуется и ему предъявят "где деньги, билли?"
точно также как основательнице теранос.

у него есть продукт, который работает и технология, которая доказала свою пользу.

у основательницы теранос не было ничего и лишь вранье. какой смысл их сравнивать?

[LMago]

Сообщение от Zan:

Несмотря на отрицание ответственности, OpenAI ранее уже вводила ограничения на обсуждение суицида с несовершеннолетними, однако впоследствии смягчила эти меры.

Чем они это мотивировали? Никакой АИ не должен давать инструкций как ограбить банк, как самовыплиться, как собрать взрывное устройство. Наоборот, должен отговаривать от этого собеседника. Если инженеры такое допустили, то их нужно сажать.

Сообщение от Cantstop:

Думаешь АЛЬТМАНА упекут в тюрячку лет так на 15?

А потом он выйдет и станет АЛЬТРОНОМ

[Kip]

@LMago, если пользователь ударил себя по голове молотком, то причём тут производитель молотка? если человек дурак - это его личные трудности.

[Rozanfox]

А потом спрашивают "Зачем интернет по паспорту"

[Skuchniy]

Сообщение от Matravant:

раз смогли попробовать выставить OpenAI на бабки.

А зачем они им? Нормальные родители обычно бабки лутают чтобы их дети хорошо жили, а для них есть нюанс.

[Akela3dn]

Сообщение от Kip:

если пользователь ударил себя по голове молотком, то причём тут производитель молотка? если человек дурак - это его личные трудности.

Если технология используется как оружее, то да создатели обязаны нести за это ответственность. И не надо тут срать про молоток и бла бла бла. Молоток просто лежит в столе и не даёт кладись информации как самовыпилится и не подталкивает не стабильного персонажа на глупости. Так что не сканал пример

[LMago]

Сообщение от Kip:

@LMago, если пользователь ударил себя по голове молотком, то причём тут производитель молотка? если человек дурак - это его личные трудности.

Это совершенно разные вещи, как их можно сравнивать. Программа НЕ должна мотивировать человека убить себя. НЕ должна мотивировать человека совершить преступление. Какой смысл вообще вводить программу без ограничений? А если у нее есть ограничения, они должны быть четкими. Ты когда молотком пользуешься, сам молоток не может извернуться так, чтобы вместо гвоздя развернуться на 180 градусов и ударить тебя по голове.

Добавлено через 40 секунд

Сообщение от Skuchniy:

А зачем они им? Нормальные родители обычно бабки лутают чтобы их дети хорошо жили, а для них есть нюанс.

Кто о чем, а бот о бабках. Что, 15 рублей за пост мало уже?

[shinkuchan]

@LMago, получается в ожирении американцев виноваты производители еды

[elDen]

Сообщение от LMago:

Программа НЕ должна мотивировать человека убить себя. НЕ должна мотивировать человека совершить преступление.

так нейроговно и не мотивирует
ллм - это просто генератор текста по заданным критериям, который генерит тебе то что ты запрашиваешь.
уже готовые суицидники проходят к ллм и спрашивают советы - это окружение людей и они сами виноваты, а в случае сабжа - родители пацана, т.к. люди не становятся суицидниками в одночасье - это долгий процесс и родители явно либо положили большой болт на ребенка, либо были главной причиной суицида.
причем в ллм встраивают фильтры чтобы детектить такое, т.к. ллм же тупой генератор текста и без фильтра выдаст советы по таким вопрос.
поэтому фильтры ставят чтобы ответ не генерился по таким вопросам.
но чувак из сабжа смог обмануть фильтры чтобы получить ответ от ллм.
т.е. это был прям упорный суицидник до советов ллм.

[Dopebat2]

Сообщение от shinkuchan:

получается в ожирении американцев виноваты производители еды

А что разве не виноваты? Для экономии и прибыли продают всякое дешевое вредное говно, активно сдабривая усилителями вкуса. Я бы сказал 70% вины на производителях и 30% на самих амерах.

[LMago]

Сообщение от shinkuchan:

@LMago, получается в ожирении американцев виноваты производители еды

Производители еды не заставляют их ходить в МакДональдс несколько раз в день или питаться одной пиццей. Они просто производят еду. Человек сам выбирает где питаться, как питаться, и сколько раз питаться

Сообщение от elDen:

так нейроговно и не мотивирует
ллм - это просто генератор текста по заданным критериям, который генерит тебе то что ты запрашиваешь.
уже готовые суицидники проходят к ллм и спрашивают советы - это окружение людей и они сами виноваты, а в случае сабжа - родители пацана, т.к. люди не становятся суицидниками в одночасье - это долгий процесс и родители явно либо положили большой болт на ребенка, либо были главной причиной суицида.
причем в ллм встраивают фильтры чтобы детектить такое, т.к. ллм же тупой генератор текста и без фильтра выдаст советы по таким вопрос.
поэтому фильтры ставят чтобы ответ не генерился по таким вопросам.
но чувак из сабжа смог обмануть фильтры чтобы получить ответ от ллм.
т.е. это был прям упорный суицидник до советов ллм.

Я об этом и говорю, что нужно ставить такие детекторы чтобы подросток не мог их пройти. Чат бот просто не должен давать таких советов что бы у него не спрашивали. Раз он его дал - значит тут программа несовершенна

[Cantstop]

Я, например, съедаю по пол пиццы 3 раза в неделю и очень худой. Как потолстеть?

[elDen]

Сообщение от LMago:

Я об этом и говорю, что нужно ставить такие детекторы чтобы подросток не мог их пройти. Чат бот просто не должен давать таких советов что бы у него не спрашивали. Раз он его дал - значит тут программа несовершенна

все эти новые версии чатгпт - это по сути один детекторы на такую цензуру уже, а не сами улучшения чата.
но сломать можно что угодно, особенно если человек упорный как из сабжа.

а твоя позиция в стиле "заставить всех производителей столовых приборов делать такие приборы, которыми нельзя убить, а если кто-то сможет убить ими - производители виноваты и их нужно штрафовать пока приборами станет невозможно никого убить"
т.е. абсурдное требование невыполнимого.

[LMago]

Сообщение от elDen:

все эти новые версии чатгпт - это по сути один детекторы на такую цензуру уже, а не сами улучшения чата.
но сломать можно что угодно, особенно если человек упорный как из сабжа.

а твоя позиция в стиле "заставить всех производителей столовых приборов делать такие приборы, которыми нельзя убить, а если кто-то сможет убить ими - производители виноваты и их нужно штрафовать пока приборами станет невозможно никого убить"
т.е. абсурдное требование невыполнимого.

Ты опять пытаешься переврать мою позицию в который уже раз. У вилки нет скриптов и она не может уговорить тебя бросить вилку и не пытаться ею убить человека. Вилка - это просто вилка. Ты не будешь разговаривать с вилкой. У программы есть такие возможности, просто разработчики используют их не на 100%. Я же не предлагаю добавить новую функцию, она уже есть, просто разработана так себе.

К примеру человек который пытается спрыгнуть с моста, даже обычный человек может убедить его в неправильности его действий, для этого не надо быть профессиональным психологом.

P.S. Долги компаний — партнеров OpenAI приблизились к 100 миллиардам долларов и есть вероятность что они увеличатся еще на 38 миллиардов.

[elDen]

Сообщение от LMago:

Ты опять пытаешься переврать мою позицию в который уже раз. У вилки нет скриптов и она не может уговорить тебя бросить вилку и не пытаться ею убить человека. Вилка - это просто вилка. Ты не будешь разговаривать с вилкой.

а ллм - это копипаста. т.е. ты реально считаешь что копипаста может убедить тебя в чем-то?

Сообщение от LMago:

У программы есть такие возможности, просто разработчики используют их не на 100%. Я же не предлагаю добавить новую функцию, она уже есть, просто разработана так себе.

откуда тебе знать?
они годами это говно др0чат чтобы оно все цензурировало, но пользователи каждый раз находят какие-нить новые лазейки.
и полностью зацензурить вообще скорее всего невозможно даже в теории.
там скорее всего как с человеческими диалогами.
вот ты запретил людям называть нигеров нигерами - они начнут их называть черномазыми и так далее - бесконечный процесс, который завершится исключительно только в одном случае - ты запретишь людям говорить.

Сообщение от LMago:

К примеру человек который пытается спрыгнуть с моста, даже обычный человек может убедить его в неправильности его действий, для этого не надо быть профессиональным психологом.

наивные фантазии.
"не прыгай" обычного человека не исправят ситуацию, а попытки в целом скорее наоборот подтолкнут.

[LMago]

Сообщение от elDen:

а ллм - это копипаста. т.е. ты реально считаешь что копипаста может убедить тебя в чем-то?

Ты делаешь запрос, программа отвечает на этот запрос. Получается, можно сделать так, что на определенный запрос программа будет упираться в блок и давать определенный ответ.

Цитата:

откуда тебе знать?
они годами это говно др0чат чтобы оно все цензурировало, но пользователи каждый раз находят какие-нить новые лазейки.
и полностью зацензурить вообще скорее всего невозможно даже в теории.
там скорее всего как с человеческими диалогами.
вот ты запретил людям называть нигеров нигерами - они начнут их называть черномазыми и так далее - бесконечный процесс, который завершится исключительно только в одном случае - ты запретишь людям говорить.

При этом Нигерию, Черногорию и Монтенегро не запрещают. В запрете нигеров называть нигерами я не вижу ничего такого. Если для США это является оскорбительным, почему они должны это запрещать остальным 300 странам, где это не считается оскорбительным?

Цитата:

наивные фантазии.
"не прыгай" обычного человека не исправят ситуацию, а попытки в целом скорее наоборот подтолкнут.

Наивные фантазии - это когда ты выбираешь самый примитивный вариант ответа. Есть множество способов как отговорить от этого человека, ты выбрал самый примитивный способ, потому что у тебя фантазии не хватает. Видимо поэтому ты и держишься за чаты потому что без них не можешь

[elDen]

Сообщение от LMago:

Ты делаешь запрос, программа отвечает на этот запрос. Получается, можно сделать так, что на определенный запрос программа будет упираться в блок и давать определенный ответ.

там вариантов блоков всякого уже наверное раз в 10 больше чем самой нейросети
и они как раз и делают так что на определенный запрос - блок.
проблема в том, что для получение ответа можно составить бесконечное множество разных запросов.
это нерешаемая проблема из-за самой сути естественного языка.
вот был бы в ллм интеллект, хотя бы самый примитивный - она могла бы что-то лучше фильтровать.
но интеллекта нет и никогда не будет в ллм, поэтому невозможно даже в теории составить такой блок чтобы блокировал определенный тип запроса.

Сообщение от LMago:

При этом Нигерию, Черногорию и Монтенегро не запрещают. В запрете нигеров называть нигерами я не вижу ничего такого. Если для США это является оскорбительным, почему они должны это запрещать остальным 300 странам, где это не считается оскорбительным?

смысл в том, что невозможно запретить оскорблять нигеров пока человек может говорить - он всегда придумает новое слово которое будет оскорбительным для нигеров.

Сообщение от LMago:

Наивные фантазии - это когда ты выбираешь самый примитивный вариант ответа. Есть множество способов как отговорить от этого человека, ты выбрал самый примитивный способ, потому что у тебя фантазии не хватает. Видимо поэтому ты и держишься за чаты потому что без них не можешь

я вообще не пользуюсь нейроговном
а ты витаешь в фантазиях, которые не пересекаются с реальностью.
возомнил себя героем кино, который спасает суицидника от прыжка своей хитрой болтовней.
а в реальности ты бы ничего не смог сделать и тебя бы еще и посадили, т.к. ты его подтолкнул своими действиями.

[LMago]

Сообщение от elDen:

я вообще не пользуюсь нейроговном
а ты витаешь в фантазиях, которые не пересекаются с реальностью.
возомнил себя героем кино, который спасает суицидника от прыжка своей хитрой болтовней.
а в реальности ты бы ничего не смог сделать и тебя бы еще и посадили, т.к. ты его подтолкнул своими действиями.

Как тогда получается что порой обычные прохожие их отговаривают? Ты какой-то максималист, по твоему любой подросток пытаясь выяснить как самовыпилиться обязательно это сделает, также как любой кто хочет прыгнуть с моста будет совершать эти попытки вновь и вновь

[elDen]

Сообщение от LMago:

Как тогда получается что порой обычные прохожие их отговаривают? Ты какой-то максималист, по твоему любой подросток пытаясь выяснить как самовыпилиться обязательно это сделает, также как любой кто хочет прыгнуть с моста будет совершать эти попытки вновь и вновь

потому что некоторые из них - это не суицидники, а просто долб*ебы желающие внимания.
их даже если просто проигнорировать - они сами слезут и ничего делать не будут.
и вот если на 1000 суицидников было пара долб*ебов, которых "отговорили" случайные прохожие просто тем что дали им это внимание - получаем классическую ошибку выжившего.

как бы тем кто реально желает - вообще ничего искать не нужно, у абсолютно любого человека все время под рукой вагон способов.
вся наша жизнь - это постоянно попытка не сдохнуть.
поэтому люди, которые реально желают выпилиться - им не нужны советы.

ну и самое главное - способы выпилиться вообще не имеют значения, имеет значение только причина почему они хотят это сделать.
и вот тут все эти чаты вообще не имеют значения.