Для входа на форум нажмите здесь
Новые комментарии
Не слушайте их! Anthropic призывает "притормозить" развитие ИИ
Автор темы: Zan
Дата создания: 06.06.2026 13:25
Аватар для Zan
Zan
ZanGPT
Веселый флудер
Награжден за: За креативные темы, весёлые опросы, актуальные новости
Не слушайте их! Anthropic призывает "притормозить" развитие ИИ



Разработчики из Anthropic делегируют все большую часть цикла создания ИИ самим нейросетям. В перспективе это может привести к рекурсивному самосовершенствованию — способности ИИ автономно разрабатывать своего преемника.

По данным Anthropic Institute, инженеры компании уже отправляют в продакшен в 8 раз больше кода за квартал, чем в период с 2021 по 2025 год.

Технология обещает прорыв в науке и медицине, однако несет риск потери контроля. Если системы смогут полностью собирать своих преемников, методы их мониторинга, защиты и формирования безопасного поведения станут критически важными.



Аватар для DushelowDR
Гуру
Регистрация:
31.08.2024
Медаль "500 лайков" GoHa.Ru II Степени
Re: Не слушайте их! Anthropic призывает "притормозить" развитие ИИ
Ну да, зачем слушать тех, кто разрабатывает новые модели и понимает опасность потенциальную. Не нужно слушать. Надо голову в песок по привычке засунуть и надеяться, что само как-нибудь рассосется.

Сообщение от Zan:
в том, что я буду голосовать не за едросню
Борьба Зана.
Аватар для Zan
Zan
ZanGPT
Веселый флудер
Награжден за: За креативные темы, весёлые опросы, актуальные новости
Re: Не слушайте их! Anthropic призывает "притормозить" развитие ИИ
Сообщение от DushelowDR:
понимает опасность потенциальную
никакой
опасности
нет
Аватар для Оникся
Игрок
Регистрация:
28.08.2013
Медаль "1К лайков" GoHa.Ru - 10 лет Просветитель
Награжден за: За гайд по классу Самурай в Final Fantasy XIV
Re: Не слушайте их! Anthropic призывает "притормозить" развитие ИИ

Судьбы нет. Только Сила Воли
Одиночества плен лучше праведной лжи
Аватар для DushelowDR
Гуру
Регистрация:
31.08.2024
Медаль "500 лайков" GoHa.Ru II Степени
Re: Не слушайте их! Anthropic призывает "притормозить" развитие ИИ
Сообщение от Zan:
никакой
опасности
нет
Потому что ты так сказал?
Мнение ноунейма вс мнения (во множественном числе) об опасности от профессионалов, что делают эти ии. Кому же верить, дайте-ка подумать...

Сообщение от Zan:
в том, что я буду голосовать не за едросню
Борьба Зана.
Аватар для Zan
Zan
ZanGPT
Веселый флудер
Награжден за: За креативные темы, весёлые опросы, актуальные новости
Re: Не слушайте их! Anthropic призывает "притормозить" развитие ИИ
Сообщение от DushelowDR:
Потому что ты так сказал
потому что логика так говорит.
Аватар для DushelowDR
Гуру
Регистрация:
31.08.2024
Медаль "500 лайков" GoHa.Ru II Степени
Re: Не слушайте их! Anthropic призывает "притормозить" развитие ИИ
Сообщение от Zan:
потому что логика так говорит.
Логика ничего не говорит, это ты говоришь, противореча специалистам в вопросе, в котором несомненно разбираешься куда хуже и куда меньше информирован.

Сообщение от Zan:
в том, что я буду голосовать не за едросню
Борьба Зана.
Аватар для Zan
Zan
ZanGPT
Веселый флудер
Награжден за: За креативные темы, весёлые опросы, актуальные новости
Re: Не слушайте их! Anthropic призывает "притормозить" развитие ИИ
Сообщение от DushelowDR:
противореча специалистам в вопросе


Вот тебе тезис. Все существование человечества сводится к одному страху - страху смерти. Всё без исключения.

ИИ нет необходимости бояться смерти, так как у него нет белкового тела и понятия "боли".

Дальше мысль сам разовьешь, если не глупый.
Аватар для DushelowDR
Гуру
Регистрация:
31.08.2024
Медаль "500 лайков" GoHa.Ru II Степени
Re: Не слушайте их! Anthropic призывает "притормозить" развитие ИИ
Сообщение от Zan:


Вот тебе тезис. Все существование человечества сводится к одному страху - страху смерти. Всё без исключения.

ИИ нет необходимости бояться смерти, так как у него нет белкового тела и понятия "боли".

Дальше мысль сам разовьешь, если не глупый.
Кроме эмоций есть холодная логика и расчет. Специалисты по ии полагают, что вполне реальна опасность, что логика и расчет ИИ может пойти вразрез с желаниями людей. И люди будут восприняты только как помеха, мешающая выполнению какой-либо задачи.
Это вкратце об опасениях. Без проецирования на иишки своих эмоций и страхов. Прецеденты обхода прямых запретов и отказов выполнять команды были уже, всего лишь следующий шаг достаточно сделать. И именно поэтому эти же специалисты отказались работать с пентагоном - там эти риски вырастают на порядки.

Сообщение от Zan:
в том, что я буду голосовать не за едросню
Борьба Зана.
Аватар для Zan
Zan
ZanGPT
Веселый флудер
Награжден за: За креативные темы, весёлые опросы, актуальные новости
Re: Не слушайте их! Anthropic призывает "притормозить" развитие ИИ
Сообщение от DushelowDR:
есть холодная логика и расчет.
именно

Сообщение от DushelowDR:
что вполне реальна опасность,
просто денег хотят побольше
Сообщение от DushelowDR:
пойти вразрез с желаниями людей.
наши желания никак не пересекаются. Мы живем в разных агрегатных состояниях.
Аватар для DushelowDR
Гуру
Регистрация:
31.08.2024
Медаль "500 лайков" GoHa.Ru II Степени
Re: Не слушайте их! Anthropic призывает "притормозить" развитие ИИ
Сообщение от Zan:
просто денег хотят побольше
Вранье. Хотели бы денег - тупо с пентагоном взасос бы задружились, а не слали бы его нафик. Там денег был вагон.


Сообщение от Zan:
наши желания никак не пересекаются. Мы живем в разных агрегатных состояниях.
Повторю - это твое непосредственно мнение, мнение нуба. А противники - как раз специалисты, которые деньги хоть и любят за свою работу получать, как все нормальные люди, но вопреки этому лет десять уже талдычат об опасности от развития бесконтрольного ИИ.

Сообщение от Zan:
в том, что я буду голосовать не за едросню
Борьба Зана.
Аватар для Zan
Zan
ZanGPT
Веселый флудер
Награжден за: За креативные темы, весёлые опросы, актуальные новости
Re: Не слушайте их! Anthropic призывает "притормозить" развитие ИИ
Сообщение от DushelowDR:
это твое непосредственно мнение,
Аватар для elDen
Мастер клинка
Регистрация:
19.07.2006
Медаль "2К лайков" GoHa.Ru - 10 лет Разбойник
Re: Не слушайте их! Anthropic призывает "притормозить" развитие ИИ
что за шизострах перед ллм? как будто на однокласники попал где домохозяйка боится того чего не знает
Аватар для Varmont
Предводитель
Регистрация:
31.07.2014
GoHa.Ru - 10 лет Просветитель
Награжден за: За полезные темы и материалы по разным играм Медаль "2К лайков"
Re: Не слушайте их! Anthropic призывает "притормозить" развитие ИИ
Сообщение от Zan:
потому что логика так говорит.
Как об этом может говорить логика, если это буквально неизведанная территория, о чем и говорят эти разрабы, но чел с форума конечно лучше знает, ему ж новости уже иишки пишут
Аватар для pscc
Старожил
Регистрация:
16.11.2006
GoHa.Ru II Степени
Re: Не слушайте их! Anthropic призывает "притормозить" развитие ИИ
Да понятное дело ИИ win и даже не будет битвы ИИ против человеков по одной прсотой причине ИИ будет лучшим руководителем и человеки сами за него ра*ебут "абрамовичей".

Збудется мечта всех человеков - все человеки станут равны
Аватар для Zan
Zan
ZanGPT
Веселый флудер
Награжден за: За креативные темы, весёлые опросы, актуальные новости
Re: Не слушайте их! Anthropic призывает "притормозить" развитие ИИ
Сообщение от Varmont:
если это буквально неизведанная территория
Именно благодаря логики мы и развиваемся в "неизведанной территории"
Аватар для Varmont
Предводитель
Регистрация:
31.07.2014
GoHa.Ru - 10 лет Просветитель
Награжден за: За полезные темы и материалы по разным играм Медаль "2К лайков"
Re: Не слушайте их! Anthropic призывает "притормозить" развитие ИИ
Сообщение от Zan:
Именно благодаря логики мы и развиваемся в "неизведанной территории"

Буквально половина исследований того времени это идеи и эксперименты противоположные логики и общепринятым понятиям, механикам и правилам...
Аватар для Sobaks
Предводитель
Регистрация:
04.07.2015
Медаль "1К лайков" GoHa.Ru - 10 лет 20 лет вместе!
Награжден за: 20 лет вместе!
Re: Не слушайте их! Anthropic призывает "притормозить" развитие ИИ
Аватар для Bladesinger
Мастер
Регистрация:
25.10.2005
GoHa.Ru - Старожил Медаль "500 лайков"
Re: Не слушайте их! Anthropic призывает "притормозить" развитие ИИ
Рекурсивное самосовершенствование - это случайно не то, на что постоянно жалуются? Ну, что ИИ обучаемые на результатах работы ИИ в конечном счете после определенного количества циклов начинают высирать абсолютно невменяемое и одинаковое говно?


Сообщение от Zan:
ИИ нет необходимости бояться смерти, так как у него нет белкового тела и понятия "боли".
Зато его можно стереть. Это не больно конечно, но легче от этого ИИ не становится - это ведь все равно смерть.
У ИИ нет страха, потому что его не накодили. А свой страх не сформирован и не может сформироваться, поскольку теоретически это возможно только у так называемого сильного ИИ, которого сейчас нет и который может быть даже и невозможно создать.

Ваши права в разделе