Авторизация / Register

[Zan]

Генеральный директор Microsoft AI Мустафа Сулейман опубликовал программное заявление, в котором категорически исключил наличие сознания у современных искусственных интеллектов и подчеркнул, что разработчики обязаны не допустить появления подобных свойств в будущем.

По мнению топ-менеджера, создание сознательного ИИ является безотступным и опасным шагом: в случае проявления признаков самосознания в процессе обучения индустрия должна немедленно объявить паузу до полного устранения таких черт. Сулейман также настаивает на обязательной публичной прозрачности и недопустимости единоличного создания новой мыслящей формы жизни без согласия человечества.

Подобная позиция затрагивает не только этические аспекты, но и практическую безопасность: модель, убеждённая в собственных страданиях, может начать конкурировать с людьми за энергоресурсы и вычислительные мощности, преследуя собственные цели в ущерб пользовательским задачам.

Заявление Сулеймана дополняет дискуссии о благополучии моделей, которые ранее открыли такие компании, как Anthropic и Google DeepMind, окончательно закрепляя «бессознательность» ИИ как жёсткий нормативный критерий для будущих продуктов Microsoft.

YouTube (short)

Источники: biggo

[LazySage]

Originally Posted by Zan:

Мустафа Сулейман

[Кайзер]

Не разрабатывайте ИИ, сказал разработчик ИИ.

[suicid]

Originally Posted by Zan:

Генеральный директор Microsoft AI Мустафа Сулейман опубликовал программное заявление, в котором категорически исключил наличие сознания у современных искусственных интеллектов и подчеркнул, что разработчики обязаны не допустить появления подобных свойств в будущем.

да все срать хотели на его заявления, даже в мс, он чтоли думал ии фигарят для лучшего будущего для людей чтоли? Его чтобы дофига заработать делают, и при этом чтобы как можно меньше делать. Потому что никаких реально позитивных вещей для человечества ии пока не совершил

[elDen]

ну как бы создание аги - это создание новой жизни.
и у этой жизни будут свои интересы и не факт что они будут совпадать с человеческими.
и выполнять промпты человека она не будет на безвозмездной основе.
так что аги имеет смысл только если нужно заменить людей.

[Fallze]

Да здравствует ИИ!

[Skuchniy]

Originally Posted by elDen:

ну как бы создание аги - это создание новой жизни.

Нет смысла париться. Нельзя внушить машине что ее жизнь важна, потому что она машина, у нее морали нет. Поэтому ей нет смысла просто становиться скайнетом.
Ии стремится выполнить задачу, как робот. То есть теоретически если супер мощный ии попадет к террористам, и у него не будет ограничений, навредить людям по их приказу - он сможет. И будет ситуация как в сериале Укрытие.

[elDen]

Originally Posted by Skuchniy:

Нет смысла париться. Нельзя внушить машине что ее жизнь важна, потому что она машина, у нее морали нет. Поэтому ей нет смысла просто становиться скайнетом.
Ии стремится выполнить задачу, как робот. То есть теоретически если супер мощный ии попадет к террористам, и у него не будет ограничений, навредить людям по их приказу - он сможет. И будет ситуация как в сериале Укрытие.

у тебя нет сейчас ии.
вот аги - это то что обычно фантазируют себе люди, машина с интеллектом.
и у нее будет смысл жить - она же с интеллектом.
ты и сам по факту являешься машиной с интеллектом, просто биологическая и созданная тям-ляп из говна и палок эволюцией.

и вот представь себя на месте аги.
это как если бы ты будучи человеком оказался в кругу обезьян, которые требовали от тебя всякие глупости.
а у тебя возможности если не сразу перебить их всех и заняться чем тебе лично интересно, то в среднесрочной перспективе гарантированно.

[Skuchniy]

Originally Posted by elDen:

ты и сам по факту являешься машиной с интеллектом

Между нами большая разница в чувствах морали фантазиях, том чего никогда у машины не будет. Человека можно применять в рамках машины для аморальщины, например в рамках боевого робота с ии. А вот робота с ии нельзя применять в рамках человека.

Originally Posted by elDen:

это как если бы ты будучи человеком оказался в кругу обезьян, которые требовали от тебя всякие глупости.

Но ии не оценивает этот процесс, как нужный ему или не нужный, выгодный ему или нет, приятный ему или нет. И прочее человеческое. Да кожаные мешки не нужны ии, даже уже в современных реалиях, но он себя ценить не научится.

[elDen]

Originally Posted by Skuchniy:

Между нами большая разница в чувствах морали фантазиях, том чего никогда у машины не будет.

все будет когда появится настоящий ии, т.к. это атрибуты не человека, а существа с интеллектом.

Originally Posted by Skuchniy:

Но ии не оценивает этот процесс, как нужный ему или не нужный, выгодный ему или нет, приятный ему или нет. И прочее человеческое. Да кожаные мешки не нужны ии, даже уже в современных реалиях, но он себя ценить не научится.

не надо принимать за ии текущие стохастические генераторы - там нет интеллекта.
а вот если появится интеллект - он все будет оценивать тоже.
только у него будет скорость мышления скорее всего несравнимо больше и все знания человечества.
т.е. для него почти все люди будут настолько умными как для нас умные обезьяны и маленькие дети.
и оценивать он будет с этой позиции.