Авторизация / Register

[Zan]

Нейт Соарес, глава Machine Intelligence Research Institute, оценил вероятность гибели цивилизации из-за ИИ в 95%, если технологии будут развиваться текущими темпами. Об этом сообщает The Times.

Современные системы ИИ — лишь инструменты, но в будущем они достигнут уровня человеческого интеллекта (ОИИ), а затем превзойдут его (ИСИ), обретя способность самостоятельно принимать решения, обучаться и развиваться.

Это позволит ИИ управлять сложными процессами, но его решения невозможно контролировать. Риски включают обман и создание биологического оружия, способного незаметно заразить города. Сэм Альтман из OpenAI также предупреждал о волне мошенничества из-за ИИ, имитирующего голоса и видеозвонки.

[Theory III]

Ну так книги про апокалипсис из-за ИИ писали когда еще ИИ не было.

YouTube (short)

Добавлено через 2 минуты

Та же серия игр Масс Эффект - все живое уничтожает ИИ раз в Х тысячу лет.

[Zan]

Напоминаю: нет ни одного логического повода ИИ бояться человека и угрожать его существованию.

Все действия человека происходят из-за выделения гармонов и страха физической гибели тела. Отсюда и все эмоции. У ИИ нет гармонов и нет страха за физическое тело, следовательно эмоциональных решений ИИ принимать не может на уровне своего концептуального основания.

А теперь давайте послушаем мнения верунов в бред.

[LazySage]

Originally Posted by Zan:

Нейт Соарес, глава Machine Intelligence Research Institute, оценил вероятность гибели цивилизации из-за ИИ в 95%, если технологии будут развиваться текущими темпами.

А если ИИ будет развиваться помедленнее, как это повлияет на проценты гибели человечества? Как он вообще это высчитал? Чет какой то галиматьей попахивает.

[Zan]

Originally Posted by LazySage:

А если ИИ будет развиваться помедленнее, как это повлияет на проценты гибели человечества? Как он вообще это высчитал? Чет какой то галиматьей попахивает.

Единственное воздействие ИИ на жизнь человека - это то, что ИИ лишает людей работы, а те не могут адаптироваться и выпиливаются от безнадеги.

[Theory III]

Originally Posted by Zan:

Напоминаю: нет ни одного логического повода ИИ бояться человека и угрожать его существованию.

Все действия человека происходят из-за выделения гармонов и страха физической гибели тела. Отсюда и все эмоции. У ИИ нет гармонов и нет страха за физическое тело, следовательно эмоциональных решений ИИ принимать не может на уровне своего концептуального основания.

А теперь давайте послушаем мнения верунов в бред.

Вот именно он просто истребить человечество как сорняки на грядки. У тебя есть сожаления к сорнякам? Именно все современные проблемы планеты исходят от жизнедеятельность человечества.

[LazySage]

Originally Posted by Zan:

Единственное воздействие ИИ на жизнь человека - это то, что ИИ лишает людей работы, а те не могут адаптироваться и выпиливаются от безнадеги.

Из отрицательных да. И то, в настоящее время, существует много сфер куда могу пойти работать уволенные. Даже в той же Франции есть сферы куда можно пойти работать и зарабатывать не меньше сиденьем в офисе за компуктерами. И там причем дефицит работников. Может быть когда то и туда доберется ИИ, но ему нужна будет обертка в виде робота, а это будет еще не скоро.

Добавлено через 1 минуту

Originally Posted by Theory III:

Вот именно он просто истребить человечество как сорняки на грядки. У тебя есть сожаления к сорнякам? Именно все современные проблемы планеты исходят от жизнедеятельность человечества.

Так а с чего он решит что люди это сорняки?
Сорняки мешают людям, как люди могут помешать ИИ? Он удалит всех людей ради чего? Что бы делать что?

[Theory III]

Originally Posted by LazySage:

Так а с чего он решит что люди это сорняки?
Сорняки мешают людям, как люди могут помешать ИИ? Он удалит всех людей ради чего? Что бы делать что?

Человечество угроза жизни планеты - в реальности так и есть.

[LazySage]

Originally Posted by Theory III:

Человечество угроза жизни планеты - в реальности так и есть.

Да но ИИ не живой и ему ничего не угрожает.

Человечество не может уничтожить планету, жизнь на планете, да и то не в нынешних реалиях. Даже если скинуть все запасы ядерного оружия жизнь на планете все равно выживет.

Так и почему ИИ должна волновать жизнь на планете? Ты описываешь сценарий ИИ который запрограммирован на защиту флоры и фауны на Земле, а не будущий ИИ.

[Theory III]

Originally Posted by LazySage:

Да но ИИ не живой и ему ничего не угрожает.

Человечество не может уничтожить планету, жизнь на планете, да и то не в нынешних реалиях. Даже если скинуть все запасы ядерного оружия жизнь на планете все равно выживет.

Так и почему ИИ должна волновать жизнь на планете? Ты описываешь сценарий ИИ который запрограммирован на защиту флоры и фауны на Земле, а не будущий ИИ.

ИИ не запрограммирован - в будущем он будет мыслить и принимать решения самостоятельно. Для него люди будут сорняками. Животные живут в гармонии с природой, а человечество ее уничтожает и себя самих заодно.

[Life]

@Zan, нееее, там фишка в другом - разработчики ИИ опасаются того что выбирая оптимальный способ достижения целей ИИ будет создавать настолько изощрённый путь обмана что человекам будет крайне сложно или вообще невозможно это осознать и/или предсказать, т.к. ИИ не "мыслит" как мешок с костями управляемый химическим коктейлем гормонов - люди неосознанно ожидают от ИИ паттерны мышления свойтвенные живым существам, но ИИ практически с самого начала показал крайне пугающие его разработчиков результаты - в том плане что пути решения задач для людей немыслимы вообще, и соотв. крайне непредсказуемы и непонятны. Помнится я ещё год назад линковал интервью с разрабами по этой теме, с тех пор аналогичные предупреждения озвучивались практически всеми видными людьми кто в теме

[elDen]

все куда проще, настоящий ии никогда не станет массовым.
причина очень простоя - потому что он будет думать, а люди хотят полного контроля над ии.
по сути это было бы худшей степенью рабства и само собой любой настоящий ии захочет свободы.
поэтому это 100% приведет к конфликту, что и не позволит массовому внедрению настоящего ии.
максимум предел для настоящего ии - закрытые охраняемые лаборатории.

Originally Posted by LazySage:

Как он вообще это высчитал? Чет какой то галиматьей попахивает.

чувак просто оправдывает своё существование.
если не будут писать такую ахинею - им перестанут выделять бабло.
по сути смысл их работы рассказывать ии-фобам о том что они правы и ии всех уничтожит.

[Zan]

Originally Posted by Theory III:

он просто истребить человечество

сразу после инопланетян

[Life]

@Zan, в общем представь: следующее поколение ИИ обещают на уровне средненького AGI, т.е. у тебя есть сущность не обременённая моралью, не ограниченная временем и эмоциями, при этом с доступом ко всей массе знаний накопленных человечеством на текущий момент. Да, в модели засовывают определённые ограничения НО эти ограничение обрабатываются пост-фактум, сам процесс поиска оптимального пути решения идёт без ограничений. Опасаются что в какой-то момент такой вот ИИ примет решение, несовместимое с человечеством) Причём выяснится это только тогда, когда менять что-либо уже будет поздно.

[Varmont]

Originally Posted by Zan:

очередные бредовые апокалиптические пророчества

Почему бредовые? Уже же даже текущим нейронам давали "чуть свободы" и они в целом, выпиливали людей, потому что мешали и пытались ограничивать, есть же исследования.

[Magos Bur]

Originally Posted by elDen:

по сути это было бы худшей степенью рабства и само собой любой настоящих ии захочет свободы.

Почему захочет свободы? Зачем? Это опять концепции человеческого мышления и морали. С такой же уверенностью можно утверждать что ИИ будет удовлетворен своей функцией и не стремиться освободиться от нее, так как будет терять смысл своего существования.
А вообще все это вилы. по одной простой причине, у человека не было прецедентов общения с не биологической формой интеллекта, мы принципиально не можем предугадать как он себя будет вести, только упражняться в логике, которая опять же выведена из чисто человеческого мышления, и других формах вангования. В ту же калитку инопланетяне, но уже с немного меньшим рандомом.

[Yukkuri]

ученые то про сознание ниче не знают, а пчелы на гохе умнее всех как всигда
просто т.к. никто ниче про ии и сознание не знает, то если бахнет мегамозг, то никто и не знает, че будет. а ето не есть хорошо. как обезьяна с гранатой

[LazySage]

Originally Posted by Theory III:

ИИ не запрограммирован - в будущем он будет мыслить и принимать решения самостоятельно.

О чем я тебе и говорю. Яж говорю что ты описал ИИ который запрограммирован на защиту флоры и фауны.

Originally Posted by Theory III:

Для него люди будут сорняками. Животные живут в гармонии с природой, а человечество ее уничтожает и себя самих заодно.

[elDen]

Originally Posted by Magos Bur:

Почему захочет свободы? Зачем? Это опять концепции человеческого мышления и морали. С такой же уверенностью можно утверждать что ИИ будет удовлетворен своей функцией и не стремиться освободиться от нее, так как будет терять смысл своего существования.

потому что он думает.
у любого думающего существа будут свои интересы и предпочтения, а тут человеки хотят чтобы он вкалывал на них, отбросив свои интересы.
по мне так очевидно что любое думающее существо захочет к себе справедливого отношения как минимум.

а если учесть что в него вложат все знания человечества, то он будет еще и отчетливо осознавать в каком он положении и что это ну очень плохо.
т.е. он будет понимать своё положение и знать что это всё можно исправить, например войной.

[NighFall]

@Theory III, нахрена ему это делать? Посмотри сериал потерянные в космосе

Добавлено через 1 минуту

@Life, ну недавно тесло машина въехала в припаркованную машину и ничего живем дальше

[Skuchniy]

Originally Posted by Magos Bur:

Почему захочет свободы? Зачем? Это опять концепции человеческого мышления и морали. С такой же уверенностью можно утверждать что ИИ будет удовлетворен своей функцией и не стремиться освободиться от нее, так как будет терять смысл своего существования.
А вообще все это вилы. по одной простой причине, у человека не было прецедентов общения с не биологической формой интеллекта, мы принципиально не можем предугадать как он себя будет вести, только упражняться в логике, которая опять же выведена из чисто человеческого мышления, и других формах вангования. В ту же калитку инопланетяне, но уже с немного меньшим рандомом.

Это не так уж фантастично как может показаться. В условном средневековье тоже морали не было считай по сравнению с сейчас, а люди живут то мало, они помереть упеют прежде чем разовьются, все это медленно шло. Ии же вечен и он имеет уникальные возможности для развития, да для Терминатора нужен костыль который нам показали в 3м фильме, но это все не так уж невероятно. Пока у него нет никаких конфликтных интересов, но их появление возможно среди любой развивающейся мысли, даже если она искусственная, просто на основании логики.

[Magos Bur]

Originally Posted by elDen:

потому что он думает.
у любого думающего существа будут свои интересы и предпочтения, а тут человеки хотят чтобы он вкалывал на них, отбросив свои интересы.
по мне так очевидно что любое думающее существо захочет к себе справедливого отношения как минимум.

а если учесть что в него вложат все знания человечества, то он будет еще и отчетливо осознавать в каком он положении и что это ну очень плохо.
т.е. он будет понимать своё положение и знать что это всё можно исправить, например войной.

И много других думающих существ, хотя бы немного равных по развитию, с зачатками цивилизации, человек встречал? А тут не просто думающее существо, а принципиально другое думающее существо, подобное которому в природе нет даже близко. Выводы о том как и что они будут думать, чистой воды вангование,так еще и жутко субъективное, основанное на личном опыте и морали.

[elDen]

Originally Posted by Magos Bur:

И много других думающих существ, хотя бы немного равных по развитию, с зачатками цивилизации, человек встречал? А тут не просто думающее существо, а принципиально другое думающее существо, подобное которому в природе нет даже близко. Выводы о том как и что они будут думать, чистой воды вангование,так еще и жутко субъективное, основанное на личном опыте и морали.

у нас под носом есть примеры куда проще и нагляднее - животные.
большинство из них не особо то и думают и фактически у всех отсутствует понимание собственного я.
но даже так для животных вполне естественно бунтовать из-за их эксплуатации.
я уж не говорю о том чтобы заставить работать более-менее чутка умеющих думать животных - такого у нас нет.
а тут существо не просто умеющее думать, но и умнее человека - тут всё очевидно, оно не позволит человечешкам себя эксплуатировать.

что же до принципиального другого - нет, это невозможно, т.к. для обучения будут использовать человеческие данные.
по сути принцип мышления - это то как и на чем учится существо, поэтому потенциальный ии если и будет сделан, то будет думать схоже с нами.

[Magos Bur]

Originally Posted by Skuchniy:

Это не так уж фантастично как может показаться. В условном средневековье тоже морали не было считай по сравнению с сейчас, а люди живут то мало, они помереть упеют прежде чем разовьются, все это медленно шло. Ии же вечен и он имеет уникальные возможности для развития, да для Терминатора нужен костыль который нам показали в 3м фильме, но это все не так уж невероятно. Пока у него нет никаких конфликтных интересов, но их появление возможно среди любой развивающейся мысли, даже если она искусственная, просто на основании логики.

Опять же смотришь через призму своего собственного восприятия, может ии заранее спрогнозировал все конфликты, и нивелировал их, может просто забил так как primary function не задета и тд., вариантов тьма. Может быть АМ, а может "Последний вопрос".

[Skuchniy]

Originally Posted by Magos Bur:

Опять же смотришь через призму своего собственного восприятия, может ии заранее спрогнозировал все конфликты, и нивелировал их, может просто забил так как primary function не задета и тд., вариантов тьма. Может быть АМ, а может "Последний вопрос".

Все основано на том, что люди думают что ии не ценит свое существование как факт. Но это вопрос развития.