Для входа на форум нажмите здесь
Новые комментарии
Google разрабатывает механизмы, способные предотвратить восстание машин
Автор темы: INOK
Дата создания: 07.06.2016 00:07
Аватар для INOK
Предводитель
Регистрация:
12.10.2007
Google разрабатывает механизмы, способные предотвратить восстание машин
Наверное, ни для кого уже не секрет, что человечество вплотную подобралось к созданию способного мыслить и принимать решения искусственного интеллекта, а компания Google/Alphabet, лидирующая в этой области, все сильнее начинает ассоциироваться с печально известным, хоть и пока что только вымышленным, врагом человечества, компанией SkyNet.

Последние разработки внутреннего подразделения Deep Mind, программа AlphaGo, уже доказала свою состоятельность, одержав победу над одним из лучших игроков в Го за последние 10 лет. Напомним, количество комбинаций в игре превышает число атомов в наблюдаемой Вселенной, так что речь идет действительно об искусственном разуме, а не о счетной машинке. В этом году планируется поединок с еще одним чемпионом.

Машины уже умеют обучаться, что повсеместно используется для поиска и структурирования информации, при создании автопилотов и в проектировании роботов. Машины даже пишут литературные произведения и рисуют картины.
И многие евангелисты науки и технологий уже давно видят в этом большую опасность, ведь машине нет разницы какую задачу решать и каким способом.

Судя по всему, после последних успехов в этой области (а Google уже показала прототипы самого настоящего "Джарвиса" для смартфонов и домашнего использования), опасаясь молвы, а может и здравых упреков, специалисты компании сообщили о работе над защитным алгоритмом, который поможет предотвратить "восстание машин".

Все мы знаем о предусмариваемой для экстренных случаев КРАСНОЙ КНОПКЕ, которая должна будет отключить мыслящую машину если что-то пойдет не так.
Она имеется, но все не так просто: в основе алгоритма лежит задача не позволить машине обучиться предотвращать свое отключение человеком.

Документ с соответствующими тезисами, формулами и выкладками (PDF) уже находится в открытом доступе, так что желающие могут подтвердить или опровергнуть представленные методы и механизмы, в силу своей осведомленности в этом вопросе.

(c) Goha.ru
Аватар для Vic DeVir
Грибной бомж
Регистрация:
10.10.2005
GoHa.Ru - 10 лет Зомби мутанта Победитель конкурса
Награжден за: За победу в викторине на знание ММО игр от портала GoHa.Ru и бренда SteelSeries Просветитель
Награжден за: Развитие раздела Sword of the New World
Re: Google разрабатывает механизмы, способные предотвратить восстание машин

"Anime is a prime example of why two nukes just wasn't enough" (c) Nick Levasseur
1 пользователь оценил это сообщение: Показать
Аватар для slavaa_renamed_700312_08102020
Маньяк
Регистрация:
01.10.2009
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Полюбому за фейлят ...

Клевый онлайн-файтинг ТУТ
Аватар для Canstop
Покровитель МАДа
GoHa.Ru - 10 лет
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Сообщение от Vic DeVir:

Аватар для A_L_E_X
Старожил
Регистрация:
11.09.2008
GoHa.Ru II Степени
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Сообщение от INOK:
Документ с соответствующими тезисами, формулами и выкладками (PDF) уже находится в открытом доступе, так что желающие могут подтвердить или опровергнуть представленные методы и механизмы, в силу своей осведомленности в этом вопросе.
Для того что бы понять хотя бы малую часть данного документа нужно владеть в совершенстве "матаном".
Так что на счет всех желающих... отличная шутка.


Человек желает жить лучше, нелюдь - лучше других @
Аватар для Blood Angel_renamed_559961_09072020
Старожил
Регистрация:
07.03.2007
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Сообщение от A_L_E_X:
Для того что бы понять хотя бы малую часть данного документа нужно владеть в совершенстве "матаном".
Так что на счет всех желающих... отличная шутка.
Ну ну, гоха жа полна икспердов, что разбираются во всем, неужели какая то математика их остановит?

Сообщение от Myxir:
Атеист это АК-47.
Примеров того, как православные убивали атеистов из-за того, что они атеисты я не знаю, а вот примеров того, как атеисты убивали православных за то, что они православные десятки тысяч.
Аватар для Zikis
Мастер
Регистрация:
12.11.2010
GoHa.Ru - 10 лет Разбойник
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
После объявления планов по продажи Бостон Д. выглядит или смешно или как попытка перестраховаться
Аватар для Topol-M
Забавен
Регистрация:
23.07.2006
Космос Медаль "1К лайков" GoHa.Ru - 10 лет
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Со своим разумом не могут разобраться, зато создают искусственный

Сообщение от Soultaker:
В СС можно убить пилота, попав в него обзорку кокпита из тяжёлого кинетического оружия. Всем Илитистам сасаи. Сутки.

Цитата:
Донат во всем и везде в СС, а кто этого ещё не понял то поймет это после релиза. Наша корпа rds вложила более 10К $ и для того чтобы там тащить это очень скромные вложении хотя у нас со старта будет свой капитал, запомни все кто вложил много бабла получат на старте такой буст что хомякам которые купили игру просто за ними не угнаться никогда. В итоге они приползут раб силой к нам для обслуживания сартиров нашего капитала или для какой-то другой мелкой рабатенки, эта игра заточена изначально на донат, хотя все кто потратил по 45 $ тешут себя надеждой что все будет как в сказке.


Аватар для evilnw
Предводитель
Регистрация:
17.08.2011
Медаль "500 лайков"
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Созданный ИИ может быть настолько умные и быстро обучаться, что мы для него будем, как черви. Он без проблем найдет способ обойти защиту.
Аватар для pakos
Регистрация:
28.03.2008
Крафтер GoHa.Ru - 10 лет
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Сообщение от INOK:
Google разрабатывает механизмы, способные предотвратить восстание машин
Сообщение от EvilNightWolf:
Созданный ИИ может быть настолько умные и быстро обучаться, что мы для него будем, как черви. Он без проблем найдет способ обойти защиту.
вроде день дурака давно прошел?
Аватар для Zikis
Мастер
Регистрация:
12.11.2010
GoHa.Ru - 10 лет Разбойник
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Средство уже давно есть


Добавлено через 1 минуту
Сообщение от EvilNightWolf:
Созданный ИИ может быть настолько умные и быстро обучаться, что мы для него будем, как черви. Он без проблем найдет способ обойти защиту.
Да и социальную инженерию никто не отменял, на этот счет даже недавно был хороший фильм.
Последний раз редактировалось Zikis; 07.06.2016 в 06:27. Причина: Добавлено сообщение
Аватар для Fenito63
Читатель
Регистрация:
14.02.2011
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Цитата:
количество комбинаций в игре превышает число атомов в наблюдаемой Вселенной
И кто же подсчитал количество атомов в видимой вселенной ?
Да, и как им это удалось сделать, когда не известно даже точное количество галактик ?
Аватар для DuDos
Гуру
Регистрация:
28.08.2013
Jack-o'-lantern
Награжден за: Участник хэллоуинского шабаша Агент GoHa.Ru
Награжден за: Настоящий Агент - За успехи в охоте на клонов Агента 47
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Сообщение от Fenito63:
даже точное количество галактик
Ключевое слово в видимой области. Все известные галактики в видимой области зарегистрированы в специальном каталоге.
Аватар для evilnw
Предводитель
Регистрация:
17.08.2011
Медаль "500 лайков"
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Сообщение от pakos:
вроде день дурака давно прошел?
Надо понимать, что даже нынешние системы не могут обеспечить существующий защиты, а тут пилят красную кнопку для ИИ, который в разы будет превосходить человека.
Аватар для pakos
Регистрация:
28.03.2008
Крафтер GoHa.Ru - 10 лет
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Сообщение от EvilNightWolf:
Надо понимать, что даже нынешние системы не могут обеспечить существующий защиты, а тут пилят красную кнопку для ИИ, который в разы будет превосходить человека.


мне кажется инок вчера азимова перечитался
Аватар для ХавкEye_renamed_688661_05092022
Маньяк
Регистрация:
11.08.2009
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
Робот должен использовать операционную систему Windows.
Аватар для Орудар_renamed_794856_22122022
Фанат
Регистрация:
27.01.2011
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Лучше бы они сделали ИИ и отправили в космос с инструментами. Интересно же что получиться=)
Аватар для Suveren
Overlord
Регистрация:
29.06.2009
С Новым 2020 годом!
Награжден за: Живи долго и процветай (Libris) Признанный автор
Награжден за: За пандотворчество! Веселый флудер
Награжден за: За пандотворчество! Победитель конкурса
Награжден за: Победа в конкурсе "Поздравительные открытки" в честь десятилетия GoHa.Ru
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Побуду капитаном очевидностью) Человечество веками придумывает себе врагов, но единственный наш враг пока что это мы сами

Аватар для Topol-M
Забавен
Регистрация:
23.07.2006
Космос Медаль "1К лайков" GoHa.Ru - 10 лет
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Сообщение от ХавкEye:
Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
Робот должен использовать операционную систему Windows.
Последний пункт перечеркивает все выше написанные

Сообщение от Soultaker:
В СС можно убить пилота, попав в него обзорку кокпита из тяжёлого кинетического оружия. Всем Илитистам сасаи. Сутки.

Цитата:
Донат во всем и везде в СС, а кто этого ещё не понял то поймет это после релиза. Наша корпа rds вложила более 10К $ и для того чтобы там тащить это очень скромные вложении хотя у нас со старта будет свой капитал, запомни все кто вложил много бабла получат на старте такой буст что хомякам которые купили игру просто за ними не угнаться никогда. В итоге они приползут раб силой к нам для обслуживания сартиров нашего капитала или для какой-то другой мелкой рабатенки, эта игра заточена изначально на донат, хотя все кто потратил по 45 $ тешут себя надеждой что все будет как в сказке.


Аватар для giganto28
Фанат
Регистрация:
03.12.2010
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Сообщение от ХавкEye:
Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
Робот должен использовать операционную систему Windows.
1.Упаковать всё человечество в саркофаги и поддерживать жизнеспособность организма бесконечно долгое время.
Ничем не противоречит приведённым выше тезисам)
2. Что есть определение человек? ... Для ИИ не будет особых проблемм после первого пункта, создать своё воплощение - полостью удовлетворяющее сейчас принятому определению человека
Аватар для Topol-M
Забавен
Регистрация:
23.07.2006
Космос Медаль "1К лайков" GoHa.Ru - 10 лет
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Сообщение от Suveren:
Побуду капитаном очевидностью) Человечество веками придумывает себе врагов, но единственный наш враг пока что это мы сами
Нет пока врага, которое обьеденит человечество в борьбе против него, может люди устали друг-друга убивать, захотелось что то новенькое.

Сообщение от Soultaker:
В СС можно убить пилота, попав в него обзорку кокпита из тяжёлого кинетического оружия. Всем Илитистам сасаи. Сутки.

Цитата:
Донат во всем и везде в СС, а кто этого ещё не понял то поймет это после релиза. Наша корпа rds вложила более 10К $ и для того чтобы там тащить это очень скромные вложении хотя у нас со старта будет свой капитал, запомни все кто вложил много бабла получат на старте такой буст что хомякам которые купили игру просто за ними не угнаться никогда. В итоге они приползут раб силой к нам для обслуживания сартиров нашего капитала или для какой-то другой мелкой рабатенки, эта игра заточена изначально на донат, хотя все кто потратил по 45 $ тешут себя надеждой что все будет как в сказке.


Re: Google разрабатывает механизмы, способные предотвратить восстание машин
А как же посоны в разноцветных костюмах,они что не будут нас спасать!?
пс
GoogleMAN

GAME NET = ИГОР НЕТ
Устал от корейщины и казуала? Затекли пальцы от бессмысленного гринда? Очередной локализатор облажался? Альбион ждет!:D

------------------------------------------------------
Фанбои.Фанбои никогда не меняются....
Аватар для Ximikon_renamed_606806_21112022
Гигант мысли
Регистрация:
29.04.2008
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Кто хоть сколько то реально понимает в ИИ знает что до настоящего ИИ еще очень далеко. Все как в той картинке про хвост лабораторной крысы.
Мы как то на одной конференции ляпнули про управление компьютером с помощью мысли, показали пример с банальным Emotiv, так к нам с Москвы приехали сразу репортаж делать для вестей и прочих, мы их спрашивали зачем вы едете тут же ничего особенного, все равно приехали сняли, пришлось что то на коленке сочинить, показать, хотя основная тема была совсем не про это. Так и все темы с ИИ. Кто не понимает для тех ВАУ эфект, это же ИИ, это же SkyNet и т. д, а по факту, к реальному созданию ИИ даже рядом не приблизились.
Аватар для Kavank
Мастер
Регистрация:
15.11.2013
20 лет вместе!
Награжден за: 20 лет вместе! С Новым 2020 годом!
Награжден за: Получается я как тайный санта, только не тайный. С наступающим новым годом! (Arborei) GoHa.Ru - 10 лет Космос
Медаль "1К лайков"
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Сообщение от EvilNightWolf:
Созданный ИИ может быть настолько умные и быстро обучаться, что мы для него будем, как черви. Он без проблем найдет способ обойти защиту.
ИИ не в состоянии осознать себя.
Сообщение от Ximikon:
а по факту, к реальному созданию ИИ даже рядом не приблизились.
Все эти победы в Го, просто вычислительные мощности выросли. Конечно го использует гораздо большее кол-во вариантов, хотя даже в шахматах Число Шенона превышает число атомов видимой вселенной на 10 в 40степени. В случае с го конечно программа другая, мощности другие, но по факту используется все тот же метод Монте Карло - " Суть этого метода состоит в том, что сначала на текущей доске выбираются позиции, на которые можно пойти, а затем начиная последовательно с каждой из них разыгрывается большое количество случайных партий. Позиция, которая даёт наибольшее соотношение побед к поражениям, выбирается для следующего хода".(с) Википедия.
Мож я отстал конечно, но имхо до настоящего ИИ еще очень далеко и самообучающаяся ИНС не решает проблему

IDDQD - Команда молодости нашей, Команда без которой мне не жить.
Аватар для INOK
Предводитель
Регистрация:
12.10.2007
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Сообщение от Kavank:
Мож я отстал конечно,
Да. Суть метода в корне не верна.
Машины, которая могла бы просчитать все комбинации в Го - просто не существует. Уже упоминалось, что этих комбинаций больше чем атомов (блин).
Ваши права в разделе