Для входа на форум нажмите здесь
Google разрабатывает механизмы, способные предотвратить восстание машин
Автор темы: INOK
Дата создания: 07.06.2016 00:07
Старый 07.06.2016, 00:07
#1
Аватар для INOK
Предводитель
Регистрация
12.10.2007
Google разрабатывает механизмы, способные предотвратить восстание машин
Наверное, ни для кого уже не секрет, что человечество вплотную подобралось к созданию способного мыслить и принимать решения искусственного интеллекта, а компания Google/Alphabet, лидирующая в этой области, все сильнее начинает ассоциироваться с печально известным, хоть и пока что только вымышленным, врагом человечества, компанией SkyNet.

Последние разработки внутреннего подразделения Deep Mind, программа AlphaGo, уже доказала свою состоятельность, одержав победу над одним из лучших игроков в Го за последние 10 лет. Напомним, количество комбинаций в игре превышает число атомов в наблюдаемой Вселенной, так что речь идет действительно об искусственном разуме, а не о счетной машинке. В этом году планируется поединок с еще одним чемпионом.

Машины уже умеют обучаться, что повсеместно используется для поиска и структурирования информации, при создании автопилотов и в проектировании роботов. Машины даже пишут литературные произведения и рисуют картины.
И многие евангелисты науки и технологий уже давно видят в этом большую опасность, ведь машине нет разницы какую задачу решать и каким способом.

Судя по всему, после последних успехов в этой области (а Google уже показала прототипы самого настоящего "Джарвиса" для смартфонов и домашнего использования), опасаясь молвы, а может и здравых упреков, специалисты компании сообщили о работе над защитным алгоритмом, который поможет предотвратить "восстание машин".

Все мы знаем о предусмариваемой для экстренных случаев КРАСНОЙ КНОПКЕ, которая должна будет отключить мыслящую машину если что-то пойдет не так.
Она имеется, но все не так просто: в основе алгоритма лежит задача не позволить машине обучиться предотвращать свое отключение человеком.

Документ с соответствующими тезисами, формулами и выкладками (PDF) уже находится в открытом доступе, так что желающие могут подтвердить или опровергнуть представленные методы и механизмы, в силу своей осведомленности в этом вопросе.

(c) Goha.ru
Старый 07.06.2016, 00:37
#2
Аватар для Vic DeVir
Грибной бомж
Регистрация
10.10.2005
Регистрация
Адрес
10.10.2005
DE Village
Зомби мутанта Победитель конкурса
Награжден за: За победу в викторине на знание ММО игр от портала GoHa.Ru и бренда SteelSeries Просветитель
Награжден за: Развитие раздела Sword of the New World
Re: Google разрабатывает механизмы, способные предотвратить восстание машин

"Anime is a prime example of why two nukes just wasn't enough" (c) Nick Levasseur
1 пользователь оценил это сообщение: Показать
Старый 07.06.2016, 00:46
#3
Аватар для slavaa_renamed_700312_08102020
Маньяк
Регистрация
01.10.2009
Регистрация
Игра
01.10.2009
AOC BLC DOA
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Полюбому за фейлят ...

Клевый онлайн-файтинг ТУТ
Старый 07.06.2016, 01:07
#4
Аватар для Teo
Teo
Предводитель
Регистрация
01.11.2008
Лекарь Просветитель
Награжден за: За вклад в развитие раздела Quake Champions
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Сообщение от Vic DeVir:


Старый 07.06.2016, 01:12
#5
Аватар для A_L_E_X
Старожил
Регистрация
11.09.2008
GoHa.Ru II Степени
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Сообщение от INOK:
Документ с соответствующими тезисами, формулами и выкладками (PDF) уже находится в открытом доступе, так что желающие могут подтвердить или опровергнуть представленные методы и механизмы, в силу своей осведомленности в этом вопросе.
Для того что бы понять хотя бы малую часть данного документа нужно владеть в совершенстве "матаном".
Так что на счет всех желающих... отличная шутка.

/Грубость/Подстрекательство/Травля/Оскорбления/Хулиганство/Разврат/Насилие/Пропаганда/Издевательство/Кощунство/Запугивание/Унижение/Истязание/Одупление/
Старый 07.06.2016, 01:45
#6
Аватар для Blood Angel_renamed_559961_09072020
Старожил
Регистрация
07.03.2007
Регистрация
Игра
07.03.2007
RO
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Сообщение от A_L_E_X:
Для того что бы понять хотя бы малую часть данного документа нужно владеть в совершенстве "матаном".
Так что на счет всех желающих... отличная шутка.
Ну ну, гоха жа полна икспердов, что разбираются во всем, неужели какая то математика их остановит?

Сообщение от Myxir:
Атеист это АК-47.
Примеров того, как православные убивали атеистов из-за того, что они атеисты я не знаю, а вот примеров того, как атеисты убивали православных за то, что они православные десятки тысяч.
Старый 07.06.2016, 03:47
#7
Аватар для Zikis
Мастер
Регистрация
12.11.2010
Регистрация
Игра
12.11.2010
MTGa
GoHa.Ru - 10 лет Разбойник
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
После объявления планов по продажи Бостон Д. выглядит или смешно или как попытка перестраховаться
Старый 07.06.2016, 04:40
#8
Аватар для Topol-M
Elite
Регистрация
23.07.2006
Регистрация
Игра
Гильдия
Инфо
23.07.2006
Elite: Dangerous
Empire
King
GoHa.Ru - 10 лет Космос
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Со своим разумом не могут разобраться, зато создают искусственный

Сообщение от Soultaker:
В СС можно убить пилота, попав в него обзорку кокпита из тяжёлого кинетического оружия. Всем Илитистам сасаи. Сутки.

Цитата:
Донат во всем и везде в СС, а кто этого ещё не понял то поймет это после релиза. Наша корпа rds вложила более 10К $ и для того чтобы там тащить это очень скромные вложении хотя у нас со старта будет свой капитал, запомни все кто вложил много бабла получат на старте такой буст что хомякам которые купили игру просто за ними не угнаться никогда. В итоге они приползут раб силой к нам для обслуживания сартиров нашего капитала или для какой-то другой мелкой рабатенки, эта игра заточена изначально на донат, хотя все кто потратил по 45 $ тешут себя надеждой что все будет как в сказке.


Старый 07.06.2016, 06:08
#9
Аватар для evilnw
Предводитель
Регистрация
17.08.2011
Регистрация
Ник
17.08.2011
evilnw
Медаль "500 лайков" GoHa.Ru - Старожил
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Созданный ИИ может быть настолько умные и быстро обучаться, что мы для него будем, как черви. Он без проблем найдет способ обойти защиту.
Старый 07.06.2016, 06:15
Аватар для pakos
Регистрация
28.03.2008
Регистрация
Игра
28.03.2008
жду новых релизов
GoHa.Ru - 10 лет Крафтер
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Сообщение от INOK:
Google разрабатывает механизмы, способные предотвратить восстание машин
Сообщение от EvilNightWolf:
Созданный ИИ может быть настолько умные и быстро обучаться, что мы для него будем, как черви. Он без проблем найдет способ обойти защиту.
вроде день дурака давно прошел?
Старый 07.06.2016, 06:27
Аватар для Zikis
Мастер
Регистрация
12.11.2010
Регистрация
Игра
12.11.2010
MTGa
GoHa.Ru - 10 лет Разбойник
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Средство уже давно есть


Добавлено через 1 минуту
Сообщение от EvilNightWolf:
Созданный ИИ может быть настолько умные и быстро обучаться, что мы для него будем, как черви. Он без проблем найдет способ обойти защиту.
Да и социальную инженерию никто не отменял, на этот счет даже недавно был хороший фильм.
Последний раз редактировалось Zikis; 07.06.2016 в 06:27. Причина: Добавлено сообщение
Старый 07.06.2016, 06:47
Аватар для Fenito63
Читатель
Регистрация
14.02.2011
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Цитата:
количество комбинаций в игре превышает число атомов в наблюдаемой Вселенной
И кто же подсчитал количество атомов в видимой вселенной ?
Да, и как им это удалось сделать, когда не известно даже точное количество галактик ?
Старый 07.06.2016, 07:19
Аватар для DuDos
Гуру
Регистрация
28.08.2013
Регистрация
Адрес
Игра
Ник
28.08.2013
Урал
Dead by Daylight
girza
Jack-o'-lantern
Награжден за: Участник хэллоуинского шабаша Агент GoHa.Ru
Награжден за: Настоящий Агент - За успехи в охоте на клонов Агента 47
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Сообщение от Fenito63:
даже точное количество галактик
Ключевое слово в видимой области. Все известные галактики в видимой области зарегистрированы в специальном каталоге.
Старый 07.06.2016, 07:46
Аватар для evilnw
Предводитель
Регистрация
17.08.2011
Регистрация
Ник
17.08.2011
evilnw
Медаль "500 лайков" GoHa.Ru - Старожил
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Сообщение от pakos:
вроде день дурака давно прошел?
Надо понимать, что даже нынешние системы не могут обеспечить существующий защиты, а тут пилят красную кнопку для ИИ, который в разы будет превосходить человека.
Старый 07.06.2016, 07:59
Аватар для pakos
Регистрация
28.03.2008
Регистрация
Игра
28.03.2008
жду новых релизов
GoHa.Ru - 10 лет Крафтер
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Сообщение от EvilNightWolf:
Надо понимать, что даже нынешние системы не могут обеспечить существующий защиты, а тут пилят красную кнопку для ИИ, который в разы будет превосходить человека.


мне кажется инок вчера азимова перечитался
Старый 07.06.2016, 08:49
Аватар для ХавкEye
Маньяк
Регистрация
11.08.2009
Регистрация
Игра
Сервер
11.08.2009
Ультима.
Оском 1999
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
Робот должен использовать операционную систему Windows.
Старый 07.06.2016, 08:49
Аватар для Орудар
Фанат
Регистрация
27.01.2011
Регистрация
Адрес
Сервер
Ник
27.01.2011
Брянск
ЯЛ
Орудар
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Лучше бы они сделали ИИ и отправили в космос с инструментами. Интересно же что получиться=)
Старый 07.06.2016, 09:29
Аватар для Suveren
Overlord
Регистрация
29.06.2009
Регистрация
Адрес
Игра
29.06.2009
НиНо
HoN
С Новым 2020 годом!
Награжден за: Живи долго и процветай (Libris) GoHa.Ru - Старожил Признанный автор
Награжден за: За пандотворчество! Веселый флудер
Награжден за: За пандотворчество!
Победитель конкурса
Награжден за: Победа в конкурсе "Поздравительные открытки" в честь десятилетия GoHa.Ru
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Побуду капитаном очевидностью) Человечество веками придумывает себе врагов, но единственный наш враг пока что это мы сами

Старый 07.06.2016, 10:05
Аватар для Topol-M
Elite
Регистрация
23.07.2006
Регистрация
Игра
Гильдия
Инфо
23.07.2006
Elite: Dangerous
Empire
King
GoHa.Ru - 10 лет Космос
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Сообщение от ХавкEye:
Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
Робот должен использовать операционную систему Windows.
Последний пункт перечеркивает все выше написанные

Сообщение от Soultaker:
В СС можно убить пилота, попав в него обзорку кокпита из тяжёлого кинетического оружия. Всем Илитистам сасаи. Сутки.

Цитата:
Донат во всем и везде в СС, а кто этого ещё не понял то поймет это после релиза. Наша корпа rds вложила более 10К $ и для того чтобы там тащить это очень скромные вложении хотя у нас со старта будет свой капитал, запомни все кто вложил много бабла получат на старте такой буст что хомякам которые купили игру просто за ними не угнаться никогда. В итоге они приползут раб силой к нам для обслуживания сартиров нашего капитала или для какой-то другой мелкой рабатенки, эта игра заточена изначально на донат, хотя все кто потратил по 45 $ тешут себя надеждой что все будет как в сказке.


Старый 07.06.2016, 10:06
Аватар для giganto28
Фанат
Регистрация
03.12.2010
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Сообщение от ХавкEye:
Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
Робот должен использовать операционную систему Windows.
1.Упаковать всё человечество в саркофаги и поддерживать жизнеспособность организма бесконечно долгое время.
Ничем не противоречит приведённым выше тезисам)
2. Что есть определение человек? ... Для ИИ не будет особых проблемм после первого пункта, создать своё воплощение - полостью удовлетворяющее сейчас принятому определению человека
Старый 07.06.2016, 10:06
Аватар для Topol-M
Elite
Регистрация
23.07.2006
Регистрация
Игра
Гильдия
Инфо
23.07.2006
Elite: Dangerous
Empire
King
GoHa.Ru - 10 лет Космос
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Сообщение от Suveren:
Побуду капитаном очевидностью) Человечество веками придумывает себе врагов, но единственный наш враг пока что это мы сами
Нет пока врага, которое обьеденит человечество в борьбе против него, может люди устали друг-друга убивать, захотелось что то новенькое.

Сообщение от Soultaker:
В СС можно убить пилота, попав в него обзорку кокпита из тяжёлого кинетического оружия. Всем Илитистам сасаи. Сутки.

Цитата:
Донат во всем и везде в СС, а кто этого ещё не понял то поймет это после релиза. Наша корпа rds вложила более 10К $ и для того чтобы там тащить это очень скромные вложении хотя у нас со старта будет свой капитал, запомни все кто вложил много бабла получат на старте такой буст что хомякам которые купили игру просто за ними не угнаться никогда. В итоге они приползут раб силой к нам для обслуживания сартиров нашего капитала или для какой-то другой мелкой рабатенки, эта игра заточена изначально на донат, хотя все кто потратил по 45 $ тешут себя надеждой что все будет как в сказке.


Старый 07.06.2016, 11:29
Аватар для CrazyImba
Гуру
Регистрация
11.03.2008
Регистрация
Игра
Сервер
Ник
11.03.2008
Dota2.ARK.ARMA3
Goha.ru
Орёл же
Знатоку игры Albion Online
Награжден за: За участие в конкурсе по игре Albion Online
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
А как же посоны в разноцветных костюмах,они что не будут нас спасать!?
пс
GoogleMAN

GAME NET = ИГОР НЕТ
Устал от корейщины и казуала? Затекли пальцы от бессмысленного гринда? Очередной локализатор облажался? Альбион ждет!:D

------------------------------------------------------
Фанбои.Фанбои никогда не меняются....
Старый 07.06.2016, 11:41
Аватар для Ximikon
Гигант мысли
Регистрация
29.04.2008
Регистрация
Сервер
29.04.2008
Все
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Кто хоть сколько то реально понимает в ИИ знает что до настоящего ИИ еще очень далеко. Все как в той картинке про хвост лабораторной крысы.
Мы как то на одной конференции ляпнули про управление компьютером с помощью мысли, показали пример с банальным Emotiv, так к нам с Москвы приехали сразу репортаж делать для вестей и прочих, мы их спрашивали зачем вы едете тут же ничего особенного, все равно приехали сняли, пришлось что то на коленке сочинить, показать, хотя основная тема была совсем не про это. Так и все темы с ИИ. Кто не понимает для тех ВАУ эфект, это же ИИ, это же SkyNet и т. д, а по факту, к реальному созданию ИИ даже рядом не приблизились.
Старый 07.06.2016, 12:00
Аватар для Kavank
Мастер
Регистрация
15.11.2013
С Новым 2020 годом!
Награжден за: Получается я как тайный санта, только не тайный. С наступающим новым годом! (Arborei) GoHa.Ru - Старожил Космос Медаль "1К лайков"
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Сообщение от EvilNightWolf:
Созданный ИИ может быть настолько умные и быстро обучаться, что мы для него будем, как черви. Он без проблем найдет способ обойти защиту.
ИИ не в состоянии осознать себя.
Сообщение от Ximikon:
а по факту, к реальному созданию ИИ даже рядом не приблизились.
Все эти победы в Го, просто вычислительные мощности выросли. Конечно го использует гораздо большее кол-во вариантов, хотя даже в шахматах Число Шенона превышает число атомов видимой вселенной на 10 в 40степени. В случае с го конечно программа другая, мощности другие, но по факту используется все тот же метод Монте Карло - " Суть этого метода состоит в том, что сначала на текущей доске выбираются позиции, на которые можно пойти, а затем начиная последовательно с каждой из них разыгрывается большое количество случайных партий. Позиция, которая даёт наибольшее соотношение побед к поражениям, выбирается для следующего хода".(с) Википедия.
Мож я отстал конечно, но имхо до настоящего ИИ еще очень далеко и самообучающаяся ИНС не решает проблему

IDDQD - Команда молодости нашей, Команда без которой мне не жить.
Старый 07.06.2016, 12:17
Аватар для INOK
Предводитель
Регистрация
12.10.2007
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Сообщение от Kavank:
Мож я отстал конечно,
Да. Суть метода в корне не верна.
Машины, которая могла бы просчитать все комбинации в Го - просто не существует. Уже упоминалось, что этих комбинаций больше чем атомов (блин).
Ваши права в разделе