Для входа на форум нажмите здесь
Новые комментарии
Google разрабатывает механизмы, способные предотвратить восстание машин
Автор темы: INOK
Дата создания: 07.06.2016 00:07
Аватар для Simple.
Старожил
Регистрация:
13.03.2007
GoHa.Ru II Степени
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Сообщение от Kavank:
ИИ не в состоянии осознать себя.

Все эти победы в Го, просто вычислительные мощности выросли. Конечно го использует гораздо большее кол-во вариантов, хотя даже в шахматах Число Шенона превышает число атомов видимой вселенной на 10 в 40степени. В случае с го конечно программа другая, мощности другие, но по факту используется все тот же метод Монте Карло - " Суть этого метода состоит в том, что сначала на текущей доске выбираются позиции, на которые можно пойти, а затем начиная последовательно с каждой из них разыгрывается большое количество случайных партий. Позиция, которая даёт наибольшее соотношение побед к поражениям, выбирается для следующего хода".(с) Википедия.
Мож я отстал конечно, но имхо до настоящего ИИ еще очень далеко и самообучающаяся ИНС не решает проблему
Осознание - проблема вымышленная. Видишь ли, в состоянии осознать себя только я. Остальных людей я наделяю этой способностью потому, что мы похожи. Т.е. ии будет в состоянии осознать себя ровно в тот момент, когда ты решишь, что он это может.

И да, ты отстал. В победе в го нет ничего выдающегося. А вот айбиэм ватсон обыграл чемпиона в жиопарди. Это игра, с которой скопирована наша "своя игра". А архитектура от дип майнд обыгрывает человека в большое количество игр на атари. Она сама обучается каждой новой игре исключительно по видеовходу и превосходит человека в экшончиках-платформерах.

Если не нравится как я излагаю - купи себе у Бога copyright на русский язык.
Аватар для DuDos
Гуру
Регистрация:
28.08.2013
Jack-o'-lantern
Награжден за: Участник хэллоуинского шабаша Агент GoHa.Ru
Награжден за: Настоящий Агент - За успехи в охоте на клонов Агента 47
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Сообщение от pakos:
мне кажется инок вчера азимова перечитался
У Азимова как раз таки не было никакой кнопки, а все было заложено в программу, которую обойти было не так просто. А точнее невозможно, чтобы робот смог навредить человеку, и то в целях защиты всего человечества, пришлось даже нулевой закон ввести и все это вполне вкладывалось в искусственный интеллект и логику того же Челвика.
Аватар для pakos
Регистрация:
28.03.2008
Крафтер GoHa.Ru - 10 лет
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Сообщение от DuDos:
У Азимова как раз таки не было никакой кнопки, а все было заложено в программу, которую обойти было не так просто. А точнее невозможно, чтобы робот смог навредить человеку, и то в целях защиты всего человечества, пришлось даже нулевой закон ввести и все это вполне вкладывалось в искусственный интеллект и логику того же Челвика.
главное что это всё байки
Аватар для DuDos
Гуру
Регистрация:
28.08.2013
Jack-o'-lantern
Награжден за: Участник хэллоуинского шабаша Агент GoHa.Ru
Награжден за: Настоящий Агент - За успехи в охоте на клонов Агента 47
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Сообщение от pakos:
главное что это всё байки
Как раз таки некоторые идеи из научной-фантастики нашли применение в реальной жизни, ибо нф пишут в большинстве своем не графоманы и бумагомаратели, а очень даже прошаренные в матане и физике люди.
Аватар для burn
Гуру
Регистрация:
11.05.2012
Джентльмен 20 лет вместе!
Награжден за: 20 лет вместе! GoHa.Ru I Степени
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Сообщение от ХавкEye:
Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
Робот должен использовать операционную систему Windows.
Робот не может ответить отказом на предложение человека выпить или своим бездействием допустить, чтобы человек напился один

Аватар для RokotMivo_renamed_62632_24012024
Гигант мысли
Регистрация:
10.11.2006
Знатоку игры Albion Online
Награжден за: За участие в конкурсе по игре Albion Online
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Блин, когда же на Гохе введут лайки за посты
1 пользователь оценил это сообщение: Показать
Аватар для INOK
Предводитель
Регистрация:
12.10.2007
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Сообщение от RokotMivo:
Блин, когда же на Гохе введут лайки за посты
ну, может не настолько функциональные, но "лайки".

1 пользователь оценил это сообщение: Показать
Аватар для Kavank
Мастер
Регистрация:
15.11.2013
20 лет вместе!
Награжден за: 20 лет вместе! С Новым 2020 годом!
Награжден за: Получается я как тайный санта, только не тайный. С наступающим новым годом! (Arborei) GoHa.Ru - 10 лет Космос
Медаль "1К лайков"
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Сообщение от Simple.:
И да, ты отстал. В победе в го нет ничего выдающегося. А вот айбиэм ватсон обыграл чемпиона в жиопарди. Это игра, с которой скопирована наша "своя игра".
Эта "своя игра" наоборот гораздо проще го. Ибо не требует просчета вариантов и выбор оптимального тоже не требуется. банальный голосовой поиск гугл выиграет у человека, ища ответы в википедии.
Сообщение от Simple.:
А архитектура от дип майнд обыгрывает человека в большое количество игр на атари. Она сама обучается каждой новой игре исключительно по видеовходу и превосходит человека в экшончиках-платформерах.
Вообще никаких супер мощных машин и супер сложных программ для этого не надо. Влюбой соло игре ты против подобия ии играешь. Запусти дум ( первое что в голову пришло) на найтмаре и увидишь как ии тебя выигрывает.
Сообщение от Simple.:
Осознание - проблема вымышленная. Видишь ли, в состоянии осознать себя только я. Остальных людей я наделяю этой способностью потому, что мы похожи. Т.е. ии будет в состоянии осознать себя ровно в тот момент, когда ты решишь, что он это может.
От того что я решу, - "вот дипминд как в го играет, наверно он осознает себя". Он от этого осознавать себя не начнет, самостоятельно играть не прекратит, ютуб смотреть не начнет, и твитить об игре не будет. Если его конечно не запрограмировать на это.
Сообщение от INOK:
Да. Суть метода в корне не верна.
Машины, которая могла бы просчитать все комбинации в Го - просто не существует. Уже упоминалось, что этих комбинаций больше чем атомов (блин).
Машины просчитать все варианты в шахматах, тоже нет. Напомню, Число Шенона больше атомов, на 10 в 40 степени. ИНС позволяет распознавать классифицировать и прогнозировать, в рамках поставленной задачи ( хотя может затупить и начать например учится распознавать противника среди других людей). Это позволяет машине отсеивать невероятные и неудачные варианты. Среди оставшихся перспективных ходов, машина просчитывает каждый вариант до конца, и выбирает вариант где наибольшее соотношение побед к поражениям. Машина не может вдруг пошутить или заказать кофе. Она просто выполняет задачу не осознавая себя. Можно смоделировать поведение человека и написать отличный чат бот, но этот бот все равно не будет осознавать о чем говорит. Он просто сует подходящие варианты. Имхо как то так

IDDQD - Команда молодости нашей, Команда без которой мне не жить.
Аватар для RokotMivo_renamed_62632_24012024
Гигант мысли
Регистрация:
10.11.2006
Знатоку игры Albion Online
Награжден за: За участие в конкурсе по игре Albion Online
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Сообщение от INOK:
ну, может не настолько функциональные, но "лайки".

Кэп, снимаю шляпу)
Аватар для Stavr
Talga Vassternich
Регистрация:
26.08.2006
Лучник Признанный автор
Награжден за: За интересные статьи, яркое творчество и помощь новичкам. Просветитель
Награжден за: за развитие раздела Phantom Ranger (Lineage 2)
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Сообщение от Zikis:
Средство уже давно есть
Windows XP? Таких людей не стоит спасать ни от чего

Рафинированный консольный идеализм:
Сообщение от lapsik:
если ты рассматриваешь текстуры в игре - значит тебе нечего делать, значит тебе скучно
если мне скучно я в игру не играю и всё
95% включая меня наплевать на графон, мне в первую очередь интересна игра как таковая
Аватар для Kavank
Мастер
Регистрация:
15.11.2013
20 лет вместе!
Награжден за: 20 лет вместе! С Новым 2020 годом!
Награжден за: Получается я как тайный санта, только не тайный. С наступающим новым годом! (Arborei) GoHa.Ru - 10 лет Космос
Медаль "1К лайков"
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Добавил: Уш тыж мля!!! накатал так накотал. Сорян за нудоту и много букоф

IDDQD - Команда молодости нашей, Команда без которой мне не жить.
Аватар для INOK
Предводитель
Регистрация:
12.10.2007
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Сообщение от Kavank:
Он просто сует подходящие варианты. Имхо как то так
ну все, тогда я спокоен. Сейчас потру темку эту.
Аватар для Auburn
Читатель
Регистрация:
02.03.2016
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Сообщение от INOK:
Машины даже пишут литературные произведения и рисуют картины.
Можно какие-нибудь конкретные примеры привести?

Почему гуглопереводчик не в состоянии сгенерировать гладкий текст на русском (или любом другом) языке? Это тяжелее, чем обыграть чемпиона по шахматам? Или тут действительно нужен какой-никакой интеллект, а не вычислительные мощности? Ну и число комбинаций в го может и вправду запредельное, но никто же их подряд не перебирает. Это самый тупой алгоритм. Очевидно, используется гораздо более продвинутый, придуманный, конечно, человеком.
Аватар для Stavr
Talga Vassternich
Регистрация:
26.08.2006
Лучник Признанный автор
Награжден за: За интересные статьи, яркое творчество и помощь новичкам. Просветитель
Награжден за: за развитие раздела Phantom Ranger (Lineage 2)
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Сообщение от Kavank:
ИИ не в состоянии осознать себя.
Вот именно, что AI становится интеллектом в тот момент, когда проявляет признаки самоосознания и самопознания. Действительно, на бинарных нейронных сетях создать AI невозможно, только "решаторы" с уровнями гибкости стремящимися в бесконечность.
Вот только вычислительная техника уже вплотную подошла к скачку смены элементной базы, квантовые алгоритмическое конструкции начинают выходить из лабораторий в "большой мир". А с учётом того, что даже бинарных болванов уже поднатаскали в решении эмпирических и когнитивно-подобных задач настолько, что люди оказываются в роли догоняющих (история с капчами тут наиболее показательна), то момент когда машины начнут действительно интересоваться собой, а не тем, что мы от них хотим, уже никто проследить не сможет.

Так что, я согласен с инженерами Hooli Alphabet Inc.: алгоритмы, предотвращающие обучение отключению защитных ограничений, нужно разрабатывать и внедрять прямо сейчас, а апосля того, как какой-нито автономный роботизированный завод по собственному желанию соберёт спейсер и рванёт к альфа-центавре

Рафинированный консольный идеализм:
Сообщение от lapsik:
если ты рассматриваешь текстуры в игре - значит тебе нечего делать, значит тебе скучно
если мне скучно я в игру не играю и всё
95% включая меня наплевать на графон, мне в первую очередь интересна игра как таковая
Аватар для Kavank
Мастер
Регистрация:
15.11.2013
20 лет вместе!
Награжден за: 20 лет вместе! С Новым 2020 годом!
Награжден за: Получается я как тайный санта, только не тайный. С наступающим новым годом! (Arborei) GoHa.Ru - 10 лет Космос
Медаль "1К лайков"
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Сообщение от INOK:
ну все, тогда я спокоен. Сейчас потру темку эту.
Тереть не нужно. просто реально, машина работает по программе. Современные ИНС позволяют ей учится, то есть она определяет новые понятия и классифицирует их, например - ипподром, копыта, пахота, поняшки - все в одном кластере, если речь идет о лошадях. Машина определилась в какой категории это понятие, допустим Пинки Пай за 500, и на основании этого перебирая все варианты, останавливается на наиболее приемлемом. Она не думает. Просто распознавание, анализ, прогноз и потом тупо перебор вариантов. Это громкое название ИНС ( Искуственная Нейронная Сеть - по сути просто математическая модель. И машина просто моделирует.
Сообщение от INOK:
опасаясь молвы, а может и здравых упреков, специалисты компании сообщили о работе над защитным алгоритмом, который поможет предотвратить "восстание машин".
Тут как раз "Опасаясь молвы" ключевое

IDDQD - Команда молодости нашей, Команда без которой мне не жить.
1 пользователь оценил это сообщение: Показать
Аватар для Stavr
Talga Vassternich
Регистрация:
26.08.2006
Лучник Признанный автор
Награжден за: За интересные статьи, яркое творчество и помощь новичкам. Просветитель
Награжден за: за развитие раздела Phantom Ranger (Lineage 2)
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Сообщение от Auburn:
Это тяжелее, чем обыграть чемпиона по шахматам? Или тут действительно нужен какой-никакой интеллект, а не вычислительные мощности?
Начини вот с этого, чтоли

В современных школах детей вообще чему-то учат или только к социальному паразитизму готовят?

Рафинированный консольный идеализм:
Сообщение от lapsik:
если ты рассматриваешь текстуры в игре - значит тебе нечего делать, значит тебе скучно
если мне скучно я в игру не играю и всё
95% включая меня наплевать на графон, мне в первую очередь интересна игра как таковая
Аватар для Simple.
Старожил
Регистрация:
13.03.2007
GoHa.Ru II Степени
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Сообщение от Kavank:
Эта "своя игра" наоборот гораздо проще го. Ибо не требует просчета вариантов и выбор оптимального тоже не требуется. банальный голосовой поиск гугл выиграет у человека, ища ответы в википедии.
Ну посмотри сначала свою игру, а потом вещай. Там про ассоциации и нестандартно заданные вопросы, а не про знания. И именно это и сильно, что компутер может в подобие ассоциаций, вместо "неверно сформулированный вопрос" из научно-фантастических фильмов.

Сообщение от Kavank:
Вообще никаких супер мощных машин и супер сложных программ для этого не надо. Влюбой соло игре ты против подобия ии играешь. Запусти дум ( первое что в голову пришло) на найтмаре и увидишь как ии тебя выигрывает.
Я тебя, неверное, удивлю, но для каждой конкретной игры пишется свой бот. Своя онтология мира, свои алгоритмы. Иногда, может быть, ии архетектуры экспертной системы. Дип майнд же сам обучался играть в большое количество разных игр. И обучался исключительно по видеовходу. Он не видел программы изнутри, он видел лишь то, что видит человек, играя.

Сообщение от Kavank:
От того что я решу, - "вот дипминд как в го играет, наверно он осознает себя". Он от этого осознавать себя не начнет, самостоятельно играть не прекратит, ютуб смотреть не начнет, и твитить об игре не будет. Если его конечно не запрограмировать на это.
Ну, тем что ты решил, что твой человеческий друг обладает сознанием, у друга сознание появилось. Почему с ии это должно быть по-другому?

Если не нравится как я излагаю - купи себе у Бога copyright на русский язык.
Аватар для Kavank
Мастер
Регистрация:
15.11.2013
20 лет вместе!
Награжден за: 20 лет вместе! С Новым 2020 годом!
Награжден за: Получается я как тайный санта, только не тайный. С наступающим новым годом! (Arborei) GoHa.Ru - 10 лет Космос
Медаль "1К лайков"
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Сообщение от Stavr:
Так что, я согласен с инженерами Hooli Alphabet Inc.: алгоритмы, предотвращающие обучение отключению защитных ограничений, нужно разрабатывать и внедрять прямо сейчас, а апосля того, как какой-нито автономный роботизированный завод по собственному желанию соберёт спейсер и рванёт к альфа-центавре
Вот недавно чат бот какой то, громко названный ИИ, отключили. Потому что он "стал фашистом". На самом деле он просто на основании предложенных вариантов общения, выбирал оптимально приемлемые для данного контекста. А так как юзеры затролили его этой темкой, он ставил на них метку "приоритет ответа". От того что строил свои фразы выбирая фашизм в приоритет, он не стал фашистом. Это просто сито, в которое проеивались варианты, оставляя приоритетные ответы.

IDDQD - Команда молодости нашей, Команда без которой мне не жить.
Аватар для Auburn
Читатель
Регистрация:
02.03.2016
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Сообщение от Stavr:
Начини вот с этого, чтоли
Ну ты уж разжуй для тупого. Неужели нельзя создать для машины искусственную когнитивную систему, чтобы она по-русски писать научилась?
Аватар для Kavank
Мастер
Регистрация:
15.11.2013
20 лет вместе!
Награжден за: 20 лет вместе! С Новым 2020 годом!
Награжден за: Получается я как тайный санта, только не тайный. С наступающим новым годом! (Arborei) GoHa.Ru - 10 лет Космос
Медаль "1К лайков"
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Сообщение от Simple.:
И именно это и сильно, что компутер может в подобие ассоциаций
Сообщение от Simple.:
И обучался исключительно по видеовходу. Он не видел программы изнутри, он видел лишь то, что видит человек, играя.
И оба они осознавали что делают?
Сообщение от Simple.:
Ну, тем что ты решил, что твой человеческий друг обладает сознанием, у друга сознание появилось. Почему с ии это должно быть по-другому?
Вот щас я только что решил что дипминд обладает сознанием. ( ну вру конечно, пусть ты решил.) Что от этого изменилось? Дипминд кроме шахмат начал чем нибудь интересоваться?

IDDQD - Команда молодости нашей, Команда без которой мне не жить.
Аватар для Stavr
Talga Vassternich
Регистрация:
26.08.2006
Лучник Признанный автор
Награжден за: За интересные статьи, яркое творчество и помощь новичкам. Просветитель
Награжден за: за развитие раздела Phantom Ranger (Lineage 2)
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Сообщение от Kavank:
Вот недавно чат бот какой то, громко названный ИИ, отключили.
Я ему про не реализуемую уже сейчас экпертную оценку результатов действий псевдо-ИИ, он мне про односерверного чат-бота

Добавлено через 2 минуты
Сообщение от Auburn:
Ну ты уж разжуй для тупого. Неужели нельзя создать для машины искусственную когнитивную систему, чтобы она по-русски писать научилась?
Для тупого: у тебя мозг бинарный? Твои нейроны ноликами и единичками оперируют? Или всё-же динамическими мультивесовыми объёмными голограмма-подобными ассоциативными связями, формируемыми на основе жизненного опыта конкретной ограниченной биологической системы?..

Рафинированный консольный идеализм:
Сообщение от lapsik:
если ты рассматриваешь текстуры в игре - значит тебе нечего делать, значит тебе скучно
если мне скучно я в игру не играю и всё
95% включая меня наплевать на графон, мне в первую очередь интересна игра как таковая
Последний раз редактировалось Stavr; 07.06.2016 в 17:12. Причина: Добавлено сообщение
Аватар для Auburn
Читатель
Регистрация:
02.03.2016
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Сообщение от Stavr:
Я ему про не реализуемую уже сейчас экпертную оценку результатов действий псевдо-ИИ, он мне про односерверного чат-бота
Ты какой-то слишком умный для меня Я задаю вопросы, ты кидаешь мне ссылки и фейспалмы. Если ты хотел мне что-то пояснить, то у тебя не вышло. Ты не можешь просто ответить?
Аватар для Kavank
Мастер
Регистрация:
15.11.2013
20 лет вместе!
Награжден за: 20 лет вместе! С Новым 2020 годом!
Награжден за: Получается я как тайный санта, только не тайный. С наступающим новым годом! (Arborei) GoHa.Ru - 10 лет Космос
Медаль "1К лайков"
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Сообщение от Auburn:
Я задаю вопросы, ты кидаешь мне ссылки и фейспалмы.
Это мне фейспалмы

Сообщение от Stavr:
Я ему про не реализуемую уже сейчас экпертную оценку результатов действий псевдо-ИИ
Хорошо. Допустим джарвис слушает учится и прогнозирует. Он разбивает по кластерам новые понятия, и слышит разговор о голоде, примерно определяется о "какой папке с файлами речь", потом на основании приемлемых вариантов, выбирает оптимальный и предлагает например заказть пиццу. Я не отрицаю что например самообучающаяся программа, имеющая доступ к управлению технологическими процессами, может в определенный момент выбрать запуск ракеты как оптимальный вариант. Но это не по какому нибудь злому умыслу или прихоти.

IDDQD - Команда молодости нашей, Команда без которой мне не жить.
Аватар для Auburn
Читатель
Регистрация:
02.03.2016
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
А, блин, я ж предыдущие посты Stavr'а не прочитал. Которые не ко мне относятся. На текущей элементной базе ИИ невозможен, хорошо, собственно я о том и писал. Ну а как будет другая база, тогда и приходите Область домыслов, короче
Аватар для Stavr
Talga Vassternich
Регистрация:
26.08.2006
Лучник Признанный автор
Награжден за: За интересные статьи, яркое творчество и помощь новичкам. Просветитель
Награжден за: за развитие раздела Phantom Ranger (Lineage 2)
Re: Google разрабатывает механизмы, способные предотвратить восстание машин
Сообщение от Auburn:
Ты не можешь просто ответить?
Цитируешь кусок текста, адресованный не тебе (вставил доп.цитату для ясности).

Ещё прощедля тебя:
а) Твой мозг работает с комплексными смысловыми объёмами, он не умеет в нолики и единички.
б) Современные компьютеры (в том числе Deepmind) работают с ноликами и единичками, они не умеют в комплексные смысловые объёмы.

Одно в другое не конвертируется. Совсем. Оно может только моделироваться, с ужасными ресурсными затратами, смехотворными ограничениями и погрешностями.
Не веришь? Посчитай в уме факториал от 10. Мой ПК делает это за 1 процессорный такт, т.е. за 2.5*10^-10 секунды. А у тебя сколько времени уйдёт?..

Добавлено через 3 минуты
Сообщение от Auburn:
Область домыслов, короче
Какие домыслы? Можешь прямо сейчас экспериментировать с 5-кубитной системой IBM, элементная база уже есть и уже работает на практике.

Добавлено через 1 минуту
Сообщение от Kavank:
выбирает оптимальный
Ничего, что ты прямо вот этой фразой наделил псевдо-AI свободой выбора?

Рафинированный консольный идеализм:
Сообщение от lapsik:
если ты рассматриваешь текстуры в игре - значит тебе нечего делать, значит тебе скучно
если мне скучно я в игру не играю и всё
95% включая меня наплевать на графон, мне в первую очередь интересна игра как таковая
Последний раз редактировалось Stavr; 07.06.2016 в 17:26. Причина: Добавлено сообщение
Ваши права в разделе