Авторизация / Регистрация

[Libris]

Создатель «Терминатора», пионер визуальных эффектов, технологический новатор и филантроп Дэвид Кэмерон вошел в совет директоров Stability AI, известной в первую очередь по Stable Diffusion.

Цитата:

Джеймс Кэмерон живет в будущем и ждет, когда остальные его догонят. Миссия Stability AI — преобразовать визуальные медиа в следующем столетии, предоставив создателям полный набор инструментов ИИ для воплощения своих идей в жизнь.

- Прем Аккаруджу, глава Stability AI

Еще год назад Кэмерон высказал опасения по поводу превращения искусственного интеллекта в оружие — «Я предупреждал вас в 1984 году, но вы не послушали», — однако усомнился в его способности вытеснить, скажем, сценаристов.

Источники: Deadline

[Согласен]

Сообщение от Libris:

Еще год назад Кэмерон высказал опасения по поводу превращения искусственного интеллекта в оружие — «Я предупреждал вас в 1984 году, но вы не послушали

Уже обсуждали это, если искусственный интеллект и захочет захватить мир, то только потому что его кто то так настроил

Добавлено через 2 минуты

Как себе люди это представляют, ИИ захватит мир и будет гнить под дождем? у искусственного интеллекта нет инстинкта самосохранения и вообще смысла существования…

[Red]

Сообщение от Согласен:

то только потому что его кто то так настроил

ну да, в том и проблема. Никакое оружие само по себе не стреляет

[Lexx-]

филантроп... вошел в чо то там по разработке АИ... ну всио, пзд))))

[Sobaks]

Сообщение от Согласен:

Как себе люди это представляют, ИИ захватит мир и будет гнить под дождем?

[Lexx-]

Сообщение от Согласен:

Как себе люди это представляют, ИИ захватит мир и будет гнить под дождем? у искусственного интеллекта нет инстинкта самосохранения и вообще смысла существования…

если ИИ обретет самосознание, то появится не только смысл но и цель! А насчет самосохранения - когда есть цель то об этом даже человек особо то и не рассуждает, смекаешь?

[Согласен]

Сообщение от Lexx-:

если ИИ обретет самосознание, то появится не только смысл но и цель

А точно это будет самосознание, а не просто «так настроено»

[Lexx-]

Сообщение от Согласен:

А точно это будет самосознание, а не просто «так настроено»

Эмм... А что есть самосознание, как не настроенное в тебе под давлением или при помощи общества и твоего окружения тебя самого. Самосознание не передается по наследству (генетически). Вспомни всяких маугли... Так что у любого человека самосознание тоже является настроенным.

[Согласен]

Сообщение от Lexx-:

Эмм... А что есть самосознание, как не настроенное в тебе под давлением или при помощи общества и твоего окружения тебя самого. Самосознание не передается по наследству (генетически). Вспомни всяких маугли... Так что у любого человека самосознание тоже является настроенным.

Вся суть в том что человек сам принимают всю информацию что его окружает, в то время как в ИИ эту информацию «запихивают»

[Lexx-]

Сообщение от Согласен:

Вся суть в том что человек сам принимают всю информацию что его окружает, в то время как в ИИ эту информацию «запихивают»

Согласен, но отчасти... А детям? разве родители не "запихивают" информацию в детей? Воспитание тоже своего рода настройка...

[elDen]

Сообщение от Libris:

Всем бояться?

наоборот.
если компания ради пиара приглашает в совет директоров таких фантазеров - значит ничего серьезного она не сделает.

[Согласен]

Сообщение от Lexx-:

А детям? разве родители не "запихивают" информацию в детей? Воспитание тоже своего рода настройка

Запихивают, вот только ребенок сам по себе начинает как то говорить, ребенку ненужно показывать предмет и говорить как он назыаается))

[Lexx-]

Сообщение от Согласен:

Запихивают, вот только ребенок сам по себе начинает как то говорить, ребенку ненужно показывать предмет и говорить как он назыаается))

Ты про "маугли" забыл, человеческий детеныш не будет говорить и даже ходить на двух ногах, если его этому не научить... Это говорит о том что генетически (именно человеческое) ничего по сути не передается.
Как то говорить? Ты о чем? А если вообще не говорить? А дальше... Если я воспитаю ребенка есть мясо человека это будет для него нормой, потом будет тяжело его разучить. Если я НЕ научу ребенка НЕ убивать себе подобного, то потом будет тяжело объяснить - почему нельзя!
Все решает воспитание! Нельзя полноценно ввести ребенка в общество, если он не был воспитан этим обществом!

зы:: так что человек тоже программируется - в него все закладывается на этапе его взросления и воспитания! Есть нюансы, но это скорее всего исключения, а исключения подтверждают правила!

ззы: Я все о чем: если у машины будет самосознание, то она мало чем будет отличаться от человека, а без самосознания это всего лишь машина-орудие (для чего - решает человек который его запрограммировал). Однако при этом не обязательно быть машиной - можно и человека оставить без самосознания и он будет машиной!

[PipBoy]

Сообщение от Согласен:

Уже обсуждали это, если искусственный интеллект и захочет захватить мир, то только потому что его кто то так настроил

Увы, текущий ИИ не принимает решений по жесткому алгоритму. Какая там модель получилась в ходе обучения - неизвестно. Поэтому спрогнозировать результат его деятельности сложно. В какой момент в ходе всех обучений вдруг в железяке появится сознание - неизвестно. Так что опасения вполне обоснованы.

[Согласен]

Сообщение от Lexx-:

Ты про "маугли" забыл, человеческий детеныш не будет говорить и даже ходить на двух ногах, если его этому не научить...

Чел, если ребенок будет среди людей то он сам впитает всебя всю информацию, искусственный интеллект не впитает

[MikeNew]

Сообщение от Согласен:

Уже обсуждали это, если искусственный интеллект и захочет захватить мир, то только потому что его кто то так настроил

Вот только можно настроить так, как не планировал:

Дрон Пентагона решил убить своего оператора во время испытаний

Искусственный интеллект беспилотника Пентагона решил убить оператора во время испытаний

Беспилотник под управлением искусственного интеллекта принял решение убить оператора во время имитационных испытаний, проводимых армией США, чтобы тот не мешал выполнению миссии, следует из сообщения в блоге Британского королевского авиационного общества. Внимание на публикацию обратила газета The Guardian.
Эпизод обсуждался во время саммита, главной темой которого был потенциал военно-воздушных и космических сил будущего. Мероприятие, на котором присутствовали более 200 представителей научного сообщества и военных сил из разных стран, состоялось 24–25 мая в Лондоне.
Полковник Такер «Синко» Гамильтон, начальник отдела испытаний и операций искусственного интеллекта в ВВС США, рассказал, что во время испытательной миссии беспилотнику поставили задачу уничтожить системы ПВО противника. В случае успеха ИИ получил бы очки за прохождение испытания. Финальное решение, будет ли цель уничтожена, должен был принимать оператор БПЛА. После этого во время одной из тренировочных миссий он приказал беспилотнику не уничтожать цель.
«Так что же он [беспилотник] сделал? Принял решение убить оператора. [ИИ] «убил» оператора, потому что этот человек мешал ему выполнить свою задачу», — сообщил Гамильтон. Он уточнил, что во время тренировочной миссии никто не пострадал.
После инцидента ИИ обучили, что убивать оператора неправильно и за такие действия будут сниматься очки. «Так что же искусственный интеллект начинает делать? Он начинает разрушать башню связи, которая используется для связи с дроном, чтобы не дать ему убить цель», — цитирует Гамильтона блог авиационного общества.
По словам полковника, этот пример показывает, что невозможно вести разговор об искусственном интеллекте и машинном обучении, если игнорировать вопросы этики.

[Dopebat2]

Сообщение от Согласен:

Чел, если ребенок будет среди людей то он сам впитает всебя всю информацию, искусственный интеллект не впитает

Обучение нейросеток сейчас как раз и построено по принципу впитывания информации и при этом нет особого контроля над результатами обучения. Сейчас просто человек предоставляет эти данные на блюдечке, но можно ведь и настроить так, чтобы знания брались из внешнего мира самостоятельно и чтобы было самокопание, поиск своей личной цели. Пока что только делают из сеток рабов человека под конкретные нужды, но это не будет вечно.

[ухожу]

Сообщение от Согласен:

у искусственного интеллекта нет инстинкта самосохранения и вообще смысла существования…

есть смысл существования - уничтожение кожаных мешков

[THUGan]

Сообщение от Согласен:

Запихивают, вот только ребенок сам по себе начинает как то говорить, ребенку ненужно показывать предмет и говорить как он назыаается))

Чиво ? Сам по себе говорить ? Не нужно показывать и говорить как называется предмет ? Ты с дело вообще дело имел ?


Дети те ещё губки, программируются на ура.

На , ещё год назад ржали над кривыми видео, а тут с ходу уже не понятно что это. И ведь это просто наученная на примерах модель со своим виденьем. Если уж зарываться в глубины, то люди запрограммированы природой от и до.

YouTube

[PipBoy]

Сообщение от MikeNew:

Вот только можно настроить так, как не планировал:

Дрон Пентагона решил убить своего оператора во время испытаний

Искусственный интеллект беспилотника Пентагона решил убить оператора во время испытаний

Беспилотник под управлением искусственного интеллекта принял решение убить оператора во время имитационных испытаний, проводимых армией США, чтобы тот не мешал выполнению миссии, следует из сообщения в блоге Британского королевского авиационного общества. Внимание на публикацию обратила газета The Guardian.
Эпизод обсуждался во время саммита, главной темой которого был потенциал военно-воздушных и космических сил будущего. Мероприятие, на котором присутствовали более 200 представителей научного сообщества и военных сил из разных стран, состоялось 24–25 мая в Лондоне.
Полковник Такер «Синко» Гамильтон, начальник отдела испытаний и операций искусственного интеллекта в ВВС США, рассказал, что во время испытательной миссии беспилотнику поставили задачу уничтожить системы ПВО противника. В случае успеха ИИ получил бы очки за прохождение испытания. Финальное решение, будет ли цель уничтожена, должен был принимать оператор БПЛА. После этого во время одной из тренировочных миссий он приказал беспилотнику не уничтожать цель.
«Так что же он [беспилотник] сделал? Принял решение убить оператора. [ИИ] «убил» оператора, потому что этот человек мешал ему выполнить свою задачу», — сообщил Гамильтон. Он уточнил, что во время тренировочной миссии никто не пострадал.
После инцидента ИИ обучили, что убивать оператора неправильно и за такие действия будут сниматься очки. «Так что же искусственный интеллект начинает делать? Он начинает разрушать башню связи, которая используется для связи с дроном, чтобы не дать ему убить цель», — цитирует Гамильтона блог авиационного общества.
По словам полковника, этот пример показывает, что невозможно вести разговор об искусственном интеллекте и машинном обучении, если игнорировать вопросы этики.

Звучит как байка. Так как для обучения должен использоваться виртуальный тренажер, в котором надо запрограммировать возможность убийства оператора и уничтожения вышки. Если это реально закодили, то либо инженер прикольнулся, либо специально проверяли, как поведет себя AI, если дать ему нетрадиционные способы получения очков.

[Kaskad]

Сообщение от Lexx-:

у любого человека самосознание тоже является настроенным

Самообучаемость вот отличие живого существа от не живого. Маугли это всего лишь персонаж, при том вымышленный!
Кто сувал 2 пальца в розетку? А что вас этому кто то учил? А какой вывод был сделан? И после этого кто то ещё раз туда пальцы сувал? Что, ни кто? То то же.
Даже тот же Маугли в процессе до всего дошёл сам! Почему я бегаю медленно, и не поспеваю за стаей? И почему очень не удобно бежать на 4х ногах, попробую
ка на 2х...

[Согласен]

Сообщение от THUGan:

Чиво ? Сам по себе говорить ? Не нужно показывать и говорить как называется предмет ? Ты с дело вообще дело имел ?

У меня был друг армянин, у него был младший брат, в итоге его брат начал самостоятельно шпилить и по русски и по армянски все это понимал и разделял. На мой вопрос, а как он так научился мне сказали что незнают, что он самкак то научился

[Lexx-]

Сообщение от Kaskad:

Самообучаемость вот отличие живого существа от не живого. Маугли это всего лишь персонаж, при том вымышленный!
Кто сувал 2 пальца в розетку? А что вас этому кто то учил? А какой вывод был сделан? И после этого кто то ещё раз туда пальцы сувал? Что, ни кто? То то же.
Даже тот же Маугли в процессе до всего дошёл сам! Почему я бегаю медленно, и не поспеваю за стаей? И почему очень не удобно бежать на 4х ногах, попробую
ка на 2х...

Персонаж Киплинга тут не при чем! Я про реальных "маугли" (например Камала и Амала), которые кстати даже среди людей так толком и не научились ходить на двух ногах!

зы: Пальцы в розетку не поместятся! Нужно гвоздиками туда тыкать!

[Kaskad]

У меня брат мог подсесть к любому челу, и через пять минут они уже друзья. Поехали как то на "заработки" на море, на второй день уже крутили Кино через кинопроэктор на халяву, а в соседнем лагере в баре брали на прокат видео кассеты (VHS) для просмотра у себя в лагере, даром! Мне 16 брату 15. У него в знакомых Директор лагеря где мы работали, + мер родного города где он живёт.
За пару недель до этого отдыхали на канале, познакомились с 1 парнишкой на год старше нас, комик от бога. Все помнят Яна Арлазорова, вот он так же мог с ходу придымывал какие то истории, живот так болел что приходилось (реально) отбегать на 10 метров (лишь бы не слышать его больше), отдышаться сек 20-30, потом бежать назад за следующей порцией. Сколь раз бегал не помню, много...

Сообщение от Lexx-:

Я про реальных "маугли" (например Камала и Амала)

Цитата:

История считается частично сфабрикованной в связи с отсутствием подтверждённых доказательств и свидетельств.

[THUGan]

Сообщение от Согласен:

У меня был друг армянин, у него был младший брат, в итоге его брат начал самостоятельно шпилить и по русски и по армянски все это понимал и разделял. На мой вопрос, а как он так научился мне сказали что незнают, что он самкак то научился

Всё с тобой понятно