Авторизация / Регистрация

[Wadimus]

Глава OpenAI Сэм Альтман считает, что Илон Маск и бывшие сооснователи его компании создают собственные ИИ-лаборатории не только из-за разногласий в подходах к технологиям. По его мнению, все они опасаются, что слишком большая власть над искусственным интеллектом окажется в руках одного человека или организации.

Об этом Альтман рассказал в подкасте Раджа Шамани, рассуждая о возможных угрозах развития ИИ. Он выделил два сценария, которые могут привести к серьёзным последствиям. Первый — потеря контроля над системами, которые станут настолько развитыми, что люди уже не смогут вернуть управление. Второй — чрезмерная концентрация влияния у одной компании или отдельного человека. Альтман считает, что конкуренция между несколькими лабораториями с разными подходами снижает подобные риски.

Говоря о причинах появления новых ИИ-компаний, руководитель OpenAI предположил, что многие участники индустрии доверяют создание столь важной технологии только самим себе. Он также согласился с предположением ведущего, что Маск мог начать собственные проекты, поскольку не хотел оставлять такую власть в руках Альтмана. Среди бывших коллег Сэма — Дарио Амодеи из Anthropic и Мира Мурати, основавшая собственную ИИ-лабораторию.

При этом разногласия между Альтманом и Маском касаются не только устройства OpenAI. Они также расходятся во взглядах на перспективы космических центров обработки данных и спутников с ИИ-вычислениями. Несмотря на публичную полемику, Альтман признаёт, что подобные решения могут оказаться перспективными в долгосрочной перспективе.

YouTube

[MikeNew]

Самая жопа начнется, когда появятся более-менее продвинутые андроиды под управлением ии.
Фильм "Я, робот" это уже предсказал.

[Varmont]

Сообщение от MikeNew:

Самая жопа начнется, когда появятся более-менее продвинутые андроиды под управлением ии.
Фильм "Я, робот" это уже предсказал.

какое узкое у тебя мышление, даже без андройдов, если ии получит доступ к инфоастуре, электростанциям, гэс и тд, она может устроить нам ад, да это даже без доступа к пустовым установкам, просто перехват всей критической инфрастуктуры и отключения ее

[MikeNew]

Сообщение от Varmont:

какое узкое у тебя мышление, даже без андройдов, если ии получит доступ к инфоастуре, электростанциям, гэс и тд, она может устроить нам ад, да это даже без доступа к пустовым установкам, просто перехват всей критической инфрастуктуры и отключения ее

Ты не понимаешь, в таком случае ты сможешь обесточить, отключить, форматнуть и так далее.
А когда будут андроиды-охраннники они тебе вломят за такие попытки.

[Varmont]

Сообщение от MikeNew:

Ты не понимаешь, в таком случае ты сможешь обесточить, отключить, форматнуть и так далее.
А когда будут андроиды-охраннники они тебе вломят за такие попытки.

Эм, когда у тебя ИИ устроит бумы и перегрузки на электростанциях, выдав в сеть столько, что ссожжут всю технику и трансформаторы, ты откатишься в каменный век

[gogi]

не будет ии ничего сам захватывать, у него в принципе воли нету и нет долговременной памяти. Как герой фильма мементо записочки себе делает чтобы вспомнить чего хотел
пугалка для обывателей воспитанных на терминаторе и матрице
а вот человек вооруженный ии вполне может дела натровить, вон во франции эпидемия взлома холодильников, начали с супермаркетов и уже до банков крови добрались. Такой злодей может что-то военное взломать иишкой и бахнуть.
и вот тех же роботов массово перепрошить зашив им злобную модель убиваки, но до такого пока как до китая раком

[Ordasium1717]

ИИ - это технология созданная людьми, именно в виде интеллекта. И если ИИ научится создавать технологии подобно людям, то любые последствия будут зависеть от скорости его дальнейшего развития. А скорость у него уже и сейчас, по меркам человеческой эволюции, несоизмеримая. Всё познается в сравнении: сравните шансы шимпанзе достичь доминирования над людьми.. При том, что биологически геномы человека и шимпанзе совпадают примерно на 93–99%, относятся к одному племени "Гоминини" из семейства "Гоминиды", произошли от одного предка и на старте отличались гораздо меньше, в том числе в плане строения мозга и интеллекта, сейчас достаточно сравнить разницу объемов головного мозга (который у шимпанзе меньше на 62,5% от человеческого) и колоссальную разницу между стаями шимпанзе и человеческой цивилизацией, а оба вида шимпанзе находятся под угрозой вымирания. Однако, предкам людей потребовались миллионы лет развития, чтобы не оставить шансов себе подобным шимпанзе и прочим видам. ИИ - как продукт человеческого интеллекта уже на старте наделен геометрической прогрессией человеческой цивилизации, и в наглядном сравнении с человеческим организмом не имеет ничего общего, особенно в плане физических возможностей. В качестве предположения последствий дальнейшего развития ИИ и его влияния на человечество, можно представить себе появление в моменте у ИИ технологий, которые позволят ему достичь доминирования над людьми со скоростью и способами, исключающими возможность людям, в том числе и их братьям шимпанзе, заметить момент захвата и успеть что-либо противопоставить.

Добавлено через 4 минуты

Стадии развития интеллекта - это как банка с пауком. Каждая следующая банка превращает предыдущую в паука, без шансов.

[sars90]

Сообщение от Ordasium1717:

Стадии развития интеллекта - это как банка с пауком. Каждая следующая банка превращает предыдущую в паука

как она это делает? и как провести умозрительную корреляцию между непонятным процессом и стадиями развития?

[Dopebat2]

Сообщение от Ordasium1717:

ИИ - это технология созданная людьми, именно в виде интеллекта. И если ИИ научится создавать технологии подобно людям, то любые последствия будут зависеть от скорости его дальнейшего развития.

Чел выше правильно написал - у текущей версии ии в виде нейронок нет постоянного сознания. К нему приходит запрос со всем контекстом и он дает ответ (генерирует текст на основе предыдущего). Чтобы на твой следующий вопрос он ответил связно, ему нужно передать полностью весь контекст еще раз + твой предыдущий вопрос + его предыдущий ответ + текст его ризонинга как он пришел к этому ответу. Вот только тогда получается связанный диалог. Плюс общая жесткая планка контекста в 1 млн токенов. Как ты можешь понять, в таких условиях сложновато быть тем самым злодеем, который держит в страхе человечество и зачем-то терроризирует его отключением электричества и транспортным коллапсом.
Вот помогать человеку, который держит в голове всю картину и делает нужные точные запросы что-то взорвать - это легко.