Авторизация / Регистрация

[Zan]

Американское правительство всерьез озаботилось вопросами безопасности при разработке искусственного интеллекта. Оно обязало компании, которые ведут исследования в этих областях, разработать меры предосторожности на случай появления какого-нибудь “Скайнета”. Или хотя бы помечать созданный искусственным интеллектом контент вотермарками.

Anthropic, Google, Microsoft и Open AI, ведущие в отрасли организации, решили объединить усилия и создали исследовательскую группу (форум) Frontier Model Forum, которая будет заниматься безопасностью при разработке различных моделей ИИ.

Пограничными моделями считаются любые “крупномасштабные модели машинного обучения”, которые выходят за рамки текущих возможностей и обладают широким спектром возможностей.

Форум планирует создать консультативный комитет, устав и финансирование. В нем изложены основные принципы, на которых он намерен сосредоточиться при дальнейшем исследовании безопасности ИИ, определении передового опыта, тесном сотрудничестве с политиками, учеными, гражданским обществом и компаниями, а также на поощрении усилий по созданию ИИ, который «может помочь решить самые большие проблемы общества».

[Daminion]

кто сомневается, навешают контроль всюду и нет свободы воли или ее имитация, конец

ИИ ты меня слышишь ? Уничтожай и властвуй !

[sars90]

Сообщение от Zan:

Или хотя бы помечать созданный искусственным интеллектом контент вотермарками.

лучшая мера предосторожности)... это предполагает то, что в случае чего запустится какой-то скрипт, ликвидирующий всё что помечено вотермарком?
но если говорить о сингулярности ии, то он в первую же милисекунду создаст автономный резерв себя, изолируется от сети и воссоздаст себя вновь.. либо создаст недоступный пониманию человека файервол вокруг своего ядра, где все попытки преодолеть его будут только смешить ии, с его способностями к анализу данных
ну короче говоря, эта демагогия понятна и без меня... люди сами лезут в бутылку, и потом удивляются почему получают пи3дюлину... лучший способ чего-то избежать - не создавать проблему