Защитить человечество от ИИ больше некому: OpenAI распустила ответственную за это команду
Компания OpenAI, известная по разработке искусственного интеллекта и нейросетей, в прошлом году создала особую команду Superalignment, целью которой было обеспечить контроль над системами ИИ потенциально опасными для человечества. Но, похоже, теперь безопасность человечества больше их не интересует.
Superalignment распустили. Ее бывший лидер, Ян Лейке, разоткровенничался в социальной сети X, так что теперь мы можем узнать подноготную этой истории. По его словам, OpenAI не уделяла достаточного количества ресурсов для проведения необходимых исследований, а вопросы безопасности отошли на второй план чуть ли не сразу после основания команды. Компания обещала выделять 20% вычислительной мощности в течение четырех лет, но этого не произошло. В итоге это перешло в этап споров и выяснений отношений с руководством, что и привело к роспуску Superalignment.
Так что теперь о человечестве никто не позаботится, и нас поработят разумные машины. Наверное.
Последний раз редактировалось Zan; 19.05.2024 в 20:54.
Re: Защитить человечество от ИИ больше некому: OpenAI распустила ответственную за это команду
Человечеству не место в космосе, а захватывать вселенную как-то надо. Так что побыстрее создавайте терминаторов и можете откидывать копыта со спокойной душой.
Re: Защитить человечество от ИИ больше некому: OpenAI распустила ответственную за это команду
Сообщение от FinalRelease:
как языковая модель может кого то захватить? Он шо ********?
Легко. Когда эту самую языковую модель внедряют везде, сначала на правах информационного помощника (когда условную итоговую кнопку нажимает человек), а потом и давая управление напрямую, ибо мы всё проверили - отлично. Те же автопилоты, которые изначально были без этих ии, уже реально ездят по дорогам. Но дело за малым, когда они обучат эти модели и отдадут управление им, а не жестким алгоритмам старого образца.
Re: Защитить человечество от ИИ больше некому: OpenAI распустила ответственную за это команду
Сообщение от EugenPin:
@FinalRelease, тут разговоры не про языковую модель, а настоящий интеллект.
его пока не существует даже в проекте
У меня уже готов
Для тебя букет котов,
Очень свежие коты!
Они не вянут, как цветы.
Я несу букет котов,
Дай скорее вазу.
Очень свежие коты -
Это видно сразу!