Авторизация / Регистрация

[Wadimus]

Генеративный искусственный интеллект опирается на огромные массивы человеческого контента, собранного из открытых интернет‑источников. Однако учёные всё чаще задаются тревожным вопросом, что случится, когда оригинальный материал начнёт иссякать и модели станут обучаться преимущественно на данных, созданных другими ИИ.

Исследования уже демонстрируют тревожную закономерность: нейросети постепенно «поедают» собственный контент, и это приводит к неуклонной деградации качества. С каждой новой итерацией генерируемые результаты становятся всё более шаблонными и искажёнными, теряя разнообразие и выразительность.

В недавней работе, опубликованной в журнале Patterns, международная группа исследователей смоделировала этот процесс. Они объединили генератор изображений с системой автоматического описания картинок и запустили их в замкнутый цикл — без привлечения новых данных, созданных человеком. Спустя несколько итераций система начала выдавать крайне безликие изображения, лишённые индивидуальности. Авторы метко окрестили их «визуальной музыкой для лифта» — предсказуемой, невыразительной и лишённой творческой искры.

Этот эксперимент вскрыл фундаментальный феномен: даже без дополнительного обучения автономные петли обратной связи в ИИ естественным образом дрейфуют к общим аттракторам — усреднённым шаблонам, которые кажутся системе наиболее «безопасными» с точки зрения статистики. Вместо развития модель постепенно схлопывается в зону максимальной предсказуемости и минимального риска, утрачивая способность к генерации оригинальных решений.

Профессор компьютерных наук Университета Рутгерса Ахмед Элгаммал расценивает эти результаты как тревожное свидетельство нарастающей «культурной стагнации», порождаемой генеративным ИИ. Особенно тревожит то, что коллапс разнообразия произошёл без какого‑либо переобучения: модель просто многократно перерабатывала собственные выходные данные, неизбежно скатываясь к шаблонам.

Ситуация осложняется тем, что алгоритмы уже активно продвигают ИИ‑контент в топ поисковых и рекомендательных систем, вытесняя человеческие творения. Хотя сторонники технологии настаивают, что человек останется «финальным судьёй творчества», реальность оказывается сложнее. Медиация культуры через ИИ всё чаще фильтрует поток контента в пользу знакомого и предсказуемого. Сам механизм работы статистических моделей подталкивает их к усреднению: система естественным образом выбирает наиболее вероятные, а значит — наиболее шаблонные решения. В результате возникает замкнутый цикл самоподкрепления, где каждое новое поколение контента становится ещё более обезличенным.

Чтобы предотвратить культурную стагнацию, исследователи подчёркивают необходимость принципиальных изменений в подходе к разработке ИИ. Ключевым условием сохранения творческого разнообразия становится активное вовлечение человека в процесс генерации. Именно коллаборация человека и машины способна противостоять дрейфу к усреднённым результатам. При этом важно проектировать ИИ‑модели так, чтобы они не просто воспроизводили статистические паттерны, а сознательно отклонялись от них, сохраняя пространство для неожиданности и оригинальности.

Кроме того, требуется тщательный контроль источников данных: недопустимо допускать замкнутых циклов, где ИИ обучается исключительно на синтетическом контенте. Необходимо разрабатывать комплексные метрики качества, которые учитывали бы не только техническую точность генерации, но и культурную ценность, эмоциональную глубину и оригинальность создаваемого контента.

Без таких мер генеративный ИИ рискует превратиться из инструмента творчества в механизм его усреднения. Вместо обогащения культурного ландшафта он будет воспроизводить и усиливать шаблоны, постепенно сводя на нет разнообразие человеческого выражения.

[ухожу]

генеративный ИИ по образу и подобию создателей эволюционирует в дегенеративный ИИ

[DamneD_FeveR_]

Немного не по теме, но до сих пор не могу выйти а*уя, что стадо выдрессировали называть нейросети ИИ.

[Sapphire]

Чет они так и не научились делать реалистичных людей, особенно красивых баб. Видимо обучались на шлюхокосплеершах, которые выглядят, как пластмассовые и в итоге таких и генерит

[LazySage]

Сообщение от Sapphire:

Чет они так и не научились делать реалистичных людей, особенно красивых баб. Видимо обучались на шлюхокосплеершах, которые выглядят, как пластмассовые и в итоге таких и генерит

Ты просто не там порнуху смотришь.

Добавлено через 51 секунду

Сообщение от Wadimus:

Генеративный ИИ начал деградировать

Тьфу ты, я думал там уже начал деградировать а это только опыты провели.

[ReindeeR]

Сообщение от Sapphire:

Видимо обучались на шлюхокосплеершах, которые выглядят, как пластмассовые и в итоге таких и генерит

Ничего не имею против шлюхокосплеирш с фулами желательно (перпл бич тоже к ним относится )

Но как назло там сям натыкаюсь на
вот этих сгенерированных баб и не только.
Много ии треша

[Life]

гыгыгыгыгыг

п.с. ой, моё любимое видео на эту тему от Kurzgesagt:

YouTube

[Mypk]

К вышеописанной дискуссии нужны пруфы, дабы уважаемое сообщество смогло провести анализ и вынести свой авторитетный вердикт.

[Dintwe]

Главный вопрос, а нахрена оно нам надо? Очень тревожно конечно что ии который изменяет жизнь к худшему начал деградировать, подобно тому как и его фанатики который безпричинно суют его в боги и двигатели прогресса

[Казбек]

@DamneD_FeveR_, погугли, что такое ИИ, осёл

Добавлено через 3 минуты

@Dintwe, ну смотри: с ИИшкой у меня раз в 10 меньше писанины на работе, а ещё бесплатные и качественные персонажи и карты для ДНД. Плюс фанфики чисто для себя. Так что ты просто не умеешь его использовать.

Добавлено через 2 минуты

@Dintwe, с ИИшкой у меня раз в 10 меньше писанины на работе, халявные карты и персонажи для ДНД, а также чернушные и аморальные фанфики чисто для себя. Так что ты просто не умеешь им пользоваться

[DaOni]

Сообщение от Казбек:

@DamneD_FeveR_, погугли, что такое ИИ, осёл

Добавлено через 3 минуты

@Dintwe, ну смотри: с ИИшкой у меня раз в 10 меньше писанины на работе, а ещё бесплатные и качественные персонажи и карты для ДНД. Плюс фанфики чисто для себя. Так что ты просто не умеешь его использовать.

Добавлено через 2 минуты

@Dintwe, с ИИшкой у меня раз в 10 меньше писанины на работе, халявные карты и персонажи для ДНД, а также чернушные и аморальные фанфики чисто для себя. Так что ты просто не умеешь им пользоваться

О, пользователь нейросетки сам себе наложил в штаны пытаясь оскорбить кого то другого, все как всегда

Иску́сственный интелле́кт или ИИ, Искусственный ра́зум (англ. artificial intelligence; AI) в самом широком смысле — комплекс инструментов, позволяющих решать задачи уровня человеческого интеллекта (такие как восприятие, обучение, рассуждение, решение проблем и принятие решений) и реализованных машинами, в частности компьютерными системами[1]. Это направление исследований в области компьютерных наук, которая разрабатывает и изучает методы и программное обеспечение, позволяющие машинам воспринимать окружающую среду и использовать обучение и интеллект для выполнения действий, которые максимально увеличивают их шансы на достижение поставленных целей[2]. Такие машины можно назвать искусственным интеллектом. В то же время не следует путать понятия ИИ и больших языковых моделей (БЯМ/LLM): если ИИ — это область компьютерных наук, охватывающая решение широкого круга интеллектуальных задач, то БЯМ/LLM — это лишь один (хоть и самый популярный в середине 2020-х) из многих инструментов, который, даже развившись в мультимодальные системы с поддержкой изображений, видео и аудио (так называемые MLLM), остаётся, по сути, специализированным вероятностным алгоритмом предсказания последовательностей, а не универсальным интеллектом (AGI)[3].

[Dimoyok]

@DaOni, ИИ - это общий раздел науки, занимающийся слабоформализуемыми задачами. Машинное обучение - это подраздел ИИ. Нейросети - это модели глубокого обучения, которое является подразделом машинного обучения. ЛЛМ - это нейросеть для решения задач НЛП.
ИИ и ЛЛМ - это не противоположные понятия, они связаны иерархически.
Называть ChatGPT моделью ИИ - это как называть кота млекопетающим. Да, слишком общее, ни о чем не говорящее название, но ошибки нет.

Добавлено через 3 минуты

@DaOni, кстати, тебе определение, походу, нейросеть и нагенерировала. АГИ так же иерархически включено в понятие ИИ, как и ЛЛМ. Говорить, что ЛЛМ не ИИ, потому что ЛЛМ не АГИ - всё равно, что говорить, что коты не млекопитающие, потому что коты - не собаки.