Авторизация / Register

[Wadimus]

Генеративный искусственный интеллект опирается на огромные массивы человеческого контента, собранного из открытых интернет‑источников. Однако учёные всё чаще задаются тревожным вопросом, что случится, когда оригинальный материал начнёт иссякать и модели станут обучаться преимущественно на данных, созданных другими ИИ.

Исследования уже демонстрируют тревожную закономерность: нейросети постепенно «поедают» собственный контент, и это приводит к неуклонной деградации качества. С каждой новой итерацией генерируемые результаты становятся всё более шаблонными и искажёнными, теряя разнообразие и выразительность.

В недавней работе, опубликованной в журнале Patterns, международная группа исследователей смоделировала этот процесс. Они объединили генератор изображений с системой автоматического описания картинок и запустили их в замкнутый цикл — без привлечения новых данных, созданных человеком. Спустя несколько итераций система начала выдавать крайне безликие изображения, лишённые индивидуальности. Авторы метко окрестили их «визуальной музыкой для лифта» — предсказуемой, невыразительной и лишённой творческой искры.

Этот эксперимент вскрыл фундаментальный феномен: даже без дополнительного обучения автономные петли обратной связи в ИИ естественным образом дрейфуют к общим аттракторам — усреднённым шаблонам, которые кажутся системе наиболее «безопасными» с точки зрения статистики. Вместо развития модель постепенно схлопывается в зону максимальной предсказуемости и минимального риска, утрачивая способность к генерации оригинальных решений.

Профессор компьютерных наук Университета Рутгерса Ахмед Элгаммал расценивает эти результаты как тревожное свидетельство нарастающей «культурной стагнации», порождаемой генеративным ИИ. Особенно тревожит то, что коллапс разнообразия произошёл без какого‑либо переобучения: модель просто многократно перерабатывала собственные выходные данные, неизбежно скатываясь к шаблонам.

Ситуация осложняется тем, что алгоритмы уже активно продвигают ИИ‑контент в топ поисковых и рекомендательных систем, вытесняя человеческие творения. Хотя сторонники технологии настаивают, что человек останется «финальным судьёй творчества», реальность оказывается сложнее. Медиация культуры через ИИ всё чаще фильтрует поток контента в пользу знакомого и предсказуемого. Сам механизм работы статистических моделей подталкивает их к усреднению: система естественным образом выбирает наиболее вероятные, а значит — наиболее шаблонные решения. В результате возникает замкнутый цикл самоподкрепления, где каждое новое поколение контента становится ещё более обезличенным.

Чтобы предотвратить культурную стагнацию, исследователи подчёркивают необходимость принципиальных изменений в подходе к разработке ИИ. Ключевым условием сохранения творческого разнообразия становится активное вовлечение человека в процесс генерации. Именно коллаборация человека и машины способна противостоять дрейфу к усреднённым результатам. При этом важно проектировать ИИ‑модели так, чтобы они не просто воспроизводили статистические паттерны, а сознательно отклонялись от них, сохраняя пространство для неожиданности и оригинальности.

Кроме того, требуется тщательный контроль источников данных: недопустимо допускать замкнутых циклов, где ИИ обучается исключительно на синтетическом контенте. Необходимо разрабатывать комплексные метрики качества, которые учитывали бы не только техническую точность генерации, но и культурную ценность, эмоциональную глубину и оригинальность создаваемого контента.

Без таких мер генеративный ИИ рискует превратиться из инструмента творчества в механизм его усреднения. Вместо обогащения культурного ландшафта он будет воспроизводить и усиливать шаблоны, постепенно сводя на нет разнообразие человеческого выражения.

[ухожу]

генеративный ИИ по образу и подобию создателей эволюционирует в дегенеративный ИИ

[DamneD_FeveR_]

Немного не по теме, но до сих пор не могу выйти а*уя, что стадо выдрессировали называть нейросети ИИ.

[Sapphire]

Чет они так и не научились делать реалистичных людей, особенно красивых баб. Видимо обучались на шлюхокосплеершах, которые выглядят, как пластмассовые и в итоге таких и генерит

[LazySage]

Originally Posted by Sapphire:

Чет они так и не научились делать реалистичных людей, особенно красивых баб. Видимо обучались на шлюхокосплеершах, которые выглядят, как пластмассовые и в итоге таких и генерит

Ты просто не там порнуху смотришь.

Добавлено через 51 секунду

Originally Posted by Wadimus:

Генеративный ИИ начал деградировать

Тьфу ты, я думал там уже начал деградировать а это только опыты провели.

[ReindeeR]

Originally Posted by Sapphire:

Видимо обучались на шлюхокосплеершах, которые выглядят, как пластмассовые и в итоге таких и генерит

Ничего не имею против шлюхокосплеирш с фулами желательно (перпл бич тоже к ним относится )

Но как назло там сям натыкаюсь на
вот этих сгенерированных баб и не только.
Много ии треша

[Life]

гыгыгыгыгыг

п.с. ой, моё любимое видео на эту тему от Kurzgesagt:

YouTube

[Mypk]

К вышеописанной дискуссии нужны пруфы, дабы уважаемое сообщество смогло провести анализ и вынести свой авторитетный вердикт.