Вегас открывать жатый по 2му способу файл отказуется насмерть. Так и должно быть?:)
Да, слишком агрессивные настройки для Вегаса. Но всегда можно перегнать в VirtualDUB в какой-нибудь lossless, и обрабатывать. Но вообще брать готовые мувики в качестве исходников вредно.
Где и что можно подкрутить?
MPEG-2, MPEG-4 и MPEG-4 part 10 (H264) кодеки стандартно работают в терминах Вегаса в Studio Levels (в терминах avisynth уровни Rec).
Для DVD-картики используется цветовое пространство Rec.601. Для HD-картинки используется Rec.709. В Вегасе при импорте DVD/DV/HDV/AVCHD все это проиводится к общему знаменателю.
Для 8-битных проектов это studio levels.
Фрапс использует PC Levels (в обычном режиме для разрешения <720p PC.601, для большего разрешения PC.709), и в Вегас они попадают как PC Levels.
Сам Вегас работает с PC levels в 8-битных проектах. Для DV это немного некорректно, так что при экспорте для TV люди используют фильтр Broadcast Color, который гарантирует на выходе Studio Levels и прочую фигню. Но нам это не нужно.
Xvid воспринимает PC Levels нормально, и формирует адекватную картинку. Цвета немного изменяются, но без пристального сравнения с исходником понять, что что-то изменилось, очень и очень трудно.
Mainconcept MPEG-2, Mainconcept AVC и Sony AVC формируют картинку убого. Они тупо полагают исходник как PC Levels, и жмут. На выходе в Windows Media Player получается более тёмная картинка с поплывшими цветами. Выкладывая это на youtube, ты получишь ту же более тёмную картинку. Но не всё так просто

Если кодирование шлов в mp4, то в Quicktime Player картинка правильная. А если брать эту картинку в avisynth, то неправильная. Короче, всё довольно печально.
Это можно частично исправить фильтром Color Corrector с пресетом Computer RGB to Studio RGB - получится адекватная картинка. Если приглядеться, она немного отличается, но с пивом потянет.
Кодирование в uncompress RGB не должно ничего портить, так что кодирование по второму методу в Вегасе может использовать RGB-исходник. Но тут появляется вторая засада - при тупом кодировании в x264 получается тот же эффект, что и с кодерами Sony, причём по тем же причинам - x264 по дефолту использует Studio Levels.
Есть вариант ставить для x264 параметр fullrange и надеяться на то, что декодер это поймёт, но есть и другой вариант - сделать правильное преобразование цветового пространства RGB->YV12 (x264 не умеет работать с RGB напрямую).
В ависинтовый скрипт в XVID4PSP после импорта клипа (AviSource...) добавляется (как
писал ранее в ветке Wanaby) строка:
ConvertToYV12(matrix="Rec.709")
К слову, если в системе стоят и фрапс, и ffdshow, в ffdshow следует отключить фрапсовыский кодек. У меня ffdshow-вариант фрапсового кодека корежит цвета описанным способом.