я попробовал на 600 kbps и 1000 kbps разница минимальна
Обычно стремятся передать по-максимому оригинал, но тут уж зависит от преследуемых целей.
Можно ориентироваться на показатели квантов в логе кодирования, обычно между 16 и 25 предпочтительны для сохранения максимально прозрачного качества.
с настройками как здесь приведены
Не все настройки, приведенные здесь, будут оптимальны для вашего случая.
Для низких разрешений можно повышать количество рефов и б-фреймов хоть до 16 без ущерба совместимости.
кстати в логах на кодировке с настройками как в вашей инструкции указывает ошибку: x264 [warning]: b-pyramid + mb-tree is not supported
Стоит обновить версию x264, свежие билды поддерживают.
кстати применяю цветокоррекцию vivid чтобы цвета не выцветали
По идее они не должны выцветать, возможно вы что-то делаете неправильно.
на cfr 21,5 видео получается ну просто огромным 2,5 мин около 60 мб. исходное примерно 250 мб.
на 3 pass 600 kbps уже 12 мб, при том что особо большой разницы между ними нет.
Опять же стоит посмотреть на кванты, с трудом верится что между 60мб и 12мб нет особой разницы. CRF выше 21 по идее уже дает заметные артефакты. Если битрейт получается при этом большим, стоит либо поднимать настройки кодека, либо попытаться поработать с исходником, например, шумодавом.
Ну если же вам важен размер, то подгоняйте битрейт как вам надо. И кстати, в 3х проходах особо не вижу смысла.