Вы кодируете по качеству, выбирая посредственное качество - crf=21.0
Попробуйте кодировать по битрейту.
Методика подбора оптимального битрейта здесь:
//forum.kinozaltv.life/showpost.php?p=2357666
Или выбирать пресеты с лучшими настройками кодирования по качеству например x264 Q18 Insane