Извлекаете сырой видеопоток. Открываете в
https://www.videohelp.com/software/My-MP4Box-GUI(mux). Кликаете правой клавишей мыши по строчке с видеодорожкой. Открываете PAR (custom). Выставляете желаемое соотношение сторон. Первое число указывает во сколько раз увеличивается ширина, второе - высота. Запускаете mux. Затем извлекаете из контейнера видеопоток с уже изменённым соотношением сторон.