У меня такое было.
Говорят на зарубежных форумах, что надо руками построить граф и сделать его исходным видеофайлом для ависинта. Построил, но ависинт и это не захотел съесть. Бился я, бился, крутил и так, и эдак, и файл исходный в матрёшке перемуксил, и руками ависинт скрипт прописал, но МЕГУй ни в какую не хотел. Пришлось рипать другой программой Handbrake.
Кстати использование скрипта ависинта для МЕГУя считаю в моём случае абсолютно излишней процедурой (весь скрипт состоит из одной строки), но так МЕГУй написан. Кроме того, наверное для других форматов это важно.
В общем стандартно для обработки HD видеопотоков пользуюсь МЕГУем, на подхвате - Хендбрейк, у которого свои косяки вылазят, чаще, чем у МЕГУя.
Звуковые треки я другими средствами обрабатываю. Ну и стараюсь к каждому рипу сабы подогнать.