Когда нажимаете
Save as внизу нажмите кнопку
Change и измените кодек на DivX или XviD.
P.S. Также чуть выше можно изменить режим кодировки: Fast, Normal или Full. Они влияют на время кодирования и конечное
качество.
Если VIrtualdubmod не открывает mp4, можно воспользоваться этой программой
Изготовление рипа с помощью программы XviD4PSP 5036
Или в поисковике сделайте запрос
mp4 в avi (
mp4 to avi), там найдете несколько программ для конвертирования.