Для VirtualDub есть дополнительные плагины (фильтры), так что можно прямо в нем, в процессе конвертирования.
Ресурсы разработчиков плагинов:
//www.pctuner.ru/page-id-138.html
//virtualdub.kulichki.com/filters.html
//www.compression.ru/video/index_ru.htm
Только учтите, что любой фильтр шумоподавления работает на принципе сглаживания, так что потеря резкости неизбежна.