Это странно до чрезвычайности. Возможность выбора матрицы появилась только в середине 5-х версий DivX, до этого была ТОЛЬКО H.263. Поэтому об этой матрице инженеры не знать просто не могли. Не говоря уже о том, что при задании любого профайла совместимости (за исключением HD) DivX вообще не дает выбрать матрицу MPEG. Из этого я делаю вывод, что если плеер поддерживает DivX, он просто не может иметь что-то против матрицы H.263.
Подозреваю, что Вашему плееру не понравились какие-то другие параметры фильмов (типа GMC-QP).