ogm и mkv, также как и avi - это не форматы, это контейнеры. И содержать в себе они могут видеопоток, аудиопотоки и потоки субтитров. И вот у потоков уже можно определить форматы, например для видео - всякие DivX'ы, XviD'ы, MPEG4 итд, или для аудио - MP3, AC3 итп...
В ogm и mkv чаще всего суют по несколько аудио-дорожек, поэтому, как было правильно замечено, незачем что-то перекодировать - нужно демультиплексить (то есть выдрать потоки из контейнера), а дальше уже мультиплексить (то есть собрать обратно) так, как захочется в нужный контейнер - хоть в avi.
Для сборки avi можно использовать VirtualDub Mod или AVI-Mux GUI. Для сборки mkv можно пользоваться MKVtoolnix. Для сборки OGM не помню, чем можно пользоваться, и честно говоря сейчас нет желания искать.