Не помню точно как там в самом UT, но по-моему во всех играх на движке Unreal музыка лежит в папке Music запакованная в архивы c расширением umx. Сама музыка имеет формат it. Архивы можно распаковать, например, Dragon Unpacker'ом, ну и запаковать наверно тоже.