Я напомню, что FM выход у Сежки очень сложный, в плане частотного диапазона. Дело в том, что YM2612 не имеет аккумулятора, для смешивания всех 6 каналов. Вместо этого используется разнесение во времени. На ЦАП в течение определённого времени выводится значение одного канала. Затем приходит время второго, после него третьего. После шестого возвращается очередь первого и цикл повторяется. Между уровнями каждого накала есть время с пустотой, где устанавливается 1/2 напряжения питания. Выглядит это вот так:


Если немного увеличить время то картинка становится вот такой:


Видно, что все каналы как-бы играют одновременно и с большой амплитудой. Но на самом деле, энергия каждого канала будет менее чем 1/6, т.к. скважность крайне маленькая. Это приводит к уменьшению энергии а значит и громкости канала. Ухудшает ситуацию то, что выход YM2612 это источник напряжения с вывода AVCC, это не комплементарный выход. Поэтому, MOL и MOR необходимо нагружать на сопротивление снаружи на массу. И только потом отбирать сигнал через конденсатор. Так же очевидно, что помимо низких звуковых частот, которые генерируют каналы FM, в сигнале будет присутствовать паразитная высокая частота, которая обусловлена переключением каналов. Она имеет несколько гармоник, самая нижняя из которых около 53кГц (VCLK / 24 / 6, где 24 это сколько тактов обрабатывает 1 канал пайплайн FM и 6 это количество каналов), от которой практически невозможно избавиться одной ступенью фильтрации. Выглядит это вот так:


Видна "пушистость" сигнала, которая увеличивается с отклонением уровня от нуля. Даже хороший баттерворт не избавляет результирующий сигнал это этого за одну ступень. А если резать сильнее, тогда срезаются все ВЧ в полезном сигнале ниже 20кГц и звук становится глухим. Однако, эта же пушистость делает высокие частоты в FM сигнале более мягкими и с другим балансом относительно низких (изменяется АЧХ).
Отмечу, что YM3438 отличается от YM2612 не только таймерами, но и количеством времени когда напряжение канала приложено к ЦАП. Т.е., у YM2612 канал подключен к ЦАП в течение 12 тактов VCLK из 24х (50% времени слота канала), а у YM3438 гораздо больше, вроде до 20 тактов из 24х (83% времени слота). Поэтому, он звучит громче, особенно на слабых сигналах, и его легче фильтровать.