P.S. Вчера ради прикола посмотрел как оно выглядит в DOSBox (с опцией output=direct3d).
Не туда смотришь, дело не в оутпуте, дело в скалере (scaler: Scaler used to enlarge/enhance low resolution modes.
If 'forced' is appended, then the scaler will be used even if the result might not be desired.
Possible values: none, normal2x, normal3x, advmame2x, advmame3x, advinterp2x, advinterp3x, hq2x, hq3x, 2xsai, su - это из линуксовского досбокса, в виндовском режимов больше), правда лишь в том что эти скалеры и будут работать только в Direct3D и OpenGL)