MetalliC, комплектные шейдеры работают, но там похоже GLSL (хотя и с DX работают), гвестовские, т.е. ноги растут из досбокса. По идее должны бы подходить хотя бы одни из Питовских, WinUAE, от самого DOSbox'а... ан нет, тут же крэш.
С конфигом решил проблему примерно так же, вынес его к черту из юзерпрофиля и закинул в папку эмуля. Также определил, что если выставить в конфиге для фулла скейл на единицу больше, чем физически помещается на экран, (в моем случае х6) то эмуль заполнит экран по высоте, а если больше на две единицы (опять же в моем случае х7) то заполнит вайдскрин полностью, даже если включено сохранение AR.

Извращение, неужто нельзя эти опции в GUI вставить.