ParagonUnits, у тебя х какая-то с дх! по результатом можно сказать, что картинка с эмулятора сначала маштабируется до разрешения меньшее полноэкраного (скажем 800х600), потом еще раз до полноэкраного 1024x768!
вот нормальные скрины с Dolphin-win-x64-v3.0-586 на дх11, 3х и 1х скейл без сглаживания. как видишь всё ок. проблема на твоей стороне и не х гнать на дх! и потом, у меня в этом месте с отключенным лимитом кадров на дх11 - 39фпс, а на огл с схожими настройками - 36!