Сам только что напоролся на эту проблему на рабочей Win10.
Помогло переименование "Mesen.exe" в "Mesen_P.exe"
Видимо на портативную версию баг не действует, лол.
Касаемо фильтра: пробуйте его в NTSC-режиме, с включенной Vsync (иначе дрожит),
билинейной интерполяцией, и рефрешем 60Гц в настройках Windows.
P.S: так как фильтр основан на целочисленной математике, этот алгоритм в будущем
может быть переделан под PAL.

Статика не передает всей прелести, именно в движении, при соблюдении vsync+рефреша 60Гц раскрывается весь потенциал.