Разумеется, такие артефакты возникают именно при фильтрации 2D в повышенном рендере, в нативе их в любом случае не будет, хоть с фильтрацией, хоть без нее. Для таких случаев и существует "серый" режим, когда фильтруется только 3D. И кстати это не баг рендера вообще, это абсолютно нормальное явление при попытке масштабировать спрайты, такие артефакты не только в PCSX2 есть.