Только вот не понятно для чего 8К, если оригинальное разрешение совсем маленькое... там что качество как то улучшается через фильтры даже для 8k?
Чем ниже разрешение, тем ниже битрейт, а значит больше артефактов и каша, если картинка быстро меняется. Нужно просто записать в оригинальном разрешении lossless (например, 256x240) и увеличить картинку без фильтров, точнее Nearest Neigbor (Соседние пиксели) до 4K/8K с учётом соотношения сторон, такое легко сделать в ffmpeg или в любом редакторе. Из нюансов, как обрезать и для NES, MD (если 256 по ширине) и некоторых других нужно делать выбор: квадратные пиксели или 4:3, как на телевизоре, лучше квадратные, потому что растянуть картинку потом проще в проигрывателе. У хорошего примера записей -
https://www.youtube.com/user/TASVideosChannel/videos, 4:3 выбрано для NES.
Я об этом много раз писал на форуме, в теме по Mega Drive объяснял как идеально сделать, но всем плевать, а учитывая, что вы продолжаете использовать мерзкий фильтр (и самый простой, как я вижу), вам тоже нет смысла объяснять.
Кстати, я как-то пытался найти прохождение Dune II в нормальном качестве, но не нашёл, везде поганые фильтры, растянутое изображение, низкое качество, болтовня или что-то в этом духе.