По эсвидео интересный момент вот. В теории, если яркость и цвет не надо смешивать и делить между ними полосу частот, то у сигнала цветности ширина полосы частот ограничена частотой поднесущей, то есть нижняя боковая полоса будет от 0 до 4,43 МГц, и верхняя от 4,43 до 8,86, что вроде как должно сильно поднять четкость по цвету.
Фактически же результат по эсвидео довольно паршивый, то есть где-то на пути кодирование-декодирование полоса цветности теряется и так.
В композитном видео 1 боковая полоса составляет какие-то копейки, 0,8..1,5 МГц вроде, и увеличение ее раза этак в три было бы примечательно.
Возможно, перед стадией квадратурной модуляции цветоразностные компоненты фильтруются чем-то вроде простой RC цепи. Может быть, имеет смысл смонтировать сразу декодер и уже потом на его выходе поднять высокие частоты в цветоразностных сигналах. И по возможности использовать NTSC режим, чтобы декодер не делал размытие цвета по-вертикали, и чтобы не ставить линию задержки на строку.
Само эсвидео заводил на saa7134h тюнер и в сони тринитрон в обход фильтров, которые обратно разделяют яркость и цвет. В целом, там вроде и у самого чипа, который принимает яркость и цветность, полоса не очень. Но если в клоне сеги с чипа ргб попрали, чего бы не поизвращаться.