Проблему решил. Оказалось проблема и в приставке и в картридже.
Нашел распиновку разъема под картриджи на денди. Оказывается там должно быть 2 питания. На моей приставке "Питание 1" не оказалось. А на новодельном картридже этот контакт висит в воздухе, хотя площадка для перемычки есть.
Выяснилось, что "Питание 2" приходит на стабилитрон, там же оно понижается до 3,8 вольта и питает только часть картриджа (отсюда артефакты и кубики вместо картинки). Дольше оно идет на другой конец картриджа, где по сути должно было замыкаться с контактом "Питание 1". Но перемычку туда ставить не стали.
Отсюда у меня вывод, что на новодельных приставках питание по умолчанию подается на оба контакта разъема под картридж. И на них запускаются как старые так и новые картриджи. Точно такая же ситуация и с картриджами Sega. Тоже нужно кидать перемычку по питанию
Так же я часто слышал что картриджи шьются не одной игрой а зашивают 5-10 штук. Дальше перемычками устанавливают какой игре запускаться. Попробую поиграть с этими перемычками
может там будет сюрприз