стандартная официальная сборка MESS так игры запускать не будет. нужно указывать имя системы и игры в коммандной строке или bat/cmd файле, например так:
mess64 nes marioи если у тебя в папке roms лежат скачанные с pleasuredome "software list roms" NES - запустится игра Марио.
если нужно запустить произвольный ром, не в формате ромсета МЕСС - строка несколько иная:
mess64 nes -cart путь\имя_романо вообще лучше пользуйся графической оболочкой, например
QMC2