Если файл не заксорен/запакован каким-либо образом, то известные типы файлов легко отыскать по заголовку обычным hex-редактором. Также стоит попытать счастья с Extractor'ом от Nova, но он не видит специфических типов файлов, созданных для конкретной игры.