При удалении остаются всякие куки и прочие вспомогательные файлы, где хранятся твои настройки, ключи и т.п. Всё без остатка нужно грохнуть. Если какие-нибудь сертификаты цифровые есть просто сохраняешь их, кидаешь в отдельную папочку, браузер стираешь, а потом при следующей установке восстанавливаешь.
Находятся в скрытой папке, например в 7-ке по такому адресу:
C:\Users\Admin\AppData\Local\Mozilla Firefox
