EdHell, я тут путем некоторых танцев с бубном умудрился добраться до ингейма в Dante's Inferno c аргументом "-Xmx1536m", при этом JVM не упала.

Делал я вот что:
1. В коммандной строке прописал ключ "bcdedit /set increaseuserva 3072" (для Vista/7), позволяющий 32-х битным приложениям использовать до 3-х гбайт памяти, перезагрузил компьютер.
Здесь это подробно описано, для XP и Vista/7.
Чтобы 32-х битные приложения использовали до 3-х гбайт памяти, у них должен присутствовать ключ "LARGEADDRESSAWARE", как узнать если ли он или нет, и как его установить - смотрим дальше.
2. Для этих целей нам понадобятся утилиты dumpbin.exe и editbin.exe, (присуствуют в Visual Studio 2008 у меня лежат в c:\Program Files\Microsoft Visual Studio 9.0\VC\bin) для удобства копируем их куда-нибудь в C:\temp а также link.exe и
mspdb80.dll. (нужны для их запуска)
3. У меня JVM запускается через c:\Program Files\Java\jre6\bin\javaw.exe, вот в него я и буду добавлять ключ "LARGEADDRESSAWARE".
4. Копируем javaw.exe в C:\temp и в коммандной строке пишем "editbin /LARGEADDRESSAWARE javaw.exe", чтобы проверить добавился ли наш ключ пишем "dumpbin /headers javaw.exe", после чего мы должны увидеть:

5. Копируем наш правленый javaw.exe обратно в c:\Program Files\Java\jre6\bin.
