ЫукпШ: Сам по себе new память не выделяет, он вызывает malloc. Значит, если есть ограничение, это ограничение malloc-a. Если всё-таки очень нужно использование new с очень большими объёмами, тогда можно попробовать new/delete перегрузить и использовать их вместе с VirtualAlloc/VirtualFree.
