Размер адресного пространства в 32битной винде — 2Гб, т.е. больше 2Гб мапяти ты юзать не сможешь, даже если физически ее будет больше. В вин 2003 можно это значение увеличить до 3Гб.
Как вариант, распаралелить работу с данными, разнеся ее на несколько процессов. Тогда каждый запущенный процес сможет юзать по 2Гб адресного пространства.