Потребление оперативной памяти программой задается разработчиком программы (программистом), возможно он еще не знает, что бывают люди с компьютерами, у которых памяти меньше, чем у него. К сожалению, пользователь программы не сможет повлиять на этот процесс. Поэтому можно либо добавить оперативки (физически или виртуально), либо попросить разработчика программы переписать программу, чтобы она нормально работала у вас.