Всё относительно. Если есть возможность, поступай в ВУЗ в миллионнике, лучше всего - в Москве. Если нет - то хоть в провинциальный, это лучше, чем ничего. Налегай на математику, ищи лекции дополнительные в сети.
Учёба там, конечно, так себе, я в своё время отдавал низкий приоритет кандидатам с дипломами не Москвы, не Питера и не Новосиба. Этот принцип чисто эмпирически сложился после нескольких десятков интервью и пары лет работы с некоторыми такими ребятами. Исключение - северные регионы РФ, оттуда нередко попадаются самородки, которые на личных качествах вывозят работу, даже при слабом образовании. Но кто-то может такой отсев не использовать, а собеседовать всех подряд, и там уж - как проявишься.
Что касается "корочки" о высшем для кадров (её много, где требуют), то в их глазах она совершенно одинаковая, независимо от места выдачи. Либо она есть, либо её нет.
Аспирантура может пригодиться, сейчас вообще система понемногу выстраивается, и формальным корочкам со временем будет уделяться всё больше внимания.