GTA 5 не может видеть Dx9, потому что она эту версию не поддерживает. А Dx11 не видит либо потому, что драйвер видеокарты не установлен (хотя в этом случае игра вообще не должна была запуститься), либо видеокарта не поддерживает Dx11. Какая видеокарта стоит?
Во первых обновить винду, до последней версии, там есть заплатки для ГП и функционала директа, ну и драйвера для своего видео. Еще Нвидиа обещала поддержку для ферми 12го директа. После всех обновлений должно работать.