bash (sh, zsh и т.п.) и минимальные основы Python - в обязательном порядке. Именно это основные инструменты сисадмина для написания скриптов, автоматизирующих рутинные задачи.
Если придётся администрировать Nginx, Tarantool и т.п. - понадобится знание основ Lua.
Системный администратор - ни с какого боку не программист. Потому, ни "большие" языки программирования, ни серьёзное изучение самого программирования ему не требуются.