1. У Винды закрыты исходный код, т. е. нельзя просто взять и переделать ее под себя.
2. Чтобы переделывать ОС, даже с открытыми исходниками, нужно ОЧЕНЬ хорошо понимать то, как она устроена внутри. А она устроена сложно. Это тебе не калькулятор переписать.
3. Есть такая вещь, как авторские права.
4. Есть Линукс, который уже представляет из себя альтернативу винде - бери и пользуйся.
5. Если изменить ядро системы, или написать свое, то перед тобой в полный рост встанет проблема того, что на новой ОС перестанет работать ВЕСЬ софт, какой только существует. Проблема совместимости - серьезное препятствие, которое даже в Линуксе так до конца и не решили, хотя много лет бьются и придумывают разные методы.