Когда функция вызывается в самой себе - это называется термином рекурсия. Эта тема не для новичков первого дня. Сначала прошарьтесь просто про тему функций
это IDLE. она не поняла где заканчивается функция F. надо просто после нее (перед print) одну пустую строку лишнюю ввести ... return F(n - 1) + F(n - 2)