Вот я как раз джавист, и знаете, хотя я и пишу gui и сделал пару либ для сокращения этого монотонного набора кода, но скажу лишь что для вычислений вам нужно создать отдельный класс, с методами, которые будут выполнять функции калькулятора, еще один класс - для описания содержимого окна, в майн-классе создайте отдельный тред где будете вызывать что-то вроде window.repaint() в бесконечном цикле; для того чтобы содержимое вашего окошка обновлялось. Попробуйте для начала лучше написать блокнот, чтобы понять как все работает на примитивном уровне