Обычно в таких случаях не ограничивают панель, а привязывают кнопки к нижней границе окна (akBottom вместо akTop в Anchors) чтобы они смещались вниз вместе с ней. Но если всё-таки нужно ограничение, то в VCL для этого есть свойство Constraints, а в FMX (насколько я знаю, там нет Constraints) можно убрать автоматическое изменение размера панели и изменять его самостоятельно (в OnResize формы, например) контролируя и ограничивая как угодно.