La botonera virtual no cuenta como espacio útil de pantalla, así que probablemente tengas elementos en el layout que estén forzando a otros para colocarse en su sitio.
Si en el código fuente en algún sitio calculas tamaños, ten en cuenta que no es lo mismo el tamaño de la pantalla que el tamaño que puede ocupar la aplicación.
Viendo que mezclas layouts relativos con alturas en pixels quizá vayan por ahí los tiros.