En éste artículo de Solvetic, lo explican perféctamente.
https://www.solvetic.com/tutoriales/article/8899-pantalla-completa-virtualbox-mac-os/
Resumiendo:
Paso 1
En la máquina virtual, ve al menú «Apple – Acerca de esta Mac», luego a la sección de Pantalla. Allí verás que la resolución por defecto es 1024 x 768.
Paso 2
A continuación, apaga la máquina virtual haciendo clic sobre la X en la esquina superior derecha.
Paso 3
Una vez que la máquina virtual esté apagada, accede a VirtualBox y selecciona la máquina virtual de macOS.
Paso 4
Ve a «Configuración» y en la sección «General», en el campo «Nombre», toma nota del nombre de la máquina virtual de macOS.
Paso 5
Después de cerrar VirtualBox, accede al símbolo del sistema como administrador. Allí, navega a la ruta donde está instalado por defecto VirtualBox usando el comando:
cd «C:\Program Files\Oracle\Virtualbox»
Paso 6
Haz clic derecho sobre el escritorio de Windows 10 y selecciona «Configuración de pantalla» en el menú desplegado. En la sección «Escala y diseño», toma nota de la resolución actual de tu equipo.
Paso 7
En la terminal, ejecuta el siguiente comando, sustituyendo «Nombre máquina virtual» por el nombre real de tu máquina virtual de macOS y «X» por la resolución deseada:
VBoxManage setextradata «Nombre máquina virtual» VBoxInternal2/EfiGraphicsResolution X
Algunas de las opciones disponibles para la resolución son:
– 1280×720
– 1920×1080
– 2048×1080
– 2560×1440
– 3840×2160
– 1280×800
– 1280×1024
– 1440×900
– 1600×900
Al ejecutar el comando, verás que el proceso se realiza internamente.
Paso 8
Finalmente, accede a VirtualBox y arranca la máquina virtual. Esta tomará toda la resolución actual de la pantalla. Para comprobarlo, puedes ir de nuevo al menú Apple – Acerca de esta Mac y en la sección Pantalla verás la nueva resolución.