Eu baixei a versão do servidor Ubuntu 21 em vez do arquivo iso da versão desktop, esperando poder instalar sem GUI.
Então, tentei testá-lo no virtualbox, instalei "Recursos mínimos" selecionado.
Mas ainda assim instalei a versão GUI.
Tentei desinstalar a GUI com o comando abaixo, mas não ajudou.
sudo apt purge ubuntu-desktop
sudo apt remove ubuntu-desktop