GUI なしでインストールできることを期待して、デスクトップ バージョンの ISO ファイルではなく、Ubuntu 21 サーバー バージョンをダウンロードしました。
そこで、「最小限の機能」を選択してインストールしたVirtualBoxでテストしてみました。
しかし、それでも GUI バージョンがインストールされました。
以下のコマンドで GUI をアンインストールしようとしましたが、効果はありませんでした。
sudo apt purge ubuntu-desktop
sudo apt remove ubuntu-desktop