Instalei recentemente o Ubuntu 18.04 e essa resolução estava bloqueada em 600x480 ou algo parecido. Encontrei uma maneira de aumentá-lo para 1024x768, mas parece que é o máximo que vai.
Mudei o GFXMode para fazer isso.
Tentar fazer uma resolução personalizada do xrandr não funciona, porque no lugar do VGA-O, ele diz padrão para mim.
Não tenho mais certeza do que fazer. O driver da Nvidia é 390.
~$ xrandr
Screen 0: minimum 8 x 8, current 2881 x 1280, maximum 16384 x 16384
VGA-0 connected 1600x1280+1281+0 (normal left inverted right x axis y axis) 376mm x 301mm