Recientemente instalé Ubuntu 18.04 y esa resolución estaba bloqueada en 600x480 o algo así. Encontré una manera de aumentarlo a 1024x768, pero parece que es el máximo que alcanzará.
Cambié el GFXMode para hacer eso.
Intentar crear una resolución personalizada desde xrandr no funciona, porque en lugar de VGA-O, dice predeterminado para mí.
Ya no estoy seguro de qué hacer. El controlador de Nvidia es 390.
~$ xrandr
Screen 0: minimum 8 x 8, current 2881 x 1280, maximum 16384 x 16384
VGA-0 connected 1600x1280+1281+0 (normal left inverted right x axis y axis) 376mm x 301mm