Estou com esse problema há muitos meses. O tamanho da fonte do menu VLC aumenta várias vezes quando movo a janela do VLC da tela principal para a tela secundária.Aqui está minha gravação de tela para mostrar o que está acontecendo. Esse problema só acontece com o VLC, nenhum outro aplicativo apresenta esse comportamento. Desinstalei o VLC, excluí todos os arquivos de configuração e cache do vlc dos meus diretórios .config, .local e .cache e reinstalei-o e o problema ainda ocorre. Lembro-me vagamente de que o problema começou a ocorrer depois que pressionei acidentalmente alguma combinação de teclas enquanto operava o VLC.
Mais detalhes: A distribuição é Ubuntu 18.04.3 LTS. A resolução para ambos os monitores é a mesma (1920x1080). Testei com outro aplicativo QT (Audacious) e ele não apresenta o problema descrito para vlc.