Synology NAS - rsync atrapalhando versionamento/desduplicação

Synology NAS - rsync atrapalhando versionamento/desduplicação

É verdade que a implementação rsync padrão do Synology DSM 4.3 não é capaz de lidar com "vastas" quantidades de dados e pode atrapalhar o controle de versão/desduplicação? Será que alguma das variáveis ​​(verinformações detalhadasabaixo) poderia tornar isso muito mais difícil?

Editar: não estou procurando nada mais do que uma resposta se as afirmações acima não fazem sentido ou podem ser verdadeiras.

Informações detalhadas:

No trabalho, temos um Synology NAS em execução no escritório. Este NAS é usado por alguns designers de onde trabalham diretamente. Eles têm projetos em execução que consistem em fotos de alta resolução, PSDs grandes, PDFs e outros enfeites. Temos uma pasta que tem aprox. 430 GB de tamanho que consiste apenas nos projetos em execução atualmente. Esta pasta deve ser copiada em um datacenter, semanalmente através de nossa conexão com a internet.

Toda a nossa TI está sendo gerenciada por terceiros, que afirma que nosso backup está começando a atingir um determinado tamanho ("100 GB +") onde a implementação padrão do rsync DSM (4.3) é incapaz de lidar com a grande quantidade de dados para o backup online (em uma de suas máquinas em seu datacenter). Eles dizem que o backup consiste em cerca de 10 TB de dados porque o rsync tem problemas com "versionamento/desduplicação" (retenção: 30 dias) e fica confuso.

Por causa disso, eles sugerem o uso de um “serviço profissional de backup online”, que aumenta significativamente nossos custos por GB para backup online.

Responder1

Rsync por si sónão engasga com arquivos grandesou "muitos" arquivos. Dependendo da sua situação, pode ser (mas é improvável) que o trabalho rsync a cada semana leve mais de uma semana para ser concluído, fazendo com que um novo trabalho rsync comece antes do término do trabalho rsync anterior.

É de conhecimento comum entre o pessoal de TI que transferir toneladas de arquivos pequenos leva muito mais tempo do que transferir alguns arquivos muito grandes com todo o resto igual (mesma velocidade de internet, mesmaquantiade dados, etc... Dê uma olhada nisso ("Transferindo milhões de imagens") como um exemplo de discussão sobre Stack Overflow, bem como este ("O que é mais rápido e por quê: transferir vários arquivos pequenos ou poucos arquivos grandes?") como exemplo de discussão aqui no Serverfault.

Portanto, o problema pode ser que você deva compactar os arquivos/pastas antes de executar o rsync e, em seguida, copiar o arquivo compactado para o data center externo. De qualquer forma, isso economizaria custos de armazenamento de dados fora do local, embora abra outra lata de worms.

Seu primeiro passo seria, obviamente, descobrir quanto tempo leva para o trabalho rsync ser executado. Em seguida, descubra se você precisa alterar sua metodologia de backup, compactando os dados antecipadamente ou mudando para uma solução de backup alternativa.

A propósito, no momento desta postagem, Synology DSM 5.1 é a versão mais recente e 5.2 está em beta. Você deve atualizar para o DSM 5.1, caso ainda não o tenha feito. Isso certamente não prejudicaria sua situação.

informação relacionada