☰

Como visualizar o conteúdo de um arquivo esparso?

tag-icon • tag-icon linux filesystems sparse-files
Como visualizar o conteúdo de um arquivo esparso?

O tamanho do "arquivo" mostra 15 TB quando verifico o tamanho com ls -l

ls -l
total 16
-rw-r--r-- 1 root root 15393162788865 May 30 13:41 file

quando verifico o tamanho do "arquivo" com o comando du, ele mostra o seguinte.

du -a file 
12  file

Depois de pesquisar no Google, cheguei à conclusão de que o arquivo pode ser um arquivo esparso. comandos como less, tail, cat, hexdump etc. levam uma eternidade quando eu os leio.

aqui está a saída do filefrag.

filefrag -e file 
Filesystem type is: ef53
File size of file is 15393162788865 (3758096385 blocks of 4096 bytes)
 ext:       logical_offset:        physical_offset: length:   expected: flags:
   0:         0..        0:   22261760..  22261760:      1:            
   1: 3169274812..3169274812:   22268860..  22268860:      1: 3191536572:
   2: 3758096383..3758096383:   22271999..  22271999:      1:  611090431: last
file: 3 extents found

eu quero saber se existe uma maneira de ver apenas o conteúdo do arquivo sem os buracos/zeros no terminal Linux.

Responder1

Em sistemas Linux mais recentes, existem as extensões SEEK_DATAe que permitem que um aplicativo pule "buracos" ao ler um arquivo esparso.SEEK_HOLElseek(2)

Em sistemas mais antigos, ioctl(FIBMAP)pode ser usado e os dados podem ser lidos diretamente do dispositivo subjacente ( embora FIBMAPprecise CAP_SYS_RAWIOde recursos).

Infelizmente, não tenho conhecimento de nenhum utilitário coreutils/padrão que faça uso de qualquer um deles.

Aqui está uma pequena sparse_catdemonstração, que usa isso para despejar os dados de arquivos esparsos muito grandes rapidamente.

Exemplo:

$ cc -Wall -O2 sparse_cat.c -s -o sparse_cat

$ echo 1st | dd conv=notrunc status=none bs=1 seek=10M of=/tmp/sparse
$ echo 2nd | dd conv=notrunc status=none bs=1 seek=10G of=/tmp/sparse
$ echo 3rd | dd conv=notrunc status=none bs=1 seek=10T of=/tmp/sparse
$ ls -l /tmp/sparse
-rw-r--r-- 1 ahq ahq 10995116277764 May 30 16:29 /tmp/sparse
$ ./sparse_cat </tmp/sparse >/dev/tty
          a00000           a01000
1st
       280000000        280001000
2nd
     a0000000000      a0000000004
3rd

Nota: para manter as coisas simples, omiti qualquer código de abertura de arquivo (ele deve sempre ser usado como sparse_cat < input, não sparse_cat input) e quaisquer soluções alternativas para as interações incorretas entre sendfile(2)e ttys abertos com o O_APPENDsinalizador (use >/dev/ttyexplicitamente).

Observe também que os intervalos de dados/buracos têm granularidade de bloco - a 1ststring do exemplo acima é, na verdade, seguida por block size - 4bytes nulos.

sparse_cat.c

#define _GNU_SOURCE
#include <err.h>
#include <errno.h>
#include <fcntl.h>
#include <limits.h>
#include <stdio.h>
#include <unistd.h>
#include <sys/sendfile.h>

int main(void){
        off_t hole, data, pos, len; typedef unsigned long long ull;
        for(hole = 0;; data = hole){
                if((data = lseek(0, hole, SEEK_DATA)) == -1){
                        if(errno == ENXIO) return 0;
                        err(1, "lseek +data");
                }
                if((hole = lseek(0, data, SEEK_HOLE)) == -1)
                        err(1, "lseek +hole");
                dprintf(2, "%16llx %16llx\n", (ull)data, (ull)hole);
                for(pos = data; pos < hole;){
                        len = hole - pos; if(len > INT_MAX) len = INT_MAX;
                        if((len = sendfile(1, 0, &pos, len)) == 0) return 0;
                        if(len < 0) err(1, "sendfile");
                }
        }
}

informação relacionada