
tengo una lista de datos enorme
Mis datos se ven así
"[01/Dec/2011:20:53:04 +0900] ","COMZ","90.663.65.61","21.123.31.100","250","CONNECT","t.ierz.er:443","13127","836"
"[01/Dec/2011:22:20:01 +0900] ","COMZ","90.663.65.61","21.123.31.100","250","CONNECT","t.ierz.er:443","13127","836"
"[02/Dec/2011:24:33:04 +0900] ","COMZ","20.663.65.61","2.123.91.100","220","CONNECT","t.ierz.er:443","13127","836"
¿Cómo puedo obtener un formato de datos como datos de valor único o dirección IP?
01/DEC/2011 90.663.65.61 21.123.31.100
Porque obtuve el mismo valor y no puedo obtener el valor único
[01 / Dec / 2011: 20: 53: 04 0900] 90.663.65.61 21.123.31.100
[01 / Dec / 2011: 20: 53: 04 0900] 90.663.65.61 21.123.31.100
código:
file.csv | awk -F\" '{print $2,$6,$8}' | sort | uniq -c | sort -n
Respuesta1
Debe utilizar sed
para completar su solicitud.
Aquí hay un comando que debería funcionar para su caso:
cat file.csv | awk -F\" '{print $2,$6,$8}' | sed 's#\(:[[:digit:]]\{2\}\)\{3\} +0900##' | sort | uniq -c | sort -n
Eliminará la fecha para mantener solo este formato: [01/DEC/2011] 90.663.65.61 21.123.31.100
.
Respuesta2
Prueba esto,
awk -F '[:"[]' '{print $3" "$10" "$12}' file.csv | sort | uniq
Respuesta3
Como sus datos parecen estar en formato CSV, es posible que pueda utilizarlos csvsql
desde csvkit
, consultehttps://csvkit.readthedocs.io/en/1.0.3/scripts/csvsql.html#
Suponiendo que su archivo tenga nombredata.csv
csvsql -H --query 'SELECT a,c,d FROM data GROUP BY c,d' data.csv
huellas dactilares
a,c,d
[02/Dec/2011:24:33:04 +0900] ,20.663.65.61,2.123.91.100
[01/Dec/2011:22:20:01 +0900] ,90.663.65.61,21.123.31.100
Respuesta4
Siempre recomiendo usar un analizador CSV para datos CSV. Aquí está Rubí:
ruby -rcsv -ne 'CSV.parse($_) do |row|
puts [row[0][1..11].upcase, row[2], row[3]].join " "
end' | sort -u
01/DEC/2011 90.663.65.61 21.123.31.100
02/DEC/2011 20.663.65.61 2.123.91.100