☰

Как удалить повторяющиеся строки, принимая во внимание текст только из столбца?

tag-icon • tag-icon text-processing awk sed
Как удалить повторяющиеся строки, принимая во внимание текст только из столбца?

У меня есть следующий файл:

ICR1 +
ICR1+1+3199 +
ICR1+2526+2828 +
IRT1 +
IRT1+1+1489 +
IRT1+713+937 +
LSR1 -
LSR1+1+1175 -
LSR1+366+638 -
NME1 +
NME1+1+340 +
NME1+2+118 +
PWR1 -
PWR1+1+941 -
PWR1+724+939 -
Q0017 -
Q0017+1+162 -
Q0020 -
Q0020+1370+1513 -
Q0020+1+440 -

Первый и второй столбцы разделены табуляцией. Мне нужно следующее:

ICR1 +
IRT1 +
LSR1 -
NME1 +
PWR1 -
Q0017 -
Q0020 -

Я пробовал использовать awk с разделителем полей «+», но он также стер + из второго столбца...

решение1

Вы можете установить разделитель полей awk на пробел или +, а затем выполнить классическую дедупликацию на основе ассоциативного массива:

$ awk -F'[ \t+]' '!seen[$1]++' file
ICR1 +
IRT1 +
LSR1 -
NME1 +
PWR1 -
Q0017 -
Q0020 -

решение2

Возможно, я неправильно понял проблему, но это, кажется, работает:

grep -v '+.' file

Выход:

ICR1 +
IRT1 +
LSR1 -
NME1 +
PWR1 -
Q0017 -
Q0020 -

решение3

Я добился того же самого с помощью sedкоманды

sed -n '/^.\{1,5\} .$/p' filename

выход

ICR1 +
IRT1 +
LSR1 -
NME1 +
PWR1 -
Q0017 -
Q0020 -

решение4

С использованиемМиллер:

mlr --tsv --implicit-csv-header --headerless-csv-output \
    put -S '$1=gsub($1,"[+].+$","")' then uniq -a inputfile

и вывод такой:

ICR1    +
IRT1    +
LSR1    -
NME1    +
PWR1    -
Q0017   -
Q0020   -

Связанный контент