Executar scripts em paralelo, um conjunto após o outro, dividindo o arquivo principal?

Question

Eu tenho um arquivo abc.txtassim em uma máquina Linux:

abc|yes|50c|1|pending
bcd|no|100c|1|pending
cde|yes|45c|2|pending
def|no|44c|2|pending

Dividi este arquivo em dois arquivos com base no quarto campo. 1.txt:

abc|yes|50c|1|pending
bcd|no|100c|1|pending

E2.txt

cde|yes|45c|2|pending
def|no|44c|2|pending

Se o segundo campo for 'sim' quero chamar um script com o 3º campo como parâmetro, ou se o segundo campo for 'não' o 1º campo como parâmetro, e executar os scripts em paralelo. 1.txt deve ser executado, depois 2.txt e se algum script falhar, ele deve atualizar o último campo de pendente para FAILED/SUCCESS. (meus scripts passam código de retorno 0-sucesso,1-falha)

Por exemplo:

1.txt

ksh script1.ksh 50c
ksh script1.ksh bcd

2.txt

ksh script1.ksh 45c
ksh script1.ksh def

Answer 1

#!/bin/bash

runksh() {
    ksh script1.sh "$1";
}
export -f runksh

doit() {
    parallel --joblog +my.log --colsep '\|' \
             runksh '{=1 $_ = $arg[2] eq "yes" ? $arg[3] : $arg[1] =}' {};
}
export -f doit

parallel -u --colsep '\|' -j1 --group-by 3 --pipepart -a abc.txt doit

# my.log now contains whether a job succeeded or failed
# Extract exit code + argument
awk -e '$7 != 0 { print $11"|"$12"|"$13"|"$14"|FAILED"; }' my.log > failed
awk -e '$7 == 0 { print $11"|"$12"|"$13"|"$14"|SUCCEEDED"; }' my.log > succeeded
cat failed succeeded