☰

並行運行腳本，一組一組分割主文件？

tag-icon • tag-icon linux ksh
並行運行腳本，一組一組分割主文件？

abc.txt我在 Linux 機器上有一個文件，如下所示：

abc|yes|50c|1|pending
bcd|no|100c|1|pending
cde|yes|45c|2|pending
def|no|44c|2|pending

我已根據第四個欄位將此文件拆分為兩個文件。1.txt：

abc|yes|50c|1|pending
bcd|no|100c|1|pending

和2.txt

cde|yes|45c|2|pending
def|no|44c|2|pending

如果第二個欄位為“是”，我想呼叫以第三個欄位作為參數的腳本，或者如果第二個欄位為“否”，則將第一個欄位作為參數，並並行運行腳本。 1.txt 應該運行，然後是 2.txt，如果任何腳本失敗，它應該將最後一個欄位從待處理更新為失敗/成功。

例如：

1.txt

ksh script1.ksh 50c
ksh script1.ksh bcd

2.txt

ksh script1.ksh 45c
ksh script1.ksh def

答案1

#!/bin/bash

runksh() {
    ksh script1.sh "$1";
}
export -f runksh

doit() {
    parallel --joblog +my.log --colsep '\|' \
             runksh '{=1 $_ = $arg[2] eq "yes" ? $arg[3] : $arg[1] =}' {};
}
export -f doit

parallel -u --colsep '\|' -j1 --group-by 3 --pipepart -a abc.txt doit

# my.log now contains whether a job succeeded or failed
# Extract exit code + argument
awk -e '$7 != 0 { print $11"|"$12"|"$13"|"$14"|FAILED"; }' my.log > failed
awk -e '$7 == 0 { print $11"|"$12"|"$13"|"$14"|SUCCEEDED"; }' my.log > succeeded
cat failed succeeded

相關內容