find
私はディレクトリに多くのファイルをインポートし、xargs
chroot環境で一度に1スクリプトの対応するファイルを実行するために使用するbashスクリプトを持っています。私の理解は、xargsがゼロ以外の終了コードをチェックすると終了して処理を停止しますが、何らかの理由でそうでないようです。
私が持っているスクリプトは次のとおりです。
#!/usr/bin/env bash
set -euo pipefail
script_dir=$( cd "$( dirname "${BASH_SOURCE[0]}" )/.." && pwd )
rootfs="$1"
exec_script() {
script="$1"
relative_script_path="$(realpath --relative-to="$script_dir" "$script")"
echo -e "\e[1;94m=> executing script $script ($relative_script_path)\e[0m"
sleep 5
if ! "$rootfs/enter-chroot" sh -c "/$relative_script_path"; then
echo -e "\e[1;31m=> script $script failed\e[0m"
exit 1
fi
echo -e "\e[1;32m=> script $script ran successfully\e[0m"
}
export -f exec_script
export rootfs
export script_dir
find "$script_dir/build/scripts" -name '*.sh' -print0 | sort -z | xargs -r -0 -I% -n1 bash -c 'exec_script "$@"' _ %
実行すると、次の結果が表示されます。
./build/run.sh /tmp/test
=> executing script /tmp/builder/build/scripts/000-upgrade.sh (build/scripts/000-upgrade.sh)
environment: line 4: /tmp/test/enter-chroot: Not a directory
=> script /tmp/builder/build/scripts/000-upgrade.sh failed
=> executing script /tmp/builder/build/scripts/001-firmware.sh (build/scripts/001-firmware.sh)
environment: line 4: /tmp/test/enter-chroot: Not a directory
=> script /tmp/builder/build/scripts/001-firmware.sh failed
私はどこで間違っていますか? xargsが処理を停止し、ゼロ以外の終了コードで終了するようにするにはどうすればよいですか?
答え1
ドキュメントxargs
(man xargs
実際に終了について話しているものを参照してください。
このコマンドの呼び出しが状態 255 で終了すると、追加の
xargs
入力を読み取ることなく即座に停止します。エラーメッセージは以下から送信されました。標準エラーこのようなことが起こった場合。
したがって、考えられる解決策の1つは、exec_script
エラーが発生したときに終了ステータス255を返すように変更することです。
何も変更できない場合、もう1つの可能な解決策exec_script
は一般的なコンテンツをxargs
シェルループに変換することです。
find "$script_dir/build/scripts" -name '*.sh' -print0 |
sort -z |
while IFS= read -r -d '' item && exec_script _ "$item"; do :; done
exec_script
ゼロ以外の終了値が返されると、ループは中断されます。
もう一つの解決策はコメントこれはおそらくスクリプトで終了エラーを見つけて255に置き換える最も簡単な外部修正です。
find "$script_dir/build/scripts" -name '*.sh' -print0 |
sort -z |
xargs -r -0 -I% -n1 bash -c 'exec_script "$@" || exit 255' _ %
答え2
xargs
かなり面倒です。 255で終了したときにのみ停止するため、set -eo pipefail
サブシェルを使用してset -eo pipefail
失敗をカプセル化します255
。
この例では、次のerrornow
行をコメントアウトして違いを確認します。
#!/bin/bash
set -x
set -eo pipefail
parallel_uploads="4"
s3_bucket_name="backup"
all_files=(
"/12.pbd"
"/13.pbd"
"/14.pbd"
"/15.pbd"
"/16.pbd"
"/17.pbd"
"/18.pbd"
"/19.pbd"
"/20.pbd"
"/21.pbd"
"/22.pbd"
"/23.pbd"
"/24.pbd"
"/25.pbd"
"/26.pbd"
"/27.pbd"
)
# Workaround for the posix shell bug they call it feature
# https://unix.stackexchange.com/questions/65532/why-does-set-e-not-work-inside-subshells-with-parenthesis-followed-by-an-or
function acually_upload_to_s3()
{
set -x;
set -eu -o pipefail;
printf 'Doing some\n';
sleeptime="$(( RANDOM % 50 + 1 ))"
sleep "$sleeptime";
erroring_some;
printf 'Doing more some\n';
}
function upload_to_s3()
{
set -x;
set -eu -o pipefail;
# https://superuser.com/questions/403263/how-to-pass-bash-script-arguments-to-a-subshell
/bin/bash -c "acually_upload_to_s3 $(printf "${1+ %q}" "$@")" || exit 255
}
function upload_all()
{
export s3_bucket_name;
export -f upload_to_s3;
export -f acually_upload_to_s3;
# https://unix.stackexchange.com/questions/566834/xargs-does-not-quit-on-error
# https://stackoverflow.com/questions/11003418/calling-shell-functions-with-xargs
# https://stackoverflow.com/questions/6441509/how-to-write-a-process-pool-bash-shell
# https://stackoverflow.com/questions/356100/how-to-wait-in-bash-for-several-subprocesses-to-finish-and-return-exit-code-0
printf "'%s'\n" "${all_files[@]}" | xargs \
--max-procs="$parallel_uploads" \
--max-args=1 \
--replace={} \
/bin/bash -c 'time upload_to_s3 "$s3_bucket_name" "{}"';
}
time upload_all \
&& printf '%s Successfully uploaded all files\n' "$(date)" \
|| printf '%s Error: Could not upload some files\n' "$(date)";
出力例:
$ bash upload_to_s3_glacier_deep.sh
+ set -eo pipefail
+ parallel_uploads=4
+ s3_bucket_name=backup
+ all_files=("/12.pbd" "/13.pbd" "/14.pbd" "/15.pbd" "/16.pbd" "/17.pbd" "/18.pbd" "/19.pbd" "/20.pbd" "/21.pbd" "/22.pbd" "/23.pbd" "/24.pbd" "/25.pbd" "/26.pbd" "/27.pbd")
+ upload_all
+ export s3_bucket_name
+ export -f upload_to_s3
+ export -f acually_upload_to_s3
+ printf ''\''%s'\''\n' /12.pbd /13.pbd /14.pbd /15.pbd /16.pbd /17.pbd /18.pbd /19.pbd /20.pbd /21.pbd /22.pbd /23.pbd /24.pbd /25.pbd /26.pbd /27.pbd
+ xargs --max-procs=4 --max-args=1 '--replace={}' /bin/bash -c 'time upload_to_s3 "$s3_bucket_name" "{}"'
+ set -eu -o pipefail
++ printf ' %q' backup /12.pbd
+ /bin/bash -c 'acually_upload_to_s3 backup /12.pbd'
+ set -eu -o pipefail
++ printf ' %q' backup /13.pbd
+ /bin/bash -c 'acually_upload_to_s3 backup /13.pbd'
+ set -eu -o pipefail
++ printf ' %q' backup /14.pbd
+ /bin/bash -c 'acually_upload_to_s3 backup /14.pbd'
+ set -eu -o pipefail
+ printf 'Doing some\n'
Doing some
+ sleeptime=3
+ sleep 3
+ set -eu -o pipefail
++ printf ' %q' backup /15.pbd
+ /bin/bash -c 'acually_upload_to_s3 backup /15.pbd'
+ set -eu -o pipefail
+ printf 'Doing some\n'
Doing some
+ sleeptime=49
+ sleep 49
+ set -eu -o pipefail
+ printf 'Doing some\n'
Doing some
+ sleeptime=13
+ sleep 13
+ set -eu -o pipefail
+ printf 'Doing some\n'
Doing some
+ sleeptime=30
+ sleep 30
+ erroring_some
environment: line 5: erroring_some: command not found
+ exit 255
real 0m3.146s
user 0m0.045s
sys 0m0.123s
xargs: /bin/bash: exited with status 255; aborting
+ erroring_some
environment: line 5: erroring_some: command not found
+ exit 255
real 0m13.149s
user 0m0.015s
sys 0m0.123s
xargs: /bin/bash: exited with status 255; aborting
real 0m13.271s
user 0m0.075s
sys 0m0.337s
++ date
+ printf '%s Error: Could not upload some files\n' 'Fri, Nov 19, 2021 22:00:30'
Fri, Nov 19, 2021 22:00:30 Error: Could not upload some files