さまざまなファイルへのパスを含むファイルがあります。
ファイル.txt:
/path/to/file1.txt
/path/to/file2.txt
...
/path/to/fileN.txt
ファイルを処理するためにスクリプトでそれを使用したいと思います。
cat files.txt | xargs -P 12 -L 1 -I % /software/Linux/itt/idl/idl81/bin/idl -e program -args %
デフォルトでは、xargsを引数として、このパスをこのIDLプログラムに文字列として送信したいと思います。
ただし、catを使用すると、実際にはfile1.txt、file2.txtがキャッシュされ、その内容がこのIDLプログラムのパラメータに直接出力されます。
この files.txt の各行をこの IDL スクリプトに文字列として送信するにはどうすればよいですか?
答え1
次のループを含む小さなスクリプトを使用できます。
順理に任せるIDL.shの実行
#!/bin/ksh
while (read filepath)
do
/software/Linux/itt/idl/idl81/bin/idl -e program -args "$filepath"
done < "$1"
シンプルでエレガントで魅力的に機能する必要があります。早く走る./runIDL ファイル.txtそれだけです！
答え2
GNU Parallelはあなたに適しているかもしれません：
cat files.txt | parallel /software/Linux/itt/idl/idl81/bin/idl -e program -args {}
デフォルトでは、CPUコアごとに1つのプロセスがあり、2つの並列ジョブの出力が混在しないようにします。
GNU Parallelは、同じコンピュータまたはSSHを介してアクセスできる複数のコンピュータでタスクを並列に簡単に実行できる汎用の並列ハンドラです。多くの場合for、ループを置き換えることができます。
4つのCPUで32の異なるジョブを実行する場合は、並列化する簡単な方法は、各CPUで8つのジョブを実行することです。
代わりに、GNU Parallel はタスクが完了すると新しいプロセスを作成し、CPU をアクティブに保つことで時間を節約します。
インストールする
ディストリビューションにGNU Parallelがパッケージされていない場合は、rootアクセスなしでプライベートインストールを実行できます。これは10秒で完了できます。
(wget -O - pi.dk/3 || curl pi.dk/3/ || fetch -o - http://pi.dk/3) | bash
その他のインストールオプションについては、以下を参照してください。http://git.savannah.gnu.org/cgit/parallel.git/tree/README
詳細
より多くの例を見る：http://www.gnu.org/software/parallel/man.html
紹介ビデオを見る：https://www.youtube.com/playlist?list=PL284C9FF2488BC6D1
このチュートリアルを見てください。http://www.gnu.org/software/parallel/parallel_tutorial.html
サポートを受けるには、メールリストに参加してください。https://lists.gnu.org/mailman/listinfo/parallel