platform-lsf

for ループに対する並列ジョブの送信
platform-lsf

for ループに対する並列ジョブの送信

ループを作成しforて並列化し、&タスクを一度に実行できるようにしきい値を制限しました。3以下は私のスクリプトです。私は命令で保存し32 coresて256 GB覚えていますBSUB。sample_pipeループ内で実行するにはコアとメモリが必要です。for32256 GB 一部の操作でメモリエラーエラーが発生します。32コアのみを保持し、タスクを一度だけ実行しよ256 GBうとしているようですが、これによって一部のタスクではメモリエラーエラーが発生する可能性があります。3 3私の質問は、すべてのタスクが同じ数のコアとメモリを使用するように並列化する...

Admin

LスクリプトでNコマンドをバッチ処理するツール(N≫L用)?
platform-lsf

LスクリプトでNコマンドをバッチ処理するツール(N≫L用)?

スケジューラ(LSF、Slurmなど)を搭載した高性能Linuxクラスタにアクセスできると仮定すると、中サイズジョブはいつでも実行中または一時停止され、ほとんどの場合エル < 中サイズ同時に実行できます。 今私が走りたいと仮定しましょう。窒素できるだけ早く独立して注文を発行してください。 もし窒素 ≤ 中サイズ、各コマンドを別々のジョブとしてスケジューラに送信してから完了できます。 しかし、もし窒素 > 中サイズ?または窒素 ≫ 中サイズでも? これ窒素 ...

Admin

「プラットフォームLSF」とは何ですか?
platform-lsf

「プラットフォームLSF」とは何ですか?

毎日、私はコンピュータに関連するコンテンツに関するウィキペディアの記事に1つ以上触れています。私が生涯コンピュータを技術的かつ深いレベルで扱い、成長しながらゲームやゲームを一度もしなかった場合は、論理的に理解できます。 「消費者」方式で使用します。 しかし、私はいくつかの秘密のナンセンスの次のウィキペディアの記事の1つを見て、それが何を言っているのかわかりません。それは単なる惑星ではなく、全く異なる宇宙から他のエイリアンが書いたテキストを読むのと同じです。 https://en.wikipedia.org/wiki/Platform_LSF プラットフォー...

Admin

Pythonスクリプトは手動で実行されますが、cronjobでは実行されません。
platform-lsf

Pythonスクリプトは手動で実行されますが、cronjobでは実行されません。

だからこれは非常に奇妙な質問です。特定の条件に応じて、subprocess.callを介して多くのbashコマンドを呼び出すPythonスクリプトがあります。スクリプトは手動で正常に実行されますが、cronjobに入れると失敗しますが、コードの特定の部分に達したときにのみ失敗します。コードのこの部分は、bstatユーザーに対してコマンドを実行します。bkillどちらのコマンドでも subprocess.call、subprocess.Popen、subprocess.check_output を試してみましたが、到達するたびに停止して何もしません。その後、v...

Admin

リアルタイムでbjob出力を変更する
platform-lsf

リアルタイムでbjob出力を変更する

LSF コマンドを使用するときにbjobs別のジョブをサブミットすると、同じコマンドを繰り返し実行するとストレスが発生するため、出力がすぐに変更されるようになります。topプロセスリストなどの出力を更新したいと思います。 必要でない場合は、top自動的に継続的に更新されます。 bjobsコマンド出力を自動的に更新したいと思います。 ...

Admin

bjobsで壁のタイムアウトを取得する
platform-lsf

bjobsで壁のタイムアウトを取得する

採用情報を収集するスクリプトを作成しています。 bsub -Wで指定された各保留ジョブの壁タイムアウトを取得するためにbjobsを使用したいと思います。以下を使用して、CPUの数などの情報を取得できます。 bjobs -u all -p -o 'jobid user min_req_proc' しかし、時間を過ごすのに十分なキーワードが見つかりません。そのような方法がありますか?この情報を取得するには、各ジョブに対してbjobs -lを実行する必要がありますが、これは非常に遅いです。 ...

Admin

LSFキューは独自のプリエンプションを許可しますか?
platform-lsf

LSFキューは独自のプリエンプションを許可しますか?

LSFキューがありますが、キューAであるとします。他のキューのジョブではなく、キューAの優先順位の低いジョブをプリエンプションするために、キューAの優先順位の高いジョブのみが必要です。キューAをプリエンプティブに設定した場合、キューAのみをプリエンプティブに設定できますか?それとも、これが許可されていない場合、私の目標は何を達成するでしょうか? ...

Admin

"bsub"を使用するときは"|"にパイプ(前のコマンドの出力を次のコマンドにパイプ)
platform-lsf

"bsub"を使用するときは"|"にパイプ(前のコマンドの出力を次のコマンドにパイプ)

こんにちは、これは非常に基本的な質問のようです。 「bsub」を使用するときに「パイピング」を実行するための特定の構文はありますか? 私がこの問題に直面したとき、私はこう尋ねます。 # try to run the same command successfully ran in another host bsub fastx_trimmer -Q33 -f 1 -l 230 -i myfile.fastq | fastq_quality_trimmer -Q33 -t 18 -l 20 -o Trimmed_file.fastq & しか...

Admin

スクリプトは、プラットフォームLSFが環境で使用可能であるかどうかを決定します。
platform-lsf

スクリプトは、プラットフォームLSFが環境で使用可能であるかどうかを決定します。

現在、プラットフォームLSFを活用してジョブの実行を管理するいくつかのシェルスクリプトがあります。 これらのスクリプトは最終的に他のタスクスケジューラを使用して環境に移行されます。 移行段階で理想的な状況は、両方の環境で同じスクリプトを使用して作業スケジュールをサポートすることです。したがって、LSF 環境の存在を検出する場合は LSF 関連ガイドラインを使用し、そうでない場合は他の環境に関連するコマンドを使用します。 私はいくつかの可能な解決策を考えてみました。 LSF固有の環境変数の確認 たとえば$LSF_BINDIR、$LSF_LIBDIR...

Admin

lsf bkill RUN ジョブを終了せずにすべての PEND ジョブを終了します。
platform-lsf

lsf bkill RUN ジョブを終了せずにすべての PEND ジョブを終了します。

lsfで多くのbjobが実行されており、ジョブにはRUNとPENDという2つの状態があります。 PEND状態のすべてのbjobを終了したいと思います。スクリプトを使用してこれをどのように実行できますか?私の考えにハードコーディングされたアプローチは、ファイルに保存して各行を解析してステータスとキーを取得することです。 STATがPENDの場合、キーはに渡されますbkill $key。しかし、これは非常に複雑です。このタスクを直接実行したり、ハードコードされていない方法で特定の状態または名前のタスクを終了したりできるbkill関数はありますか? ...

Admin

LSFジョブの正しい作業タイムアウト仕様は何ですか?
platform-lsf

LSFジョブの正しい作業タイムアウト仕様は何ですか?

LSFリソースマネージャ/タスクスケジューラとして使用されるコンピュータクラスタでタスクを実行できる期間を指定する正しい方法は何ですか? LSFは、コンピューティングクラスタからリソースを割り当て、ユーザーが送信したジョブをいつ実行するかを決定するために使用されるジョブスケジューラです。に基づいてIBMの知識ベース、5日が必要な場合は、次のことができますか? busb -We 120:00 ...

Admin

パラメータをスクリプトに渡し、スクリプトをbsubへの入力にリダイレクトします。
platform-lsf

パラメータをスクリプトに渡し、スクリプトをbsubへの入力にリダイレクトします。

現在、Platform LSFのbsubジョブ提出システムを使用しています。ジョブスクリプトを送信する必要がありますが、ジョブスクリプトにパラメータを渡すのに問題があります。 私に必要なものは次のとおりです。ジョブスクリプトは、1つのコマンドライン引数を持つbashスクリプトです。スクリプトに引数を渡し、bsubへの入力として使用するスクリプトをリダイレクトする必要があります。問題は、そのパラメータがスクリプトに適用されないことです。 私は試した:bsub < script.bsub 1 script.bsubは私のスクリプトで、1は数値パラメー...

Admin

パーソナルUbuntuコンピュータでlsfジョブを実行する
platform-lsf

パーソナルUbuntuコンピュータでlsfジョブを実行する

HPC クラスタでタスクを実行するのではなく、Ubuntu ノートブックでタスクを実行するのに少し奇妙な問題があります。 私がこれをしたいのは、6つのコアと12のスレッドがあるからです。私は以前の大学のHPCクラスターで仕事をしていました。 私は何をしているのか、 1)HPCクラスタに接続し、実行可能ファイルがある場所に移動します。wave_func.out lsfにジョブを送信 三)bsub -q linux22 -i ./w1.in -o ./w1.out ./wave_func.out その後、「redhat7_211」に使用可能なスレッド...

Admin