ネットワーク経由でビッグデータを複製する方法は?

ネットワーク経由でビッグデータを複製する方法は?

Centos 7を搭載したHP Microserverの第8世代がありますが、Bay AreaにはNTFSでインストールされた1台のハードドライブ(2TB)しかありません。

ネットワーク経由でローカルからファイル(一度に約100 GB)をコピーしようとしています。

私は以下を試しました:

  • 渡すSamba
  • 渡すSCP
  • 渡すRsync

この方法の一般的な問題は、通常、次のエラーメッセージです。

  • システムが読み取り専用でI \ Oエラーがあります(ハードドライブが問題を引き起こす可能性が高いため、交換しましたがわかりません)。
  • ディスクがいっぱいになっていて(今見た内容はを使用していますSamba)、ディスクは92%空です。
  • mkstemp失敗操作は許可されていません

それで私はビッグデータを複製するより良い方法があると思いました。そうですか?

また、これを試してみました。

rsync -rvz -e "ssh" * [email protected]:/folder

このエラーが発生しました。

rsync: writefd_unbuffered failed to write 16385 bytes [sender]: Broken pipe (32)
rsync: write failed on "/folder/movie.mkv": Input/output error (5)
rsync error: error in file IO (code 11) at receiver.c(322) [receiver=3.0.9]
rsync: connection unexpectedly closed (490 bytes received so far) [sender]
rsync error: error in rsync protocol data stream (code 12) at /BuildRoot/Library/Caches/com.apple.xbs/Sources/rsync/rsync-47/rsync/io.c(453) [sender=2.6.9]

急流の回答は、あまりにも多くのデータをコピーする唯一の効率的な方法ではありません。急流のないLinuxベースのソリューションが必要です。

-

修正する:

@zeppelinが4〜5 GBのファイルの代わりに1つの大容量ファイルを使用することを提案した後、次のように大容量アーカイブを作成しました。tar -zcvf movies.tar.gz *

アーカイブがある場合は、次の操作を行います。

ls -alh movies.tar.gz 
-rw-r--r--  1 Abude  staff    77G Nov 11 13:54 movies.tar.gz

私はrsync次の問題を経験しました。

rsync -avz -e 'ssh' --progress movies.tar.gz [email protected]:/nas/media
/etc/profile.d/lang.sh: line 19: warning: setlocale: LC_CTYPE: cannot change locale (UTF-8): No such file or directory
building file list ... 
1 file to consider
movies.tar.gz
 82671089587 100%   25.36MB/s    0:51:49 (xfer#1, to-check=0/1)
rsync: mkstemp "/nas/media/.movies.tar.gz.ezRUOM" failed: Operation not permitted (1)

sent 82698841857 bytes  received 42 bytes  26586993.06 bytes/sec
total size is 82671089587  speedup is 1.00
rsync error: some files could not be transferred (code 23) at /BuildRoot/Library/Caches/com.apple.xbs/Sources/rsync/rsync-47/rsync/main.c(992) [sender=2.6.9]

答え1

主観的に言えば、大量のデータをコピーするには、個人的な急流が最良の選択肢の1つである可能性があります。

しかし、ここはTorrentチュートリアルのための場所ではありません。

あなたは見ることができますここたとえば、または同様のものを探します。

個人的な急流を作成する方法

答え2

rsync最高のソリューションです。-z圧縮をスキップするように削除することをお勧めします。圧縮すると、一時的に圧縮されたファイルに追加のディスク容量が消費される可能性があります。したがって、以下を使用する必要があります。

rsync -av -e "ssh" * [email protected]:/folder

答え3

修正する

許可エラー(以下)は、ファイルから「-a」(--archive)フラグを削除することで要約されます。同期コピーされたファイルの所有権と権限を維持しようとしないようにするコマンド。

ローカルの「dd」テストを実行した後、ディスクエラーが原因でファイルシステムが破損している可能性がある低レベルのIOエラーが検出されました。


許可されていない仕事(1)

最後に、このエラーは、ユーザー「abude」に書き込み権限がない単純な権限の問題である可能性が高いです。/nas/メディア/)フォルダを公開して書き込み可能にしてみてください。

 chmod a+rwx /nas/media

rsync コマンドを繰り返します。

-------(OPは現在NTFSパーティションを使用しているため、以下では無視されます)----

基準:

Centos 7を搭載したHP Microserver gen 8があり、Bay Areaには2TBのハードドライブが1つしかありません。脂肪32

...

rsync: '/folder/'への書き込みに失敗しましたmovie.mkv":入出力エラー(5)rsyncエラー:ファイルIOエラー(コード11)はReceiver.c(322)にあります。>>[受信者=3.0.9]

そして後であなたのコメント。

@マスターG4GB未満のファイルにはエラーはありません。。この数を約8〜10GBに増やすこともできますが、わかりません。 – 約8時間前

私の考えでは、あなたが経験している問題があなたが解決しようとしている問題だと思います。同期4GB以上のファイル(少なくとも一部)をFAT32ファイルシステムにコピーすることは、FAT32ファイルサイズの厳しい制限であるため不可能です。

最大ファイルサイズ2^32 - 1バイト

https://technet.microsoft.com/en-us/library/cc938937.aspx)

だから同期ファイルIOエラー報告:

11     Error in file I/O

https://linux.die.net/man/1/rsync)

次のオプションがあります。

答え4

エラー:Receiver.c(322)のファイルIO(コード11)にエラー1があります。 /folderに書き込むことはできますか?

rsync:接続が予期せず終了しました(今まで受信した490バイト)[送信者] 2. SSH接続が失われました。 SSHで接続できますか?キーやパスワードはありませんか?

「ネットワーク経由でローカルからファイル(一度に約100 GB)をコピーしようとしています」と言います。正しく読んだことを願っています。宛先IPがルーティング不可能なIP(192.168.0.106)ですか? VPNを使用している可能性があります。

rsync -avr * user@<remoteIP>:/folder

接続が中断されると、--bwlimitを使用して「速度を遅くします」。 --partial を使用して中断された試みを再開します。

関連情報