ディレクトリ内のすべてのファイルを比較できますか？ [コピー]

あえて比較する必要なしにただ知りたいならもしそれらは異なります。 forループを使用して、ディレクトリ内の各ファイルをディレクトリ内の任意のファイルと比較できます。

for i in ./*; do diff -q "$i" known-file; done

...known-fileディレクトリ内の特定のファイル。出力がない場合、ファイルに違いはありません。それ以外の場合known-file。

標準cksumユーティリティも使用してくださいawk。

find . -type f -exec cksum {} + | awk '!ck[$1$2]++ { print $3 }'

このcksumユーティリティは、現在のディレクトリの各ファイルに対して3つの列を出力します。 1つ目はチェックサム、2つ目はファイルサイズ、3つ目はファイル名です。

このプログラムはチェックサムとサイズで構成されたawk配列を生成します。ckキーがまだ存在しない場合は、ファイル名を印刷します。

つまり、現在のディレクトリから一意のチェックサム+サイズを持つファイル名を取得します。ファイル名が複数ある場合は、2つのファイル名のチェックサムとサイズが異なります。

テスト：

$ ls -l
total 8
-rw-r--r--  1 kk  kk  0 Oct  3 16:32 file1
-rw-r--r--  1 kk  kk  0 Oct  3 16:32 file2
-rw-r--r--  1 kk  kk  6 Oct  3 16:32 file3
-rw-r--r--  1 kk  kk  0 Oct  3 16:32 file4
-rw-r--r--  1 kk  kk  6 Oct  3 16:34 file5

$ find . -type f -exec cksum {} + | awk '!ck[$1$2]++ { print $3 }'
./file1
./file3

Files file1、file2およびfile4はすべて空白ですが、file3内容file5の一部があります。このコマンドは、2つのファイルセット、つまり同じファイルとfile1同じファイルがあることを示しますfile3。

また、正確にどのファイルが同じであるかを確認することもできます。

$ find . -type f -exec cksum {} + | awk '{ ck[$1$2] = ck[$1$2] ? ck[$1$2] OFS $3 : $3 } END { for (i in ck) print ck[i] }'
./file3 ./file5
./file1 ./file2 ./file4

dディレクトリにファイルセットがある場合、重複ファイルを見つける4つのコードの結果は次のとおりです。

Environment: LC_ALL = C, LANG = C
(Versions displayed with local utility "version")
OS, ker|rel, machine: Linux, 3.16.0-4-amd64, x86_64
Distribution        : Debian 8.9 (jessie) 
bash GNU bash 4.3.30
fdupes 1.51
jdupes 1.5.1 (2016-11-01)
rdfind 1.3.4
duff 0.5.2

-----
 Files in directory d:
==> d/f1 <==
1

==> d/f11 <==
1

==> d/f2 <==
2

==> d/f20 <==
Now is the time
for all good men
to come to the aid
of their country.

==> d/f21 <==
Now is the time
for all good men
to come to the aid
of their country.

==> d/f22 <==
Now is the time
for all good men
to come to the aid
of their countryz

==> d/f3 <==
1


-----
 Results for fdupes:
d/f1                                    
d/f3
d/f11

d/f20
d/f21


-----
 Results for jdupes:
Examining 7 files, 1 dirs (in 1 specified)
d/f1                                                        
d/f3
d/f11

d/f20
d/f21

-----
 Results for rdfind:
Now scanning "d", found 7 files.
Now have 7 files in total.
Removed 0 files due to nonunique device and inode.
Now removing files with zero size from list...removed 0 files
Total size is 218 bytes or 218 b
Now sorting on size:removed 0 files due to unique sizes from list.7 files left.
Now eliminating candidates based on first bytes:removed 1 files from list.6 files left.
Now eliminating candidates based on last bytes:removed 1 files from list.5 files left.
Now eliminating candidates based on md5 checksum:removed 0 files from list.5 files left.
It seems like you have 5 files that are not unique
Totally, 74 b can be reduced.
Now making results file results.txt

-----
 Results for duff:
3 files in cluster 1 (2 bytes, digest e5fa44f2b31c1fb553b6021e7360d07d5d91ff5e)
d/f1
d/f3
d/f11
2 files in cluster 2 (70 bytes, digest 7de790fbe559d66cf890671ea2ef706281a1017f)
d/f20
d/f21

頑張って...乾杯、drl

GUIツールMeldを使用することもできます。

meld dir1 dir2

または

meld dir1 dir2 dir3

https://meldmerge.org/help/command-line.html