☰

Unixでファイルの行全体の平均列数と最大列数を計算する方法は？

tag-icon • tag-icon linux text-processing awk
Unixでファイルの行全体の平均列数と最大列数を計算する方法は？

次のファイルがあります。

1
2 4 5 6 7 19
20
22
24 26 27 
29 30 31 32 34 40 50 56 58
234 235 270 500
1234 1235 1236 1237
2300

私の実際のデータファイルが非常に大きいことを考えると。そのため、このデータファイルの最大数がどれくらいかを確認したいと思います。また、1行に平均していくつかの列があることを確認したいと思います。この小さな例の例では、最大列数は9（行5）、行内の平均列数は3.33です。どんな提案がありますか？

答え1

$ awk 'NF > m { m = NF } { s += NF } END { printf("Max = %d\nAvg = %g\n", m, s/NR) }' data.in
Max = 9
Avg = 3.33333

スクリプトawkは、フィールドの最大数（列）mとフィールド数の合計を追跡しますs。入力ストリームの終わりに達すると、収集された統計が出力されます。

現在のレコード（行）のフィールド数は個でありNF、これまで読んだレコード数は個ですNR。

次のバージョンでは、フィールド数が最も多いレコードも追跡します。

awk 'NF > m { m = NF; r = NR } { s += NF } END { printf("Max = %d (%d)\nAvg = %g\n", m, r, s/NR) }' data.in
Max = 9 (6)
Avg = 3.33333

答え2

「dc」ユーティリティを使用して数学操作を実行できます。

dc -e "
[zsmlksn]sb
[lk1+skzls+ss]sa
[[Max = ]nlmn[(]nlnn[)]n10an[Avg = ]n5klslk/1/n10an]sp
[lpxq]sq
[?z0=qlaxzlm<bcl?x]s?
0ddddsksmsnssd=?
"

以下に上記の仕組みを示します。

tr '\t-' ' _'  data.in | # dc wants negative numbers to begin with underscores
dc -e "
[
   z sm  # store current num of cols in register "m"
   lk sn # store row num in register "n"
]sb

[
   lk 1 + sk # increment the number of rows
   z ls + ss # add num of cols to running sum of cols
]sa

[
   [Max=]n
   lmn             # put max number of cols on ToS & print it
   [(]n
      lnn          # put row num at which max number of cols are present on ToS & print it
   [)]n
   10an

   [Avg=]n
     5k ls lk /1/n  # accuracy of 5 digits, compute average = sum of cols / total num of cols
   10an

]sp

[
   lpx # print the results by invoking the macro "p"
   q   # quit
]sq

# while loop for reading in lines
[
   ? z 0 =q # quit when no columns found in the current line read in
   lax      # macro "a" does: rows++, sum+=cols
   z lm <b  # update max cols value stored in register "lm" when cols > lm
   c        # clear out the line and read in the next line
   l?x      # read the next line
]s?

# initializations+set the ball rolling:
# register "sk" -> line kount
# register "sm" -> max cols
# register "sn" -> row number corresp. to max cols
# register "ss" -> sum of cols

0
  d  d  d  d
  sk sm sn ss
d=?
"

結果

Max = 9(6)
Avg = 3.33333

関連情報