☰

ウェブサイトの監視

tag-icon • tag-icon shell-script
ウェブサイトの監視

私が達成したいのは、WebサイトからHTMLコードを抽出してファイルに書き込むことです。これが完了したら、もう一度繰り返して別のファイルに書きたいと思います。 2番目のファイルを作成したら、2つのファイルを比較して変更があるかどうかを確認したいと思います。これが私が今まで持っているものですが、うまくいきません。

#!/bin/bash
echo "Hopefully this will do everything at once!"

while true;
do 

wget -q -O - http://website.com > websitebaseline.txt

if -e websitebaseline.txt
then
    wget -q -O - http://www.website.com > websitechange.txt
    echo "Update to websitechange.txt has been made"

    if !-e websitebaseline.txt
    then
        wget -q -O - http://www.website.com > webbaseline.txt
        echo "Baseline has been created"

if -e websitebaseline.txt websitechange.txt
then diff -y websitebaseline.txt websitechange.txt --supress-common-lines > Changeinsite.txt
    if !-e websitebaseline.txt
    then 
        wget -q -O - http://www.website.com > websitebaseline.txt   echo "Baseline has been created"
    elif !-e websitechange.txt
    then
        wget -q- O - http://websitename.com > websitenamechange.txt
        echo "Update has been made"

sleep 100;
done

答え1

仕事をとても複雑にしましょう。

#!/bin/bash
left=$(mktemp)
right=$(mktemp)
url="http://url.example.com/"
trap 'rm -f "$left" "$right"' EXIT
for file in "$left" "$right"; do
    wget -q -O "$file" "$url"
done
if diff "$left" "$right" > /dev/null 2>&1; then
    echo "Changes detected in successive retrievals of '$url'."
fi

同様のメカニズムを使用して、経時的な変更を徐々に記録できます。

left=$(mktemp)
right=$(mktemp)
url="http://url.example.com/"
trap 'rm -f "$left" "$right"' EXIT
# Establish the "baseline":
wget -q -O "$left" "$url"

# Okay, now check for updates forever:
while sleep 30; do
    wget -q -O "$right" "$url"
    if diff "$left" "$right" > /dev/null 2>&1; then
        echo "$(date) - Changes detected in '$url'."
        cp "$right" "$left"
    fi
done

答え2

2つのファイル間の違いを検出する最も簡単な方法（変更がどんなに小さくても）は、チェックサムを比較することです。ここで説明するために、 "md5sum"コマンドを使用して各要求のmd5ハッシュを生成しました。

#!/bin/bash

wget -q website.com -O site.txt
baseline=$(md5sum site.txt)
echo first request checksum: $baseline
rm site.txt

wget -q website.com -O site.txt
change=$(md5sum site.txt)
echo second request checksum: $change
rm site.txt

このスクリプトの出力は各リクエストのmd5ハッシュになり、ハッシュが同じかどうかを簡単に確認できます。

関連情報