CloudFrontでCDN配信されているオリジンをクロールする目的って無いよなぁ
本当はクロールすんな、読め。お前にデータを無料で提供しているわけじゃない。
読むという行為と引き換えに情報がもらえる。取引なんだよ。
それを機械で使って読まないし、利益の提供もない。
そういう人でもCDNから機械学習はおめこぼしするが
まったく同じ内容にオリジンにクローラーをかけて、情報を吸おうとするとなると
これは合理性を認めがたい
robotsにCDNはこっちって書けたんだっけ たぶんそれだろうな
オリジンなんてふつうわからないが、万が一わかったばあいに
robotsはいいけどクロールするならCDNにいけというのはrobotsにCDNをかいとけか勉強になった
Permalink | 記事への反応(1) | 09:47
ツイートシェア
robosをすこしdisableしといてやらないと、お手玉したんだろうな