2021-01-26

CloudFrontCDN配信されているオリジンクロールする目的って無いよなぁ

本当はクロールすんな、読め。お前にデータ無料提供しているわけじゃない。

読むという行為と引き換えに情報がもらえる。取引なんだよ。

それを機械で使って読まないし、利益提供もない。

そういう人でもCDNから機械学習はおめこぼしするが

まったく同じ内容にオリジンクローラーをかけて、情報を吸おうとするとなると

これは合理性を認めがたい

 

robotsCDNはこっちって書けたんだっけ たぶんそれだろうな

オリジンなんてふつうからないが、万が一わかったばあいに 

robotsはいいけどクロールするならCDNにいけというのはrobotsCDNかいとけか勉強になった

  • robosをすこしdisableしといてやらないと、お手玉したんだろうな

記事への反応(ブックマークコメント)

ログイン ユーザー登録
ようこそ ゲスト さん