Blueskyはrobots.txtで何も弾いてない、クロールし放題って言ってるアホってかたっぱしからクロールして学習するようなやつがrobots.txtに従うと思ってんのか
しかもこれ自称エンジニアが書いてることもあってまじ底辺IT土方って存在するんだなって感じなんだが
Permalink | 記事への反応(0) | 18:16
ツイートシェア