フロントエンドはphpが主だが、クローラは全面的にpythonを使ってる
じゃあPythonでクローラー書いてるってコト? どのサービスがなんのフレームワークでやってんの?
クローラにフレームワークなんて使っていない
フレームワークというキーワードを何故使った
なにいってんだこいつ こいつがフレームワークにこだわるからだろ↓ どのサービスがなんのフレームワークでやってんの?
横だけど普通仕事では使うので その人が「なぜ」というのは君なぜわからないのに使った(そして火に飛び込んだ?)?という意味
なにいってんだこいつ 日本語でおk
まず4級から受けるといいみたいよ
よくわからんけど、とりあえずフレームワークの意味がわからないと思ったのはなんでなのか説明してみて
いや君がフレームワークの意味がわかってないとは言っていない 誰も言っていない ただ、面接などで俺はできるやってきたと言うやつは山ほどいるので じゃあフレームワークは?等の...
マジかよフレームワーク最低だな
言語も最低だし なんならアルゴリズムとデータストラクチャなんかクソやで
馬鹿の発想だね クローラをフルスクラッチで書くぐらいよくあること まあbs4ぐらいは使うかもしれないが仰々しく「フレームワーク」とは言わんし、要素技術でマウント取るような界隈...
Chromeのheadlessをマイクロサービスのバックエンドといったやつがよくまあ笑 給料いくらもらってんの?
pyppeteerでクロール専用に特化したコンテナを運用することのどこがおかしいんだ? お前、実運用でクローラ書いたことある?
やめときな あの増田は自分の知らないものは全て間違っててにわかだと思ってる。そのうち単芝生やしたりするから増田からなんJみたくなって臭いのはいやだ
まさかお前も俺にやられた口か 変なこと言うからや
最初からプロだっていってるし丁寧に話してるのに バカだのアホだの素人だの人格攻撃してくるからそういうことになる 最初から言ってるじゃん
面接でパイソンできますか?ララベルできますか? みたいな質問しかされません><
普通、面接では要素技術じゃなくてアルゴリズムの問題とか出すよね
クローラをフルスクラッチ そろそろ俺の腹筋が持たない笑
ちょっと笑いのツボがどうなってるのかわからないので もっと詳しく説明していただけますか
そこそこするけどいい? 5億で雇ってくれるならパワポにしてがっちりやるよ
あ、やっぱりいいです 笑いのツボは人それぞれですもんね
ですよねー😆
君の笑いのツボは誰からも理解されないって意味だよ👍
あれ?N=1でいいんですか😆
なにもおかしいことはないと思うが
フルスクラッチ いちいち選択する言葉がエンジニア離れしてるんだよなあ
フルスクラッチという言葉のどこがエンジニア離れなの? 文脈的に、特殊なフレームワーク等を使わないということでしょう?
横だけどまず「フルスクラッチ」ってのが怪しいのと クローラーのスクリプトとかエンジニア的に誰でもできることであって 駆け出しの仕事じゃん スクリプトの時点でスクラッチもク...
なにいってんだこいつ scrapyとか使わないって意味だろ
詳しくてすごーい
俺の認識だと「フルスクラッチ」ってのは和製英語で、英語の"from scratch"から来てる で、クローラをスクラッチで書くって用法は普通にある https://www.octoparse.jp/blog/how-to-build-a-web-crawler-from...
別にいいけどそもそもクローラーとかそんな大した仕事ではないし 普通は一から作るというのは大規模なサービスを一から書き直すような時に使うわけよ クローラーのスクリプトとか一...
scrapyとか知ってる?普通「フレームワーク使ってる?」とクローラ開発の文脈で聞かれればそれをイメージするよね で、そういったフレームワークは使ってない、って表現するときにど...
通じない、誤解が生まれる、という事実があるのであれば 別の言い回しや補足に注力した方が建設的なのでは
ソフトウウェアエンジニアリングの世界って広くて 例えば君も当然知ってると思うがGoFなんかもscrapyに限らず特定のツールやライブラリなんかは「知らない」と思うよ まずその広さを知...
クローラにフレームワークなんて使っていない 笑 いやマイクロサービスだろ? RESTかなんかでやりとりするだろ? 普通Djangoとか使うでしょ笑 全部書いたの?
悪いがクローラはRESTでなんてやり取りしないな データを蓄積して、ストレージにアップロードするだけ Djangoなんて使わん
笑 ストレージにファイルアップしてデータやりとりするマイクロサービスってちょっと想像を超えてきた
リアルタイムでRESTでやり取りする必要なんてないだろ、クローラなんて
いやそういう問題でなくて マイクロサービスでDBシェアしちゃって意味ないってよくあるパターンだが まさかそもそもファイルとは
クロールってのは標準のフォーマットがあって、WARCファイルというのがある このWARCファイルを一旦保存しておいて、毎日S3にアップロードしてる S3を操作するコンテナが別途あって、ア...
いやだからそういう問題じゃなくてね? マイクロサービスってちょっとそうじゃないんよ それをちゃんと動かすのが第一歩だし多くが脱落するけどね
マイクロサービスに対する俺の認識は「何らかの処理やIOを行うまとまりが、コンテナによって分けられたもの」というもの。 だからクロールという機能を分離してコンテナ化していれ...
なんにもサービスしてなくね?