「Csv」を含む日記 RSS

はてなキーワード: Csvとは

2022-06-14

anond:20220614154214

増田に大きめのテーブルを書き込むときにいったんExcelで作ってCSV形式で出力して,を|に置き換えとるやで

2022-06-02

業務システム開発する時によく必要になる機能

他にもあるのだろうか。

2022-04-04

今日仕事中こっそりプログラミング課題解いた

まあ本職なんだけど転職先がgo使うらしいか基本的操作に慣れておくようにいろいろ触ってる


↑作った

これくらいのレベルの奴もうちょっとくれ

2022-03-22

anond:20220322043456

csvファイルパースして、ソートで並び替えたcsvを新しいファイルに出力する

csvファイルの項目数、行数、ファイルサイズDB登録する。

csvファイルzip圧縮して、ウェブサイトにPOSTでアップロードする。

UI作成して、csvファイル編集できるようにする。

その際、ユーザ入力したパスワードファイル暗号化して保存できるようにする。

・・・みたく、自分が思いつくタスクを処理するプログラムをちまちま書いてみては?

2022-03-15

ここでCSVエディタとか発表してたひと

割と犯罪臭がした

2022-03-14

ブログランキング・新着記事フィルタ(拡張機能)作った

anond:20180609124213

ブログフィルタ - Chrome ウェブストア

https://chrome.google.com/webstore/detail/%E3%83%96%E3%83%AD%E3%82%B0%E3%83%95%E3%82%A3%E3%83%AB%E3%82%BF/ljnpbbominfcpmeibilmpombbijelmfn?hl=ja

ブログフィルタ – 🦊 Firefox (ja)

https://addons.mozilla.org/ja/firefox/addon/%E3%83%96%E3%83%AD%E3%82%B0%E3%83%95%E3%82%A3%E3%83%AB%E3%82%BF/

github

https://github.com/lvnkae/blog-collection-filter

概要

機能

使い方

基本設定
詳細設定

ブログURLミュート詳細設定

設定済みURLダブルクリックで詳細設定へ

 ・ブログ固有の非表示ワード設定

   絵日記ブログに突然現れる、創作実話漫画は見たくない

   PR記事回避したい

  など。

ワードミュートの詳細設定

 単語の頭に <> を付けると正規表現ON

 例)

  <>宇佐美 *定満

   宇佐美定満

   宇佐美 定満

   宇佐美 定満

   宇佐美  定満

  等、姓名間にスペースが0個以上ある定満はを含むツイートを削除

設定の簡易出力(export)/入力(import)

[対象サイト]

URL概要
https://blog.livedoor.com/ランキングブログ速報、カテゴリ編集部の「推し」、おすすめブログブログ速報
https://https://blog.with2.net/ranking/ランキング、新着記事
https://*,blogmura.com/ランキング

結果

各種ランキングからまとめサイトコンビニ漫画系(嫁姑DV、サレが云々)が消えてスッキリ

動機

twitterがどんどん改悪されてブログ更新が追いにくい

しかランキングサイトまとめサイト汚染されていたのだった

技術

ManifestV3

あとがき

今どきはLINE登録してスマホからブログ見るのが主流と聞き、需要は少なそうですがゼロでもないはず、と思い公開することにしました。amebloのことは忘れましょう。

アップデート予定

あれば

はてなNG代替品(はてぶフィルタ)とYoutubeフィルタにも簡易export/import機能を入れたい気持ち

2022-03-01

anond:20220301112413

CSVエクセルじゃなくて他のソフトで開いて解析できるようになるのも能力だよ

統計ソフトにぶち込めば簡単じゃないか

研究で使うようなマイナーな物・ソフトWebで見つけられない

データを取るのに再現性や精度がでないというのはわかっていても、

解決するための装置やら消耗品やらが、市販されているかどうかわからないことがある。

他の人の論文に載っていれば手っ取り早いが、そうではないこともある。


装置だとデータは取れるがバイナリデータフォーマットがわからないとか、

CSVで吐き出せはするがファイルサイズが大きくなりすぎて扱いにくいとか、

エクセルなどでは上限に引っかかって開くことすらできないとか、

解きたいテーマとは違う部分でひっかかることも多い。


こういうのもリサーチ能力なのだろうが、よく見つけられるよなと感心してしまう。

2022-02-27

anond:20220227164150

JSONは一行のレコードの中にいくらでも多次元配列入れれるってところが大きいかなぁ。CSVじゃその表現は無理だろうし

anond:20220227162851

データ処理でたまにたびたび出てくるけどJSONってどう扱うの?

CSVとの違いがわからん

anond:20220227162101

「大量に出てくる測定装置から吐き出されるデータ」の形式はどういうものなのかな

例えばCSVとかJSONとかのテキストファイルなら、だいたいどの言語でもなんとかする方法はあると思う

私も「9条があれば日本平和」と言っていたリベラルを屏風から出す

anond:20220226125515

2022/2/28少し追記

なんか急にリベラル様が「私達は9条があれば平和は守れるなんて言ってない! 9条日本を縛るためのものと言ったことはあるけど!」「だから侵略させないためには、別に手を尽くす必要がある」と言っている。

日本で最高の知能が集まるリベラル様が間違いを言ってるはずがないので、自分記憶が間違ってないか調べてみることにした。一般人から政党まで、いろいろとね。

 という風に元増田引用されたのが例えばこんな文章だった。

 また、憲法九条は、紛争平和的に解決するという考えを、多くの国民に定着させてきました。こうして、他国軍事介入しない、紛争の原因をつくらないということが、他国による日本侵略の要因をつくらず、平和を守ることにつながってきました。

 このレベルの例なら私にも出せる。しかもこんな小粒ではなく大量に、だ!これを見ればリベラルもも黙るだろう。

11憲法第9条は、戦争放棄し、戦力を持たないことを決めていますあなたは、この第9条は、日本平和安全に、どの程度役に立っているとお考えですか。リストの中からお答えください。

1.非常に役に立っている 29.4%

2.ある程度役に立っている 52.6%

3.あまり役に立っていない 11.1%

4.まったく役に立っていない 2.3%

5.わからない、無回答 4.7%

NHK「『日本人と憲法2017』調査」 ※PDF

 そう、何とNHKによれば日本人の8割もが憲法9条日本平和安全資すると答えているのである

 どうだリベラルどもよ、これを見てもまだ9条平和に役立つと言ったことがないなんて言えるか?言った人がいたとしても少数だなんて言えるか?国民の8割とはマイノリティーなのか?マジョリティーもマジョリティーなのである

 そして今明かされる衝撃の真実!大多数の日本人はお花畑リベラルかお花畑リベラル洗脳された愚民だったんだよッッッッ!

 おっといけない愚民なんて言葉選民思想リベラル様の専売特許だったのであった。しかしまあなんて由々しき事態なんだ…。

 日本国際社会で、主としてどのような役割を果たすべきか聞いたところ、「環境地球温暖化感染症対策を含む保健などの地球規模の課題解決への貢献」を挙げた者の割合が63.9%、「人的支援を含んだ、地域情勢の安定や紛争平和解決に向けた取組を通じた国際平和への貢献」を挙げた者の割合が59.2%と高く、以下、「軍縮・不拡散の取組などを通じた世界平和と安定への貢献」(41.2%)、

外交に関する世論調査 2 調査結果の概要 6 - 内閣府

 昨年度の内閣府調査を見れば国民もの思想垣間見ることができる。4割が軍縮・不拡散を行うのが日本役割だと述べているのだ。この夢想家どもがッッッ!

 ちなみにCSVデータを見ると一番軍縮云々に賛同しなかったのは30代で26.1%しか賛同していない。次が18-29歳の37.3%なのでここだけ異様に低いのが分かる。不思議だね。

ちょっと冷静になる

 いや、ちょっと待ってほしい。「9条日本平和に役立っている」と主張したからといって「9条があれば日本平和」と言ったことにならないはずだ。「他国軍事介入しない、紛争の原因をつくらないということが、他国による日本侵略の要因をつくらず、平和を守ることにつながってきました」という文章を読んで「わあ、9条があれば侵略されることはないんだね!」と読解する人間はさすがにおるまい。確かに共産党は近いことを言ったこともあった気がしないでもないがこの文章だけではそうとは捉えられない。意外なことに原文を読んでも「他国軍事介入しない」とは他国戦争自衛隊派遣して怨みを買わない、「紛争の原因をつくらない」とは武器輸出をすることでイラクのような平和を脅かす集団を作るということをしてないという意味で、結果侵略される要因を作ることにならないため平和資するのだといった程度のことしか書いていないのである

 実際NHK同調査でも次のような質問がある。

第13問 あなたは、現在世界の情勢から考えて、日本戦争紛争に巻き込まれたり、他国から侵略を受けたりする危険性がどの程度あると思いますか。リストの中からお答えください。

1.非常に危険がある 24.0%

2.ある程度危険がある 63.1%

3.あまり危険はない 10.4%

4.まったく危険はない 0.5%

5.わからない、無回答 1.9%

 このように国民の8割が9条日本平和に役立っている一方で、国民ほとんどは侵略される危険性があると考えているわけだ。少なくとも国民大多数の中ではこの2つが両立しているということが論理必然的に分かる。

 「9条平和に役立つ」は「9条があれば侵略されない」ではない。データから国民全体の傾向として言えるのは「9条平和に全く役立たないという意見の持ち主は限りなく少数派」、「多数派9条平和資するがそれで侵略されないとも思っていない」といったところだろう。まあ相手の主張を0か1かで考えるのは楽だが、わりとこんな感じで程度問題だったりもする。9条日本を守ってきてくれた」と言う人に「どれくらい役に立ったの?」と聞いて「100%」と返ってくるかは微妙なところだ。そういうものである

 一応補足しておくと今同じ世論調査をすれば「9条平和に役立っていない」と答える人が増えるのではないだろうか。この2017年調査にはやはり集団的自衛権を巡る数々の議論があり「戦争に巻き込まれ可能性」が俎上に上がった余波が残っていると見るべきだし、その前に行われた2002年調査イラク戦争直前でテロ特措法が成立するなど既存法体系対処できるか心配された時代であった。実際、同調査では2002年の方が2017年よりも憲法改正賛成派が多く、また9条平和に役立つと答えている人も少なめであるウクライナ侵略が行われている今であれば恐らく2002年調査に寄るかそれ以上に変動するかもしれない。国民世論と秋の空でただですら世論はぶれまくるのに出来事1つで更に右往左往するものだ。これは何があってもそこまで政治信条をあまり大きく動かさない我々政治厨が見逃す点で大抵国民世論に確固たる思想信条の基盤があると”必要以上”に考えがちだ。

 ところでこれ1974,1992,2002,2017と調査が行われているのだが9条平和に役立っていないと答えた人は1974年が一番多いのはちょっと面白くないですか?

余談

 個人的意見を言えば、9条に全く平和資するところがないとは思ってはいない。自衛隊派遣を巡って毎度国会が空転しているのを見れば軍事を増強しても他国視点だと侵略してくるとはあまり思えないというのはあるんじゃないか専門家ぽく言うと安全保障のジレンマを軽減する信頼醸成措置的な何かになる要素はあるんじゃなかろうか。安全保障のジレンマは元々はリアリズム国際政治学の学派の名前一般的意味とは異なる)が言ってたことで、信頼醸成措置は第二次安倍政権が作った「平成26年度以降に係る防衛計画の大綱」でも使われている言葉から言葉としては存在するけど使い方が合ってるかは知らん。

 なおデータで言えば一般抑止は計量するのが難しいので何とも言えないが、明日にでも戦争が始まりそうな状態から戦争をやめさせるという緊急抑止については統計分析存在する。当然9条データなんて存在しないのだが、軍事同盟については緊急抑止についてのデータ存在する。代表例はHuthの研究なのだが何と相関関係マイナスである…。まあこれは選択問題とか色々な理由一般抑止はあるんじゃねっていうのは言われている。データ証明できてないじゃんwwお気持ち乙wwという世界ではないからね。

 それ自体はどうでも良いのだが、同時に緊急抑止に関係あるのは長期の軍事力ではなく短期軍事力だという分析結果もある(一般抑止は分らんが)。日本ではあまり聞かない議論なんだけど闇雲に軍事軍事力言うよりその辺何が抑止に効果的なのかとかもうちょっと表で議論されてほしいんですけどね。

 抑止とは、費用危険が期待する結果を上回ると敵対者に思わせることにより、自分利益に反する行動を敵対者にとらせないようにする努力である。したがって合理的敵対者に対してのみ働き得る機能である

出典:中山隆志「軍事力の概念防衛大学校防衛学研究会編『軍事学入門』第2版、かや書房2012年、p.19。

 最後に1つだけ。引用した『軍事学入門』は軍事に詳しくリアリスト国際政治学の学派の名前ではなく一般的意味と同じ)であれば必ず通った書物だ(過言)。ちなみに自分軍事通でもリアリストでもないダメ人間なのだが。読むと至極当然の抑止についての説明が書いてありますね?ところが最近議論を見ているとこの当たり前の話を忘れてないか…という人がいる気もしないでもないのでここで紹介しておく。

 もちろん「合理的」のニュアンスが難しいところだとは思うが。行動経済学人間は非合理という話をした時、既存経済学の「合理性」を拡張すれば対処できるものもあるよねって話になったりもしたんよね。その意味でこの「合理的」を「プーチン戦争を起こす際に損得勘定もできないアホバカタンナス!だから軍事抑止力意味ないんだ😭」って話にできるかは別の話。

2022-02-20

anond:20220220130935

関数スクリプトレイアウトなどでがっつりとデータを扱う場合にはあまり適していないけど、それなりにそこそこならばCSV+かなと思ってる。

https://www.plus-one.tech/csv-plus/

anond:20220220125354

あれってそんなにいいもんなのか。

かにスプレッドシートもっさりからローカルサクサク動かしたいのはよく分かる。

そしてそれはExcelや同等の重戦車クラスソフトでは実現できないのもそのとおりだと思う(スプレッドシートの方がマシ)。

CSVに特化したフリーソフトはいくつかあるし、VSCode拡張もあるけど、どれもちょっと違うってのもこれまた分かる。

いいのないかなあ。

2022-02-12

左右盲エレベーターボタンCSVミソジニー

・右と左ってどっちがどっちだっけ?

エレベーターボタンって<|> と >|< どっちが開くだっけ?

カン区切りファイルって CVSCSV どっちだっけ?

は全く問題ないんだけど、

女性嫌悪するのって ミソジニーミサンドリー どっちだっけ?

は一瞬考えないと正しく確信を持てない。

Wikipedia語源から覚えようと思ったんだけど

ミソジニー (英: misogyny) は、ギリシア語の「μῖσος mîsos嫌悪、憎しみ)」と「γυνή gunḗ(女性)」に由来する。

ミサンドリー(英: misandry)とは、語源ギリシャ語で、“憎悪”(希: μῖσος、mísos)と“男”(希: ἀνδρός、andrós)から

https://ja.wikipedia.org/wiki/%E3%83%9F%E3%82%BD%E3%82%B8%E3%83%8B%E3%83%BC

https://ja.wikipedia.org/wiki/%E3%83%9F%E3%82%B5%E3%83%B3%E3%83%89%E3%83%AA%E3%83%BC

gunḗ (ジニー)が女性というのがピンとこなくて、むしろアラジンジーニーを連想して余計に混乱する。

andrós(アンドリー)→アンドリュー→男性名男性→misos男性男性嫌悪する→ミサンドリー男性嫌悪ミソジニーはその逆だから女性嫌悪

と考えないと正解できない。

みんなはパッと見で分かるのかな?

anond:20220212052434

2022-02-09

零細企業最強のバックアップ

anond:20220209074916

と思ってバックアップ運用中!



これが費用も安くて故障したときバックアップNAS をメインに切り替えたら、わりとすぐ復旧できる。

一旦 USB 経由してるのは NAS転送速度が遅いからで、うちの場合ネットワークの速度が 10MB/sec ぐらいしか出ん(勘違いでした 50MB/sec 以上は出てました)。

テラ級の NASかになると、一晩じゃ絶対戻りきれないので、

運用しながらバックアップしながら復旧するのに、やっぱり2週間はかかる。

幸い障害時に一番に復旧させる必要な箇所のデータCSV とかなので、先にそこのデータだけ復旧させたら、

利用優先順位の高いフォルダから戻していく、

あとはなんとか運用しながら復旧できる。

とりあえず大事データNAS に入れろ!って言うのを周知。

個々のパソコンが壊れたら、

物理的に取り出して、USB 接続させてサルベージできるので、そこはあんまり困ってない。

RAID も考えてるけど、箱が壊れたとき面倒なので、

(だったら RAID も同じ機器2台買って二重にしたいタチ)

取り回しのしやすUSB HDD複数で多重バックアップさせておけば OK と思ってる。

NASHDDWindowsマウント出来ないので一度 Linux 経由でマウントさせてサルベージさせてみようと思ったけど、差分とかどうやって取り出したらいいのか分からなかったし Linux 自信ないので難しかった。

それを踏まえると NAS が壊れたらややこしいので NASバックアップ必須

困るのが

世代バックアップが出来ないぐらい(あんまりそんな問い合わせもないけど)

世代ごとにリッチNAS があればいいんだけど。

から Mac の TimeMachine は個人あんバックアップシステム変態すぎる。

あいうのを業務でもできたらなーと思う。

BuffaloNAS は電源を付けたり消したりしているとすぐ壊れるので、24時間ずっと付けっぱなしの方が壊れない。

Buffalo の昔のファン付き NASファンが壊れたらどうしようもなかったので、苦情も多かっただろう(ファン交換部品オプションであったしね)、いま BuffaloNAS はほぼファンレスなので耐久性も抜群に上がってきている)

あと BuffaloNAS は機種によって勝手画像サムネイルを生成してしまう余計な機能がある NAS があるので、そう言った機能がないのがプレーンに使えてよい。

LS510DG や LS210DG など 510 210 の桁の品番が、そう言った余計な機能がない品番になる。

会社で使う分には勝手に色々なファイルを生成されるとバックアップに支障をきたすので、そう言った機能がない方がよい。

零細企業と言えども

NAS 4台もあるし、それにともなう USB 接続HDD必然的に多くなる。

センチュリーの多段 HDD ケースはもちろん利用。

この理屈運用すると NAS の倍の USB HDD必要になる、実際にそうしてるけど。

今余裕がないので予備の NAS でのバックアップが出来てないけど、まあなんとかなるか。って感じ。

最後に使ってるソフトフリーソフト

「DiskMirroringTool Unicode版」のみ

この Unicode版じゃないと中国語フォントなど文字によってバックアップ対象から外れてしまうし、4GB 以上のファイルバックアップ出来ないので、

Unicode版な。

日々は業務終わって夜に差分バックアップをする運用OK

データは大切!これを分かってくれる人は意外と少ない。

楽しいバックアップ運用をやっていきたいもんだw

2021-12-11

anond:20211211003902

CSVでくれっていうコメントがあるけど、俺の感想はそれに近い

社内でしか公開しないエンジニアしか見ないプロトタイプみたいなもの場合そもそもプロトタイプ目的デザイン完璧さを求めることではないのでjsonでもcsvでもいいかAPIの生情報を見せろということはある

なのでどういうデザインがいいかっていうのはかなり文脈依存問題かもしれない

2021-12-10

Excel文字数を数えるLEN関数ってのがあるんだけど、

CSVデータをあげるときに厳密にバイトで数えたいのに全角は2文字分と数えてくれない。

結局1行1行テキストエディタに貼り付けて文字数が、例えば255バイトに収まるように数えているんだけど、なんかこれってアホらしくない?

21世紀になってセル文字数も数えられないとか、

意外と不便なところがあって、なんとかして欲しい。

それか何か良い方法があればよいが。

2021-12-04

anond:20211204145749

後編

プログラミングを学ぼうと思い立つ

行列VBAなんかじゃ無理っぽいし、なんかプログラミング言語を覚えようと決める。

なんでも、統計やるならRという言語がいいらしい。

最近じゃPythonというのも人気らしい。

とりあえず両方試そうということで、RのためにRとRstudioをインストール

Pythonはanaconda

プログラミングはなんかを製作する目標がないと挫折すると聞いていたので。

深層学習というもの流行ってると聞いて、ちょっと触りを勉強したくなる。

Excelでわかるディープラーニング超入門」

https://www.amazon.co.jp/Excel%E3%81%A7%E3%82%8F%E3%81%8B%E3%82%8B%E3%83%87%E3%82%A3%E3%83%BC%E3%83%97%E3%83%A9%E3%83%BC%E3%83%8B%E3%83%B3%E3%82%B0%E8%B6%85%E5%85%A5%E9%96%80-%E6%B6%8C%E4%BA%95-%E8%89%AF%E5%B9%B8/dp/4774194743/ref=sr_1_1?__mk_ja_JP=%E3%82%AB%E3%82%BF%E3%82%AB%E3%83%8A&keywords=Excel+%E6%B7%B1%E5%B1%A4%E5%AD%A6%E7%BF%92&qid=1637482610&s=books&sr=1-1

この本は面白かったので、深層学習目標プログラミングを覚えよう!

後になって、これはとんでもない間違いだったことに気づく。深層学習機械学習の違いも判らないまま、RよりPythonを先に触ることに。

教本にしたのはこちら。

ゼロから作るDeep LearningPythonで学ぶディープラーニング理論実装

https://www.amazon.co.jp/%E3%82%BC%E3%83%AD%E3%81%8B%E3%82%89%E4%BD%9C%E3%82%8BDeep-Learning-%E2%80%95Python%E3%81%A7%E5%AD%A6%E3%81%B6%E3%83%87%E3%82%A3%E3%83%BC%E3%83%97%E3%83%A9%E3%83%BC%E3%83%8B%E3%83%B3%E3%82%B0%E3%81%AE%E7%90%86%E8%AB%96%E3%81%A8%E5%AE%9F%E8%A3%85-%E6%96%8E%E8%97%A4-%E5%BA%B7%E6%AF%85/dp/4873117585/ref=pd_lpo_2?pd_rd_i=4873117585&psc=1

途中まではまあなんとか。

微分って便利だな。行列計算できるの便利だなっていうところまでいったが、クラスという概念理解できず、途中からハテナが浮かんで読み進められず。

うん、もうちょっと易しい本を探そうと思って手に取ったのが

「独学プログラマー Python言語の基本から仕事のやり方まで」

https://www.amazon.co.jp/%E7%8B%AC%E5%AD%A6%E3%83%97%E3%83%AD%E3%82%B0%E3%83%A9%E3%83%9E%E3%83%BC-Python%E8%A8%80%E8%AA%9E%E3%81%AE%E5%9F%BA%E6%9C%AC%E3%81%8B%E3%82%89%E4%BB%95%E4%BA%8B%E3%81%AE%E3%82%84%E3%82%8A%E6%96%B9%E3%81%BE%E3%81%A7-%E3%82%B3%E3%83%BC%E3%83%AA%E3%83%BC%E3%83%BB%E3%82%A2%E3%83%AB%E3%82%BD%E3%83%95/dp/4822292274/ref=sr_1_1?__mk_ja_JP=%E3%82%AB%E3%82%BF%E3%82%AB%E3%83%8A&crid=1T6BBXYJ16G6T&keywords=%E7%8B%AC%E7%BF%92%E3%83%97%E3%83%AD%E3%82%B0%E3%83%A9%E3%83%9E%E3%83%BC&qid=1637483073&s=books&sprefix=%E7%8B%AC%E7%BF%92%2Cstripbooks%2C279&sr=1-1

なんとか読了。自信をつける。

しかし、Gitとかbashの章はさっぱり。

実は、いまだにコマンドプロンプトとパワーシェルbashの違いが分かってない。

つづいてPyQに2か月くらい登録してみる。

https://pyq.jp/

とりあえずデータ分析コースを終わらせる。

なかなかPythonが楽しくなってきたが、クラス意味が今一つ掴めないままいったん中断。

この辺で、自分統計に興味があってもプログラミングに興味がないんじゃないかということに気づく。

結局Excelへ戻り、PowerQueryとの出会って、再びPythonとRに回帰した話

なんだかんだもがきながら、PythonもRもモノにならず、日常ちょっとした計算グラフを作ったりはExcelを使い続ける日々が続く。

あるいは、Excelで成形して、検定かけやす形式にしてRで検定するとか。

Rに触れてなかったな、Rは完全に独学。「こんなことやりたいなぁ、ググってみるか、ほうなるほど」って感じ。

そんなさなか、放送大学で「Rで学ぶ確率統計」という講義があるのを知り、さっそく入学して受講。

なかなか面白かったし、PythonばっかりでRあんまり触ってなかったからいい刺激になった。

恥ずかしながら、負の二項分布やガンマ分布ってよう知らんかった。

しかし、講義は楽しかったがなにか書けるようになったかというとそんなことはなく、依然として基本はExcel

まあ、実際csvじゃなく、手書きデータとかをExcelに打ち込んだりする程度なんでPythonやRを使うまでもなかったというのもあるんだけど。

そんなとき出会ったのがこちら、パワークエリというもの

Excelパワーピボット 7つのステップデータ集計・分析を「自動化」する」

https://www.amazon.co.jp/Excel%E3%83%91%E3%83%AF%E3%83%BC%E3%83%94%E3%83%9C%E3%83%83%E3%83%88-7%E3%81%A4%E3%81%AE%E3%82%B9%E3%83%86%E3%83%83%E3%83%97%E3%81%A7%E3%83%87%E3%83%BC%E3%82%BF%E9%9B%86%E8%A8%88%E3%83%BB%E5%88%86%E6%9E%90%E3%82%92%E3%80%8C%E8%87%AA%E5%8B%95%E5%8C%96%E3%80%8D%E3%81%99%E3%82%8B%E6%9C%AC-%E9%B7%B9%E5%B0%BE-%E7%A5%A5-ebook/dp/B07SCK1ND9/ref=sr_1_2?__mk_ja_JP=%E3%82%AB%E3%82%BF%E3%82%AB%E3%83%8A&keywords=%E3%83%91%E3%83%AF%E3%83%BC%E3%82%AF%E3%82%A8%E3%83%AA&qid=1637483953&s=books&sr=1-2

パワークエリを覚えたらピボット形式Excelファイルとか、セルの結合が多用されたExcelファイルを、成形加工するのが非常に楽になった。

しかも、同じフォーマットで記録されてるデータならフォルダにぶち込んで一気にまとめ上げることも可能

控えめにいって神!

としばらくパワークエリを礼賛してたのだけど、各ステップPythonのpandasやRのdplyrでも出来ることに気づく。というか最初から気づけ。

こりゃ、一気に覚えちまおう、統計というより、データの前処理だなと思ってUdemyでRの動画を買ってみた。

AIエンジニアが教えるRとtidyverseによるデータの前処理講座

https://www.udemy.com/course/r-tidyverse-preprocess/

すっかりR信者になる。

それまで教本を呼んでもdplyrの便利さが今一つわからなかったのに、パワークエリで具体的にモノを作ると、dplyrに翻訳したら、すいすい。スピード10倍。

便利さにようやく気付く。

ハドリーウィッカムって神だな。

そんで、pandasに翻訳したらどうなんだろ?と思ったらもっと速いw

すごいなPython

Rへの入信はたった数週間。再びPythonに興味。

機械学習

さて、ゼロから作るディープラーニングを再開しようと思ったけれども、そもそも機械学習をすっ飛ばし深層学習って無茶だったと反省し、まずは機械学習に。

機械学習エッセンス -実装しながら学ぶPython,数学,アルゴリズム- (Machine Learning)

https://www.amazon.co.jp/%E6%A9%9F%E6%A2%B0%E5%AD%A6%E7%BF%92%E3%81%AE%E3%82%A8%E3%83%83%E3%82%BB%E3%83%B3%E3%82%B9-%E5%AE%9F%E8%A3%85%E3%81%97%E3%81%AA%E3%81%8C%E3%82%89%E5%AD%A6%E3%81%B6Python-%E3%82%A2%E3%83%AB%E3%82%B4%E3%83%AA%E3%82%BA%E3%83%A0-Machine-Learning/dp/4797393963/ref=tmm_hrd_swatch_0?_encoding=UTF8&qid=1637485264&sr=1-1

で、この本がすごい。

5章あるんだけど、機械学習アルゴリズムは5章だけなんだなw

それまでは何に割かれてるんだって?数式の証明とか、便利な計算法、例えばニュートン法とかラグランジュ未定乗数法とかw

こんだけ引っ張っておいて、いよいよ本番の第5章もゴリゴリ数式をスクリプトに落とし込んでいってるのに、「これは学習のためでscikit-learnっての使えばたった1行」っていう無慈悲

いや、ほんと数学勉強になったし、こうやってゴリゴリやるとなんのためにクラスというもの存在するのかようやくわかった。

線形代数って便利なんだなと。行列スカラー値のように何の気なしに扱えるようになると、あの頃苦しんでいた実験計画法タグメソッド、今読み直したら別の印象があるんじゃないかなと思うようになったり。

この本を読む途中、「マンガでわかる統計学因子分析編」で学んだことが理解の助けになった。

なんたる僥倖

線形回帰、リッジ回帰SVM、PCA、k-means、クラスター分析、一気に手札が増えた。

ふたたび実験計画法

Pythonで学ぶ実験計画法入門 ベイズ最適化によるデータ解析

https://www.amazon.co.jp/%EF%BC%B0%EF%BD%99%EF%BD%94%EF%BD%88%EF%BD%8F%EF%BD%8E%E3%81%A7%E5%AD%A6%E3%81%B6%E5%AE%9F%E9%A8%93%E8%A8%88%E7%94%BB%E6%B3%95%E5%85%A5%E9%96%80-%E3%83%99%E3%82%A4%E3%82%BA%E6%9C%80%E9%81%A9%E5%8C%96%E3%81%AB%E3%82%88%E3%82%8B%E3%83%87%E3%83%BC%E3%82%BF%E8%A7%A3%E6%9E%90-%EF%BC%AB%EF%BC%B3%E6%83%85%E5%A0%B1%E7%A7%91%E5%AD%A6%E5%B0%82%E9%96%80%E6%9B%B8-%E9%87%91%E5%AD%90%E5%BC%98%E6%98%8C-ebook/dp/B09C89HZRV/ref=sr_1_1?__mk_ja_JP=%E3%82%AB%E3%82%BF%E3%82%AB%E3%83%8A&keywords=python+%E5%AE%9F%E9%A8%93%E8%A8%88%E7%94%BB&qid=1637486019&s=books&sr=1-1

実験計画法って、fisherの古典的なやつ、ラテン方格に割り付けて、ってやつかと思ったら、線形代数使えればもうなんでもありなのな。

そこにきて、ベイズ、今まで避けてたのに出会ってしまった!!

結論から言うと、超面白い。

これ、すごいな。

Python万歳

いいのかこんな便利分析個人でやれて。

機械学習実験計画法がここでつながるとか、控えめにいって最高だな。

まだ読了してないので、また後日。

2021-11-19

anond:20211117091937

自分レベル情報処理ではエクセルで充分というか、エクセルよりも大きい処理する必要はないと言いたいのやろ?まあ、データフレームで処理したのを画像化しないで CSVアウトプットさせりゃ良いんちゃうの?

2021-11-16

amazon頭良すぎ by 出品者

もうね、楽天とかヤフーとかク●すぎですよほんと。

ユーザー側のデザインポイントバラマキにみんな騙されてるけど

裏側のシステムとかおち●ちんだからマジで

楽天倉庫連携とかExcelベースなんだぜ。WEBベースじゃないんだぜ?

amazon信者ではないけど、最後に参入したamazonシステムの完成度にビビったね。

何がすごいってシステム的に全て解決してくれて何がエラーでどのように対処すれば良いかの指摘が完璧

マニュアルもなくて直感CSV更新も出来るようになって1カ月足らずで楽天ヤフー匹敵する売上立ったしなんだこれ。

あ~対人サポートいからでしょとか思うやん?24時間サポートしてくれて何なら深夜でも電話よこしてくれる神対応

楽天・・・タダイタデンワガコミアッテオリマス~アナタハゲンザイ10ニンマチデスシバラクマチクダサイ~・・・時間とかザラ。んでサポで解決出来ず後日回答します~ワカリマセンデシター

ヤフー・・・サポート無し!AIチャット検討外れな回答のみ。

でも国内企業には頑張ってもらいたい!頑張ってもらいたいけど・・・amazonには勝てんわ。企業努力とか資本力とか以前にもっと根本的な考え方・ポリシーが違いすぎる。

以上しがない出品者より

2021-11-01

ソフトウェアエンジニアは他のソフトエンジニアが便利なソフトを作ってくれるからいいよね・・・

自分で作れって話もあるんだけどさ。

ログCSVの整形とかは楽だけど、複素数計算とかの科学計算関係進化してない感じ。

2021-10-28

何かを作るのがプログラミングであって、便利になるわけじゃ無い

https://anond.hatelabo.jp/20211027152420

Excel自動化たかったらマクロでいいっていうのはその通り

ただ、プログラミング本質ってエクセルで実現していることをもっと便利な形で実現することにあると思う

例えばこれまではタイムカードを共有ファイルエクセル管理していて、社員各自手打ちで出勤・退勤入力していたのを

社員毎のボタン作ってクリックしたら出勤・退勤が記録されるとかいうのはエクセルマクロ

オフィス入り口ラズパイタッチパネルカメラで顔識別して出勤・退勤をワンタッチで記録するのがプログラミング

データデータベースに格納されて、それをExcelなりCSVエクスポートできるっていう機能を持たせることもあると思うし

Excel出力して平均勤務時間グラフ化するなんてのもアリだと思う

最初の顔識別ときに表情から疲れを推定してみても面白いかも知れない

ただ一部の管理者だけがそのグラフ見るならExcelでいいだろうけど

社員が見れるようにするならWebブラウザとかスマホアプリ化した方がいいよね?っていう話にもなる

そうなったときExcelマクロだと貧弱だったり不可能なことが出てきたりしてPythonなりWeb系なりが必要になる

「今の業務を楽にする」っていう現状の延長線上の考えとか発想のままだとマクロで十分ってなるけど

新しいユーザー体験だとか問題本質解決だとかを目指したときプログラミング必要になる

2021-10-27

anond:20211027152420

matplotlib、MATLABオタク自己満ツールからpandas.plotかseaborn使うかCSVで出してExcel使った方がいい

ログイン ユーザー登録
ようこそ ゲスト さん