  |
はてなキーワード: 対数とは
「エントロピー」という概念がよくわかりません。 - Mond
https://mond.how/ja/topics/25cvmio3xol00zd/t242v2yde410hdy
https://b.hatena.ne.jp/entry/s/mond.how/ja/topics/25cvmio3xol00zd/t242v2yde410hdy
「エントロピー」は名前自体は比較的よく知られているものの、「何を意味しているのか今一つ分からない」という人の多い概念である。その理由の一つは、きちんと理解するためには一定レベルの数学的概念（特に、微積分と対数）の理解が必要とされるからであろう。これらを避けて説明しようとしても、「結局何を言いたいのかすっきりしない」という印象になってしまいやすい。
「エントロピー」を理解し難いものにしているもう一つの理由は、「エントロピー」という概念が生まれた歴史的経緯だと思われる。
エントロピーが提唱された時代は、物質を構成する「原子」や「分子」の存在がまだ十分に立証されておらず、それらの存在を疑う物理学者も少なくなかった。エントロピーの提唱者クラウジウスは、「原子や分子の存在を前提しなくても支障がないように」熱力学の理論を構築し、現象の可逆性と不可逆性の考察から「エントロピー」という量を発見し、非常に巧妙な手法で定義づけたのである。
その手法は実にエレガントで、筆者はクラウジウスの天才性を感じずにはいられない。だが、その反面、熱力学における「エントロピー」概念は簡単にイメージしづらい、初学者には敷居の高いものとなってしまったのだ。
その後、ボルツマンが分子の存在を前提とした（よりイメージしやすい）形で「エントロピー」を表現し直したのだが、分子の存在を認めない物理学者達との間で論争となった。その論争は、アインシュタインがブラウン運動の理論を確立して、分子の実在が立証されるまで続いたのである。
現代では、原子や分子の存在を疑う人はまず居ないため、ボルツマンによる表現を心置きなく「エントロピーの定義」として採用することができる。それは次のようなものである。
例えば、容積が変わらない箱に入れられた、何らかの物質を考えて欲しい。
箱の中の物質の「体積」や「圧力」「物質量」などは具体的に測定することができる。また、箱の中の物質の「全エネルギー」は測定は難しいが、ある決まった値をとっているものと考えることができる。
ここに、全く同じ箱をもう一つ用意し、全く同じ物質を同じ量入れて、圧力や全エネルギーも等しい状態にするとしよう。このとき、二つの箱の「巨視的状態」は同じである。では、内部の状態は「完全に」同じだろうか？
そうではあるまい。箱の中の物質の構成分子の、それぞれの位置や運動状態は完全に同じにはならない。これらの「分子の状態」は刻一刻と変化し、膨大なパターンをとりうるだろう。
このような分子レベルの位置や運動状態のことを「微視的状態」と呼ぶ。
「微視的状態」のパターンの個数（場合の数）はあまりに多いので、普通に数えたのでは数値として表現するのも難しい。そこで「対数」を用いる。
例えば、巨視的状態Aがとりうる微視的状態の数を1000通り、巨視的状態Bがとりうる微視的状態の数を10000通りとする。このとき、Aの「パターンの多さ」を3、Bの「パターンの多さ」を4、というように、桁数をとったものを考えるのである。
この考え方には、単に「とてつもなく大きな数を表現するための便宜的手法」という以上の意味がある。
先の例では、AとBを合わせた微視的状態の数は1000×10000=10000000通りであるが、「パターンの多さ」は7となり、両者それぞれの「パターンの多さ」の和になるのである。
「微視的状態のパターンの個数」をΩ通りとしたとき、エントロピーSは次のように表現できる。
S = k*logΩ
（ただし、kはボルツマン定数と呼ばれる定数であり、対数logは常用対数ではなく自然対数を用いる。）
この「エントロピー」は、同じ巨視的状態に対して同じ数値をとるものであるから、「体積」や「圧力」などと同じく「状態量」の一つである。
このような「目に見えない状態量」を考えることに、どのような意味があるのだろうか？
その疑問に答えるには、エントロピーとエネルギーの関係について考える必要がある。
再び箱に入った物質を考えよう。この箱に熱を加え、箱内の物質のエネルギーを増加させると、エントロピーはどうなるだろうか？
まず、総エネルギーが増加することにより、各分子に対する「エネルギーの分配パターン」が増える。さらに、個々の分子の平均エネルギーが増えた分、可能な運動パターンも増える。このため、エネルギーが増えるとエントロピーは増加すると考えていいだろう。
では、エントロピーの「上がり方」はどうか？
エントロピーは微視的状態パターンの「桁数」（対数をとった値）であるから、エネルギーを継続的に与え続けた場合、エントロピーの増加の仕方はだんだん緩やかになっていくだろうと考えられる。
ここで、多くのエネルギーを与えた「熱い物質A」の入った箱と、少量のエネルギーしか与えていない「冷たい物質B」の入った箱を用意しよう。箱同士を接触させることで熱のやりとりが可能であるものとする。
物質Aには、熱を与えてもエントロピーがさほど増加しない（同様に、熱を奪ってもエントロピーがさほど減少しない）。言いかえると、エントロピーを一定量増加させるのに多くのエネルギーを要する。
物質Bは、熱を与えるとエントロピーが大きく増加する（同様に、熱を奪うとエントロピーが大きく減少する）。つまり、エントロピーを一定量増加させるのに必要なエネルギーが少ない。
箱を接触させたとき、AからBに熱が流入したとしよう。Aのエントロピーは下がり、Bのエントロピーは上がるが、「Aのエントロピー減少分」より「Bのエントロピー増加分」の方が多くなるので、全体のエントロピーは増加するだろう。
もし、逆にBからAに熱が流入したとするとどうか？ Aのエントロピーは上がり、Bのエントロピーは下がるが、「Aのエントロピー増加分」より「Bのエントロピー減少分」の方が多いので、全体のエントロピーは減少することになる。
エントロピーが多いとは、微視的状態パターンが多いということである。従って、「AからBに熱が流入した」状態パターンと、「BからAに熱が流入した」状態パターンとでは、前者のパターンの方が圧倒的に多い（エントロピーは微視的状態パターン数の対数なので、エントロピーの数値のわずかな差でも、微視的状態パターン数の違いは何十桁・何百桁にもなる）。これは、前者の方が「起こる確率が圧倒的に高い」ということを意味している。
これが、「熱は熱い物体から冷たい物体に移動する」という現象の、分子論的な理解である。
冷たい物体から熱い物体へ熱が移動する確率は0ではないが、無視できるほど小さいのである。
物体が「熱い」ほど、先程の「エントロピーを一定量増加させるのに必要なエネルギー」が多いといえる。そこで、この量を「絶対温度」Tとして定義する。
エントロピーの定義のときに出て来た「ボルツマン定数」kは、このTの温度目盛が、我々が普段使っているセルシウス温度（℃）の目盛と一致するように定められている。
さて、ここで用いた「エントロピーが減少するような変化は、そうなる確率が非常に低いので現実的にはほぼ起こらない」という論法は、2物体間の熱のやりとりだけでなく、自然界のあらゆる現象に適用することができる。
すなわち、「自然な（自発的な）変化ではエントロピーは常に増加する」と言うことができる。これが「エントロピー増大の法則」である。
ただし、外部との熱のやりとりがある場合は、そこまで含めて考える必要がある。
例えば、冷蔵庫にプリンを入れておくと、プリンの温度は「自然に」下がってエントロピーは減少する。
しかし、冷蔵庫が内部の熱を外部に排出し、さらに冷蔵庫自身も電気エネルギーを熱に変えながら動いているため、冷蔵庫の外の空気のエントロピーは内部の減少分以上に増加しており、そこまで含めた全体のエントロピーは増加しているのである。
最初に、「エントロピーの理解には微積分と対数の理解が必要」であると述べたが、なるべくそうした数学的概念に馴染みがなくても読み進められるようにエントロピーの初歩的な話をまとめてみた。如何だったであろうか。
筆者は熱力学・統計力学の専門家でもなんでもないので、間違ったことを書いている可能性もある。誤りがあればご指摘いただけると幸いである。
クラウジウスによる「原子・分子の存在を前提としない」エントロピーの定義については、筆者よりはるかに優秀な多くの方が解説記事を書かれているが、中でも「EMANの熱力学」https://eman-physics.net/thermo/contents.html が個人的にはおすすめである。興味ある方はご参照いただきたい。
数年前に結婚した妻を観察した結果をどこかに殴り書きしたく、結論のない文章を投下してみる。
良い国立大学の文系出身なので勉強はできたはずなのだけど、勉強自体にコンプレックスがあった様子。
まぁお互い30歳を超えているので、いい年の大人が高校の勉強どうだったのかなんて話すのはアレな気はするが、
思春期の記憶は強く人格形成に影響するらしく、数学っぽい話をすると拒否反応みたいなのが起きてしまう。
自分は理工学部の出身なので結構楽しく数学の話をする時があるが、そういうのを見て自分との差を感じて一人で辛くなってしまうらしい。
思い切って教科書取り扱いのある販売店に行き、数学の教科書を買ってみた。
ちなみに高校の教科書はすべての書店にあるわけではないが、教科書取り扱いの販売店なら一般の人にも売ってくれる。アマゾンでも買える。
買ったのは数研出版の高等学校シリーズで、教科書によって難易度の差があるのは知っていたが、何でもいいかなと思って目についた標準っぽいのを買った。
妻の数学理解度を確認してみると、数学1の二次方程式の解き方・不等式の解き方についてはかなり鮮明に覚えていた。
躓きポイントは数学2からの三角関数・指数・対数のあたりっぽい。
観察の結果、定義を定義として受け入れるときに、なぜそうなっているのか？というのを真っ先に考えてしまい、
あまり無味乾燥と感じる状態では理解を拒否反応を示してしまう、というのがあった。
例えば指数関数で、 (a^x)^y = a^{xy} なんだよ、というのを理解するのにどうして？というのが真っ先に思い浮かんでしまう。
初学者はまず定義を受け入れて、いろいろな練習や思考を重ねていくうちにどうしてその定義になっているのか、という順序で考えたほうがいいと思うのだが、
この順序でなかなか物事を考えられない。
定義がどうしてそうなっているのか、はある程度それ自体に親しまないとわからなかったりする。
こういう時は具体的な例を列挙して、これがただしそうだよね？という話をしてあげる。
こういうときは、実験を観察を繰り替えす自然科学のようなアプローチがいいと思っている。数学はもちろん論理的に厳密な学問なので定義の積み重ねの上だけでも議論できると思うのだが、高校の基礎レベルの理解だと体で納得できないといけないこともあると思う。
たとえば(a^x)^y = a^{xy} の正しさの確認なら、
(a^2) ^ 3 は a^2 * a^2 * a^2 = a * a * a * a * a * a = a^6 みたいに具体的な数をあてはめて、合っているねというのを見ていく。
なんとなくこの定義でいいんだ、というのがつかめてきたらそれを定着させるべくたくさん練習問題を解いてもらう。
大切なことは、一度挫折している人なので、事あるごとにほめること。
たすき掛け早い！理解が速い！いいね、合ってる、などとにかくポジティブにほめる。
逆にどれだけ学生時代に自信を失わせるようなことがあったんだと想像してしまう。
女子学生は昔から勉強してない自慢したり、集まってヤバイヤバイと言い合って安心する、みたいなことがあったと思う。
出来なければテストで悪い点を取り、親から・先生から怒られて、自信を無くすとどんどん数学自体に向き合えなくなっていってしまう。
数学に向き合えないと、勿論数学ができなくなっていき、授業も何言っているのかわからなくなり、ついていけている子から日を追うごとに差をつけられてしまう。
計算ミスが多いから、本質的な問題の理解に時間を割くことができず、学びもうまくいかない。
最初に数学が得意になるかどうかの分かれ目は、少しワーキングメモリーが大きいとか、少し注意深いとか、少し計算が速いとか、そういう差なのかもしれない。
とりあえず数2の範囲については章末問題が全て解けるようになった。
こころなしか、最初のころは私に「トラウマに向きあえ～～」と言われてイヤイヤやっていた感じがあったけども、自分ができるようになる過程を楽しんでいる感じがある。
別に彼女の仕事には今更高校数学を振り返っても役に立つわけではないが、週末には数学をやるのが定着してきた。
そのうちどこかの大学の入試問題を一緒に解いてみようか。自信にもなるだろう。
何歳になっても学ぶことは良い。
英語の略字を日本語に変換していちいち説明したらわかりにくすぎる。
「e」はネイピア数とは呼ばれるけど、じつは「Euler（オイラー）」のEだろ？
たしかに「e」はあちこちで使われるから、この分野ではネイピア数と呼びたいのはわかるんだけど、そこらへんちゃんと説明してないだろ。
「logarithmus」って、ラテン語の「logos（比率）」と「arithmos（数）」の造語なんだろ？どこが「対数」なんだ？
式中にlogと書いてあれば「ログ」「ロガリズム」とか読むしか無いんだからいちいち「対数」と呼ぶ必要ないだろ
「logarithmus naturalis」の略が「ln」なんだろ？日本語に翻訳したらたしかに自然対数だけど
そもそもここで言う「日本語で言う自然の定義はなんだよ」ってなるだろ。
e^(ln(x)) = x
ln(e^x) = x
function entropy(probabilities) {
// エントロピーの初期値を0に設定します。エントロピーは情報の不確かさを表すので、
// これからその不確かさを計算していきます。
let entropy = 0;
// 確率の配列を一つずつ見ていきます。この確率は、それぞれの事象が起こる確率を表しています。
for (let probability of probabilities) {
// 確率が0より大きい場合のみ、エントロピーの計算に寄与します。
// 確率が0の事象は、起こらないと確定しているので、情報の不確かさ（エントロピー）には影響しません。
if (probability > 0) {
// エントロピーの計算式は、各事象の確率 * その確率の対数の和です。
// これは、各事象が起こる不確かさを、その事象が起こる確率で重み付けして合計したものと考えることができます。
entropy -= probability * Math.log2(probability);
}
}
// 最終的に計算されたエントロピーを返します。この値が大きいほど、確率分布の不確かさが大きい、つまり予測が難しいということを意味します。
return entropy;
}
本業はネットワーク屋なんだけど、無線LAN周りのトラブルで「いや～電波ってそういうものなんでこの環境じゃあムリっすよ」「そういうものって？？」みたいなやり取りが客とあってそもそも「電波ってなんなんだ？」と思ったのでぐぐって調べた。高校では物理取ってたはずなのに欠片も記憶にないので深い睡眠学習をしていたのだと思う。
電波法では「3THz以下の周波数の電磁波」を「電波」と呼ぶ。間違っても「電磁波」の略では無いし、電磁波の中の一部を電波と呼んでいるだけ。
導体を電流が流れると磁界が生じる（右ねじの法則）→電流の向きが変わると磁界の強さが変わり電界が生じる→電界の強さが変わると磁界が生じる→…の繰り返しで空間を媒体にして飛んでいくものが電磁波。ただし電界と磁界がリングのように繋がっていく絵（が高校物理の教科書に載っているらしいが全く記憶に無い）は厳密には間違い。電界と磁界は直交して発生し位相が一致するため。
electric fieldの訳語なので同じ。慣習的に工学系は電界、大学の理学系では電場。
コンデンサの応用。コンデンサの電極を棒状にしたイメージ（=ダイポールアンテナ）。アンテナに交流を掛けると電極間で電荷が流れ（ていないが後述の通り流れていると見做す）、電界が生じる→磁界が生じる→電界が生じるのループによって電磁波が空間を伝っていくのが電波の送信。電荷が行ったり来たりする速さが周波数、流れる電荷量（電流の大きさ）が生じる電界の強さになる。
逆に、磁界がアンテナに当たりアンテナ周辺の磁界が変化すると電流が流れる（ファラデーの電磁誘導の法則）ので、それを良い感じに拾い上げるのが受信…なのだと思うが正直この辺は欲しい情報が探せず自信なし。
絶縁体を電極で挟んだもの。絶縁体なので電荷を通さず蓄えることができる。ただし交流の場合、電荷の流れる向きが変わるので見た目上電荷が流れると言える（らしい）。
「電気」のミクロな表現。原子の周りを回っている電子が飛び出すと正電荷、飛び込まれた方の原子は負電荷で異なる電荷同士は反発し合い同じ電荷同士は引き合う（静電気力）。
この静電気力が働く場を「電界」と呼び、電荷から延びる静電気力の働く方向を線にしたのが電気力線。
電荷の移動で磁界に磁力線が生じ、正電荷と負電荷の間で電界に電気力線が生じる。
電波の送信で電界と磁界が生じていくという説明は電気力線と磁力線が生じていくとも言える。磁力線は磁石のNからSへ延びる線。
送信機のアンテナ端子に電力計を繋いで測った電力。送信電力とほぼイコールだが、厳密にはアンテナまでのケーブル減衰を差し引いてアンテナに掛かる電力。よって「送信電力-ケーブル減衰」が空中線電力。
指向性アンテナによって見かけ上、エネルギーをマシマシにしてくれることをアンテナの利得と呼ぶ。アンテナに増幅作用はないので送信電力が増える訳では無い。
等方性アンテナ（指向性を持たず全方向へ等しい強度で放射される仮想的なアンテナ）と同エネルギーのアンテナ利得を基準(0dB)とする利得を絶対利得と呼び 0 dBi とする。あまりよくわかってない。
等価等方放射電力。アンテナからある方向へ放射されるエネルギーを等方性アンテナによる送信電力としたもの。
アンテナ利得 20dBi のある指向性アンテナに送信出力 30dBm(1W) を掛けると送信出力 30dBm + アンテナ利得 20dBi = EIRP 50dBm (=100W) 。これは等方性アンテナ(アンテナ利得 0dBi)に送信出力 50dBm (100W)を掛けたといういう意味になる。
1mW = 0dBm として、1mWより大きいか小さいかを対数で表現した絶対値の単位。
電波の世界ではめっちゃ小さい桁数の数字の数字になるので、常用対数を用いることで使いやすい数字にする。
対数なので 3dBm の増減は2倍または0.5倍、10dBmの増減は10倍または0.1倍。
・23dBm = 10dBm + 10dBm + 3dBm = 10mW x 10mW x 2mW = 200mW
・-60dBm = -10dBm + -10dBm + -10dBm + -10dBm + -10dBm + -10dBm = -0.1mW ^6 = 0.000001mW
といった計算が出来る。
何処まで正しいのか全くわからんが、知識皆無からぐぐって読み比べたらなんとなーくわかったような気がする段階まで持って行くことができるのは単純に凄くねと思った。
便利な時代になったんだなあ。
雇われ人なので鎖自慢をしよう。収入は多いほうが良い。プライベートな時間は多いほうが良い。ということで、この2つを代表するパラメーター（のうち最も単純なもの）を掛けてみて「良さ」を評価してみよう。たとえばトヨタの平均年収857万 (2021年)、年間休日日数120日＋有休20日の140日を休日数とすると、値を掛け合わせて
ひとまず私はこの数字を上げるため、有給休暇は今後全消化していこうと思う
計算式は単純すぎて、もっと良いアプローチがあるような気はする。たとえばトヨタの例だと年収約6万円と有休1日が等価となるが、はたして感覚的に妥当かどうか。収入に対する幸福度の増加は漸減するとよく聞くので、年収はリニアじゃなくて対数の方が良いかもね。
はてブのホットエントリ(総合)で月内に数多く[あとで読む]タグを集めたエントリ
315あとで/2672users 零細企業買収して売却した話｜reisaikigyou_ma｜note
294あとで/2057users テクニカルライティングの基本 | Naohiro Nakata | SpeakerDeck
277あとで/2169users プログラマの心の健康 | 結城浩
257あとで/1306users GitHubの使い方を学ぶ「GitHub Skills」が無料公開。GitHubを実際に操作してMarkdown、Pages、Pull Requests、マージのコンフリクト解消などを体験 | Publickey
210あとで/1421users 総務省、きょうから「社会人のためのデータサイエンス入門」を無料開講 | Ledge.ai
206あとで/1271users 商用利用OKの音素材、600種以上無料公開 バトルの攻撃音も……「Springin’ Sound Stock」 | ITMedia
204あとで/1565users 「自分を愛するってどうしたらいいの？」──宇多田ヒカルの思考を辿るインタビュー、全文公開。 | VOGUE
189あとで/1536users 商用利用無料、国内のフリーイラスト素材の総まとめ | coliss
165あとで/1222users 著作権フリー素材がスゴすぎ…広重や夢二も全部無料 国立国会図書館の試みに「工作心がムズムズ」「活用しない手はない」｜まいどなニュース
163あとで/1070users わずか数年で400億円も売り上げを伸ばしたカインズ ホームセンターのDXで、まず「顧客戦略」に着手した理由 | 株式会社メンバーズ | logmi
161あとで/1092users わかりやすいシステム構成図の書き方 - Qiita
158あとで/952users 大人の学びパターン・ランゲージ（略称まなパタ）：IPA 独立行政法人 情報処理推進機構
152あとで/974users Webデザインの有料学習サイトが無料化 IllustratorやPhotoshop入門などが見放題 | ITMedia
145あとで/1638users 最近Amazonプライムで観た面白かったけど胸糞悪くて二度と観たくない邦画5選 - kansou
144あとで/704users 書籍「達人が教えるWebパフォーマンスチューニング」はチューニングの考え方を教えてくれる良本 - Gマイナー志向
144あとで/1072users ジョナサン・ハイトが解き明かす「アメリカ社会がこの10年で桁外れにバカになった理由」 | 「現代のバベルの塔」はいかにして建設され、崩されたのか | COURRiER
138あとで/1513users 【ウマすぎ注意報】料理研究家・リュウジさん考案「無限冷やしそうめん」がガチでラーメンより美味かった! | マイナビニュース
133あとで/673users 東京大学深層学習（Deep Learning基礎講座2022）深層学習と自然言語処理 | Hitomi Yanaka | SpeakerDeck
129あとで/980users ドキュメントに固執せよ - gfnweb
128あとで/846users 世界中のITエンジニアが悩まされている原因不明でテストが失敗する「フレイキーテスト」問題。対策の最新動向をJenkins作者の川口氏が解説（前編）。DevOps Days Tokyo 2022 | Publickey
127あとで/1632users 結城浩 on Twitter: "質問（簡単に教えてもらおうとする相手にイライラするようになった） あなたのおっしゃる「質問されるとイライラする感じ」はよく理解できますし、同じように感じる人はたいへん多いと思います。（続く） #結城浩に聞いてみよう… https://t.co/CKZMzVzHPN"
126あとで/622users コードを書いていてマネジメントもやるようになっちゃった人へ 背中で語っていた僕が、プロダクトとピープルに向き合うまで | 海老原昂輔 | logmi
124あとで/1032users 「女性同士のマウンティング」に関する研究論文が興味深くView数が少ないのがもったいないレベル 具体的なエピソードもなかなかすごい | Togetter
123あとで/1046users 戦略系コンサルタントがオススメする本(不定期更新）｜とあるコンサルタント｜note
122あとで/885users たった256文字のJavaScriptコードで描かれた街の風景アニメがスゴ過ぎて訳がわからない／解説ページを見てもわからないorz【やじうまの杜】 | 窓の杜
117あとで/924users 私は数学がなぜ苦手なのか？高校生が分析してあみ出した勉強法が効果抜群だった｜高校生新聞オンライン｜高校生活と進路選択を応援するお役立ちメディア
115あとで/701users 「ゲーム制作するなら、これだけは覚えておいたほうがいい」 プログラミングする上で重要な「対数」の考え方 | 安原祐二 | logmi
112あとで/879users 【初心者向け】iPhone3Dスキャンパーフェクトガイド｜iwama｜note
111あとで/524users 次世代Web通信プロトコル「HTTP/3」がついに標準化 ～有志による無償解説本が話題に／PDF形式の電子書籍がGitHubで公開中！ 今後も更新される模様【やじうまの杜】 | 窓の杜
「ゲーム制作するなら、これだけは覚えておいたほうがいい」 プログラミングする上で重要な「対数」の考え方
https://b.hatena.ne.jp/entry/s/logmi.jp/tech/articles/326705
この記事への反応
基本的にこういうちょっと小難しい記事に対しては、なぜか内容の成否を一切気にせず「知らなくても作れるよ」という主張だけが声高に唱えられるよね。この記事に不備があったり説明が回りくどいとかなら指摘するのもいいが、そういうのを言えないから「知らなくてもいい」「ハードル高くするな」って言うしかないんだろう。
ようは初心者がいっちょ噛みしているだけ。