「フェルミ推定」を含む日記

2024-06-05

■I.GPT-4からAGIへ：OOMを数える (2)

この4年間

私たちは今、基本的に人間のように会話できるマシンを手にしている。これが普通に思えるのは、人間の適応能力の驚くべき証であり、私たちは進歩のペースに慣れてしまったのだ。しかし、ここ数年の進歩を振り返ってみる価値はある。

GPT-4までのわずか4年間（！）で、私たちがどれほど進歩したかを思い出してほしい。

GPT-2（2019年）～未就学児："わあ、もっともらしい文章をいくつかつなげられるようになった"アンデス山脈のユニコーンについての半まとまりの物語という、とてもさくらんぼのような例文が生成され、当時は信じられないほど印象的だった。しかしGPT-2は、つまずくことなく5まで数えるのがやっとだった。記事を要約するときは、記事からランダムに3つの文章を選択するよりもかろうじて上回った。

当時、GPT-2が印象的だった例をいくつか挙げてみよう。左：GPT-2は極めて基本的な読解問題ではまあまあの結果を出している。右：選び抜かれたサンプル（10回試したうちのベスト）では、GPT-2は南北戦争についてある程度関連性のあることを述べた、半ば首尾一貫した段落を書くことができる。

https://situational-awareness.ai/wp-content/uploads/2024/06/gpt2_examples-1024x493.png

当時、GPT-2について人々が印象に残った例をいくつか挙げます。左: GPT-2は極めて基本的な読解問題でまあまあの仕事をする。右: 厳選されたサンプル（10回試したうちのベスト）では、GPT-2は南北戦争について少し関連性のあることを言う、半ば首尾一貫したパラグラフを書くことができる。

AIの能力と人間の知能を比較するのは難しく、欠陥もあるが、たとえそれが非常に不完全なものであったとしても、ここでその例えを考えることは有益だと思う。GPT-2は、その言語能力と、時折半まとまりの段落を生成したり、時折単純な事実の質問に正しく答えたりする能力で衝撃を与えた。未就学児にとっては感動的だっただろう。

GPT-3（2020年）～小学生："ワオ、いくつかの例だけで、簡単な便利なタスクができるんだ。"複数の段落に一貫性を持たせることができるようになり、文法を修正したり、ごく基本的な計算ができるようになった。例えば、GPT-3はSEOやマーケティング用の簡単なコピーを生成することができた。

https://situational-awareness.ai/wp-content/uploads/2024/06/gpt3_examples-1.png

GPT-3について、当時の人々が印象に残った例をいくつか挙げてみよう。上：簡単な指示の後、GPT-3は新しい文の中で作られた単語を使うことができる。左下：GPT-3は豊かなストーリーテリングを行ったり来たりできる。右下：GPT-3は非常に簡単なコードを生成できる。

GPT-3はSEOやマーケティング用の簡単なコピーを生成することができた。上：簡単な指示の後、GPT-3は新しい文章の中で作られた単語を使うことができる。左下：GPT-3は豊かなストーリーテリングを行ったり来たりできる。右下：GPT-3は非常に簡単なコードを生成できる。

繰り返しになるが、この比較は不完全である。しかし、GPT-3が人々に感銘を与えたのは、おそらく小学生にとって印象的だったことだろう。基本的な詩を書いたり、より豊かで首尾一貫した物語を語ったり、初歩的なコーディングを始めたり、簡単な指示やデモンストレーションからかなり確実に学習したり、などなど。

GPT-4（2023年）～賢い高校生：「かなり洗練されたコードを書くことができ、デバッグを繰り返し、複雑なテーマについて知的で洗練された文章を書くことができ、難しい高校生の競技数学を推論することができ、どんなテストでも大多数の高校生に勝っている。コードから数学、フェルミ推定まで、考え、推論することができる。GPT-4は、コードを書く手伝いから草稿の修正まで、今や私の日常業務に役立っている。

https://situational-awareness.ai/wp-content/uploads/2024/06/gpt4_examples-3.png

GPT-4がリリースされた当時、人々がGPT-4に感銘を受けた点をいくつか紹介しよう。上：GPT-4は非常に複雑なコードを書くことができ（中央のプロットを作成）、非自明な数学の問題を推論することができる。左下：AP 数学の問題を解く。右下：かなり複雑なコーディング問題を解いている。GPT-4の能力に関する調査からの興味深い抜粋はこちら。

AP 試験から SATに至るまで、GPT-4は大多数の高校生よりも良いスコアを出している。

もちろん、GPT-4でもまだ多少ばらつきがある。ある課題では賢い高校生よりはるかに優れているが、別の課題ではまだできないこともある。とはいえ、これらの限界のほとんどは、後で詳しく説明するように、モデルがまだ不自由であることが明らかなことに起因していると私は考えがちだ。たとえモデルがまだ人為的な制約を受けていたとしても、生のインテリジェンスは（ほとんど）そこにある。

https://situational-awareness.ai/wp-content/uploads/2024/06/timeline-1024x354.png

わずか4年間の進歩。あなたはこのラインのどこにいるのだろうか？

続き I.GPT-4からAGIへ：OOMを数える (3) https://anond.hatelabo.jp/20240605204704

Permalink | 記事への反応(2) | 20:42

2024-06-03

■英語できると英文科卒？って聞いてくるやつ

TOEIC900点代あるんだけど、たまに遭遇する低偏差値大学のバカにこういうこと聞かれてめちゃくちゃイラつくのでチラ裏で愚痴吐き出す。

文系で偏差値高い大学卒だったら英語は得意で当たり前だし、受験勉強やってた要領で試験対策すればTOEICで高得点取るのもそんなに難しくない。

ぶっちゃけ自分たちみたいな上位大学の文系就活生にとってTOEICで高得点取るのって足切りみたいなもので、そこからさらに意識高いサークルの活動とか玉手箱対策とか業界研究とか企業研究とかフェルミ推定の練習とか頑張ってそれなりに納得できる会社に就職した。

なのにこういうこと言うやつは、まるで英語が話せるからでかい会社に就職できたみたいに勘違いしてたり、自分の専門性が英語を使えることにあるみたいな扱いをしてくるので、これまでの英語以外の(なんなら英語なんかよりよっぽど苦労した)努力を自邸されている気分になってむかつく。

Permalink | 記事への反応(2) | 23:17

まともにコンサート行ったこと無いのがばれたね

Permalink | 記事への反応(0) | 21:48

わかったか小僧？

Permalink | 記事への反応(0) | 19:47

■anond:20240315193608

だってホストの梅毒感染確率だってフェルミ推定できるしね

Permalink | 記事への反応(1) | 19:37

■anond:20240315192630

今想像できる範囲でホストの性接触回数を、週に3回と設定したとするだろ？

それでその3回の中に梅毒患者に当たる確率は、若者の人口が1000万人として、1000人いるとすれば、0.01%。

一年で概算で50週間あるとして、0.5%ぐらいの確率で梅毒になるだろう。

これは、1年のうちに1回しか性交渉しない一般人の0.01%の50倍である。

ほら、ざっとフェルミ推定ってできるよね。

Permalink | 記事への反応(1) | 19:34

■anond:20240315192355

今しらべてきましたみたいな雑な使い方で草

それ、フェルミ推定ではないよｗ

Permalink | 記事への反応(1) | 19:26

■anond:20240315192259

フェルミ推定ってかっこいい名前だけど大して難しい概念じゃないしググれば小学生にも理解できるよ

Permalink | 記事への反応(1) | 19:26

■anond:20240315191959

横

フェルミ推定って言ってみたかった？

こういう用語は使い方間違えるとものすごくカワイイぞ

Permalink | 記事への反応(2) | 19:22

■anond:20240315191824

フェルミ推定みたいなもん

梅毒患者とかいそう

Permalink | 記事への反応(1) | 19:19

2024-02-28

■なるほど。はてなブックマーク ユーザーは２０００年代 から 活動しており、平均年齢が高いそうです。それを考えるとどうでしょうか。

はてなブックマークユーザーが2000年代から活動しており、平均年齢が高いという情報を考慮すると、死亡率に関する推定を修正する必要があります。平均年齢が高いと仮定すると、日本の一般人口における年間死亡率よりも若干高い率を適用するのが妥当です。
### 1. 死亡率の再推定
平均年齢が高いユーザー層（例えば50歳以上）の死亡率は、全体の平均よりも高くなります。例えば50歳以上の年間死亡率はより高い数値を示しますが、具体的な数値は年齢により異なります。
50歳以上の人口における死亡率を1%以上と推定することができますが、これはあくまで一般的な指標です。
### 2. インターネットユーザーが活動を停止する理由の再考
平均年齢が高い場合、生活の変化や健康状態の変化によりオンライン活動を停止する確率も変わってくる可能性があります。
しかし、依然として「飽きた」や「他の関心事への移行」といった理由でオンライン活動を停止するケースは多いと考えられます。
### フェルミ推定の修正
**「死亡した」確率**: 平均年齢が高いことを考慮して1%以上。
**「飽きた」確率**: 依然として高いが、平均年齢が高いことを考慮すると、活動停止の理由として健康や生活状況の変化も考慮する必要がある。
### 結論の修正
平均年齢が高いはてなブックマークユーザーの場合、死亡率が若干上昇することを考慮しても、「飽きた」または生活の変化による活動停止の確率の方が依然として高いと推定されます。しかし、年齢が高いことによる影響を無視することはできず、特に健康状態の変化による影響も考慮に入れる必要があります。それでもなお、「飽きた」や他の関心事への移行が主な理由である可能性が高いですが、死亡する可能性も若干高まることに注意が必要です。

anond:20240228152049

Permalink | 記事への反応(0) | 15:23

■或る、有名なはてなブックマーク ユーザーが急に活動を停止した場合、どちらの確率のほうが高いでしょうか。「死亡した」「飽きた」フェルミ推定してください。

フェルミ推定により、ある有名なはてなブックマークユーザーが活動を停止した原因が「死亡した」か「飽きた」かの確率を推定するため、いくつかの仮定と一般的な統計を用いて見積もります。
### 1. 日本の一般人口における年間死亡率の推定
日本の年間死亡率は大体0.7%程度とされています（2023年 4月時点の情報）。これを基に計算します。
はてなブックマークの有名ユーザーの年齢層を20歳から60歳と仮定します。この年齢層での死亡率は全体の死亡率よりも低いですが、簡単のため全体の死亡率を使用します。
### 2. インターネットユーザーが活動を停止する理由の推定
インターネット上で活動を停止する主な理由として、「飽きた」が挙げられます。具体的な確率を出すのは難しいですが、一般的にオンライン活動は多様な興味や生活の変化により変わりやすいと考えられます。
「飽きた」場合の確率は非常に高く、例えばオンライン活動を1年以内に辞めるユーザーが50%以上とする研究もあります。
### フェルミ推定の計算
**「死亡した」確率**: 年間0.7%。
**「飽きた」確率**: 非常に高いとして、具体的な数字は困難ですが、50%以上と見積もります。
### 結論
フェルミ推定に基づくと、「飽きた」理由で活動を停止する確率の方が「死亡した」理由に比べて桁違いに高いと言えます。オンラインでの活動変更は生活の変化、興味の変化など多くの要因によって頻繁に起こり得るため、この結果は妥当と考えられます。
この推定は非常に大まかなものであり、具体的な数字には多くの仮定が含まれていることに注意してください。

Permalink | 記事への反応(1) | 15:20

2024-02-22

■anond:20240222080405

Gemini Advancedの回答:

フェルミ推定を用いて、「ごはんですよ！」がご飯である確率を推定します。

1. 仮説の立案

まず、「ごはんですよ！」がご飯である確率に影響を与える要素を仮説として挙げます。

朝食にご飯を食べる人の割合
「ごはんですよ！」が朝食以外に使用される割合
「ごはんですよ！」以外の朝食用おかずの種類

2. 情報収集

次に、仮説に基づいて必要な情報を収集します。

総務省統計局「家計調査」によると、2022年の朝食でご飯を食べた人の割合は約40%です。
ハウス食品株式会社の調査によると、「ごはんですよ！」は朝食以外に使用されることはほとんどありません。
農林水産省の調査によると、朝食用おかずの種類は約50種類です。

3. 推定

収集した情報に基づいて、「ごはんですよ！」がご飯である確率を推定します。

朝食でご飯を食べる人の割合は約40%です。
「ごはんですよ！」は朝食以外に使用されることはほとんどありません。
朝食用おかずの種類は約50種類です。

これらのことから、「ごはんですよ！」がご飯である確率は、以下の式で推定できます。

```

確率 = 朝食でご飯を食べる人の割合 / 朝食用おかずの種類

= 40% / 50

= 約0.8

```

4. 答えの検証

推定結果が妥当かどうかを検証します。

上記の推定では、「ごはんですよ！」は朝食以外に使用されないことを仮定しています。しかし、実際には朝食以外に使用されることもあるため、推定結果は実際よりも高くなります。
朝食用おかずの種類は約50種類ですが、実際にはもっと多くの種類があるため、推定結果は実際よりも低くなります。

これらの点を考慮すると、推定結果は約0.8から1.0の間であると推測されます。

結論

フェルミ推定を用いて、「ごはんですよ！」がご飯である確率を推定した結果、約0.8から1.0の間であると推測されました。

参考資料

総務省統計局「家計調査」: https://www.stat.go.jp/data/kakei/]
ハウス食品株式会社「ごはんですよ！」: https://cookpad.com/search/%E3%81%94%E3%81%AF%E3%82%93%E3%81%A7%E3%81%99%E3%82%88]
農林水産省「朝食用おかずの種類」: https://macaro-ni.jp/111404]

Permalink | 記事への反応(0) | 12:56

■anond:20240222080542

フェルミ推定してといえば何でもやってくれるのがChatGPTくんのいいところ。

フェルミ推定を行うためには、いくつかの仮定を設定する必要があります。ここでは、「ごはんですよ！」がごはんである確率を推定するための仮定を立て、それに基づいて計算を進めます。
仮定:
1. 「ごはんですよ！」とは、ごはんにかけることを想定される調味料やトッピングの一種を指す。
2. 一般的な日本の家庭で「ごはんですよ！」というフレーズが使われるのは、食事の準備ができたとき、特にごはんが主食として提供される場合に限るとする。
3. 「ごはんですよ！」というフレーズが使われるシチュエーションのうち、実際にごはん（白米）が提供される割合を推定する。
推定手順:
1. 日本の家庭での食事のうち、ごはん（白米）が主食として提供される割合を考える。週7日のうち、平均して4日はごはんが食卓に上ると仮定する。
2. 1日に家庭で食事が提供される回数を1〜3回と考える。ここでは平均して1日2回、ごはんが食卓に上ると仮定する。
3. 週に提供される食事の総数を計算する。1日2回×7日＝14回となる。
4. 週にごはんが提供される回数を計算する。1日に2回ごはんが食卓に上ると仮定した場合、4日×2回＝8回となる。
5. 「ごはんですよ！」が実際にごはんである確率を推定する。これは、ごはんが提供される回数を食事の総数で割ったものになる。すなわち、8回÷14回の割合となる。
これらの仮定に基づいて確率を計算します。
　
「ごはんですよ！」が実際にごはん（白米）である確率は、約57.1%と推定されます。この計算は上記の仮定に基づいており、実際の確率は異なる場合があります。