  |
はてなキーワード: ラインとは
全国的に名前が知られている目立つ女性議員なんてこんなのばっかりなのに、女性にもっと権限と責任をとか言われて「本気でおじゃるか？このラインナップを見て、更に充実させろとおっしゃる？」って言うと差別主義者と扱われる。理不尽よね。
若い頃は写真集で女性の水着姿や、女性特有の体のラインを見ると性欲に結びついていた。
鍛えて適度にふっくらしたお尻を見るとアートを見ているような気分になる。
これに気づいたときは老を感じて若干の悲しみを覚えたけど、これまで性欲としてしか消費できなかったコンテンツを芸術作品として楽しむことが出来るようになったのは嬉しい。
特に映像作品でやたらと台詞にファック入れるのにピー音で消すのマジで萎えるからやめて欲しい
もし実際にリアルでもピー音が鳴るのなら俺の知識不足で大変申し訳ございませんだがピー音がなるだけでリアリティラインがめちゃくちゃ下がるんだわ
これのせいで英語音声じゃなくて基本的に最初から吹き替えで観てる
もちろん監督や原作によっては放送禁止用語を避けてくれるおかげで英語で観れるものも沢山あるが
それにしたって自分たちでピー音入れるくらい汚い言葉だと分かってるのなら最初からリアルでも使うなっつー話
例えば姫崎のシナリオで迷子の子供をどうにかする場面があるじゃん。
令和だと迷子センターその他に直行しないと下手したら略取になるのに、学園アイドルマスターだと寄り道していたわけです（それで特に何もなし）
これから書くことはいわゆるネットスラングで言う「アルミホイルを巻く話」、つまり妄想だということです。
なので事実の摘示もしていませんので勘違いしないようにしてください。
子猫の小話
https://youtu.be/kaLkD3KBDTg?si=chkj7KDLeOO6Xo-M&t=217
石丸伸二について調べてみました
暇空茜
https://www.youtube.com/watch?v=GDFY6hB-BFM
石丸伸二がバズり始めたのは2023年８月上旬からということは複数の方が確認している。
2023/07/01 2023/08/31
堀口がおおむね圧倒的に上にあるが、８月に入り小林の怒りがトレンドに入り、そして低下するのと入れ替わるように石丸伸二が上がってくる。
この状況を整理すると、石丸伸二と堀口英利は互いに示し合わせて行動しているわけではないが、結果として石丸伸二の仕掛けを隠ぺいするために堀口英利がサポートする形になっていたようにみえる。
具体的には、堀口英利が小林の怒りに対してできるだけド派手な攻撃を行い、石丸伸二をプッシュしていることを暇空茜に気取らせないようにしていた。
もちろん、堀口英利がその事実を知っていたとは思えないが、意図せずとも互いの行動が結果としてWin-Winの関係 になっていたようだ。
伊久間の訴状を見れば、700万円の請求も神原、伊久間あたりが考えていた内容を堀口が実行したともいえる。
そうだとすると、石丸伸二を隠すように堀口に吹き込むタイミングが調整されていたのかもしれない。
堀口英利がネット上で話題を混乱させることで、石丸伸二のプッシュが目立たなくなり、計画がスムーズに進めた可能性がある、
自分だけだとバイアスがかかるかもしれないので、ChatGPTにも見せてみる。
ChatGPTが読み取れることを以下にまとめます。
7月初旬から8月中旬にかけて、人気度が一貫して高く推移しています。（編注：トレンドだからこういう表現になる）
特に7月中旬と8月初旬に大きなピークが見られます。これは何か特定のイベントやニュースが影響している可能性があります。
あるトピックやキーワードが7月から8月にかけて一貫して注目を集めています。特定のイベントや連続したニュースが関連している可能性が高いです。
7月初旬はほとんど変動がありませんが、8月に入ってから何度か急上昇しています。
これらの急上昇は、特定の短期間に集中していることから、一時的な注目を集めた出来事があったことを示唆しています。
他の二つのラインに比べて、頻度が低く、また人気度もあまり高くありません。
いくつかの時点で急激な増加が見られますが、それ以外はほとんどゼロに近い状態です。
@shinji_ishimaru
こちらの #キッチンカー の募集は明後日8/10（木）が〆切です!
すでにかなり多種多様なお申し込みがあり、県内でも稀なイベントとなりそうな感じがしています😃
盛り沢山な #フェス を共に楽しみましょう。（珍しい飲食が提供できる方は特に）皆さんの参加をお待ちしています!!
ttps://x.com/shinji_ishimaru/status/1688876338785267712
ここでサクラが出現している。
@Silvertigerone
安芸高田市長「恥を知れ」発言 #安芸高田市 #恥を知れ #石丸伸二 ttps://youtube.com/shorts/fnFbdyqsxDA?feature=share
ttps://x.com/Silvertigerone/status/1688946721718710272
@shinji_ishimaru
ここ数日、フォロワー数が急増しているので不思議に思っていました…再生数が6日で230万回はなかなかの伸びですね。
ttps://youtu.be/dTu2Fk_LpdI
#中国新聞 に限らず地方紙には似た傾向があるのではないかと懸念しています。発言に責任を持たない #メディア は有害です。
@ChugokuShimbun
youtube.com
【逆ギレ】マスゴミが中途半端に石丸市長を挑発し、逆にコテンパンにされ涙目で逆ギレ議論すり替えを行ってしまう
余計な一言と、下手な追求は効かない人には絶対に効かないですね…記者も感情的にならず、もうちょっと理論的に話をしてほしいです。引用元安芸高田市定例記者会見（2023年7月） 前編ttps://www.youtube.com/watch?v=QfNRDlQbzy4チャンネル登録はこちらをクリック！ttp://ww...
208.9万 件の表示
ttps://x.com/shinji_ishimaru/status/1691432918701494272
繰り返しになるが、非常に賢いChatGPTを想像するだけではいけない。趣味的な進歩ではなく、リモートワーカーや、推論や計画、エラー訂正ができ、あなたやあなたの会社のことを何でも知っていて、何週間も単独で問題に取り組めるような、非常に賢いエージェントのようなものになるはずだ。
私たちは2027年までにAGIを実現しようとしている。これらのAIシステムは、基本的にすべての認知的な仕事（リモートでできるすべての仕事を考える）を自動化できるようになるだろう。
はっきり言って、エラーバーは大きい。データの壁を突破するために必要なアルゴリズムのブレークスルーが予想以上に困難であることが判明した場合、データが足りなくなり、進歩が停滞する可能性がある。もしかしたら、ホッブリングはそこまで進まず、専門家の同僚ではなく、単なる専門家のチャットボットに留まってしまうかもしれない。もしかしたら10年来のトレンドラインが崩れるかもしれないし、スケーリング・ディープラーニングが今度こそ本当に壁にぶつかるかもしれない。(あるいは、アルゴリズムのブレークスルーが、テスト時間の計算オーバーハングを解放する単純なアンホブリングであっても、パラダイムシフトとなり、事態をさらに加速させ、AGIをさらに早期に実現させるかもしれない)。
いずれにせよ、私たちはOOMsを駆け抜けているのであり、2027年までにAGI（真のAGI）が誕生する可能性を極めて真剣に考えるのに、難解な信念は必要なく、単に直線のトレンド外挿が必要なだけである。
最近、多くの人がAGIを単に優れたチャットボットなどとして下方定義しているように思える。私が言いたいのは、私や私の友人の仕事を完全に自動化し、AI研究者やエンジニアの仕事を完全にこなせるようなAIシステムのことだ。おそらく、ロボット工学のように、デフォルトで理解するのに時間がかかる分野もあるだろう。また、医療や法律などの社会的な普及は、社会の選択や規制によって容易に遅れる可能性がある。しかし、ひとたびAI研究そのものを自動化するモデルができれば、それだけで十分であり、強烈なフィードバック・ループを始動させるのに十分であり、完全自動化に向けて残されたすべてのボトルネックを自動化されたAIエンジニア自身が解決することで、非常に迅速にさらなる進歩を遂げることができるだろう。特に、数百万人の自動化された研究者たちによって、アルゴリズムのさらなる進歩のための10年間が1年以内に圧縮される可能性は非常に高い。AGIは、まもなく実現する超知能のほんの一端に過ぎない。(詳しくは次の記事で）。
いずれにせよ、目まぐるしい進歩のペースが衰えることはないだろう。トレンドラインは無邪気に見えるが、その意味するところは強烈である。その前の世代がそうであったように、新世代のモデルが登場するたびに、ほとんどの見物人は唖然とするだろう。博士号を持っていれば何日もかかるような信じられないほど難しい科学的問題を、間もなくモデルが解決し、あなたのコンピュータのまわりを飛び回り、あなたの仕事をこなし、何百万行ものコードからなるコードベースをゼロから書き上げ、これらのモデルによって生み出される経済的価値が1年か2年ごとに10倍になるとき、彼らは信じられないだろう。SF小説は忘れて、OOMを数えよう。AGIはもはや遠い空想ではない。単純なディープラーニング技術をスケールアップすることがうまくいき、モデルは学習したがり、2027年末までにさらに100,000倍を超えようとしている。私たちよりも賢くなる日もそう遠くはないだろう。
https://situational-awareness.ai/wp-content/uploads/2024/06/gan_progress-1.jpeg
GPT-4はほんの始まりに過ぎない。GANの進歩に見られるように）ディープラーニングの進歩の速さを過小評価するような間違いを犯さないでほしい。
続き I.GPT-4からAGIへ：OOMを数える(11) https://anond.hatelabo.jp/20240605212014
X (twitter) で SITUATIONAL AWARENESS: The Decade Ahead https://situational-awareness.ai/ というのが回ってきて非常に示唆に富むものだったので、DeepL (無料版 API経由) で訳してみた。
この1年で、街の話題は100億ドルのコンピュート・クラスターから1000億ドルのクラスター、そして1兆ドルのクラスターへと移り変わってきた。半年ごとに、役員室の計画にまたゼロが追加される。その裏では、残りの10年間に利用可能なすべての電力契約と、調達可能なすべての電圧変圧器を確保しようとする熾烈な争いが繰り広げられている。アメリカの大企業は、アメリカの産業力を結集させるために、何兆ドルもの資金を注ぎ込む準備を整えている。ペンシルベニア州のシェールフィールドからネバダ州の太陽光発電所まで、何億ものGPUが稼働する。
AGI競争が始まったのだ。私たちは思考し、推論できるマシンを作りつつある。2025年から26年にかけて、これらのマシンは多くの大学卒業生を凌駕するだろう。10年後までには、これらのマシンは私やあなたよりも賢くなり、本当の意味での超知性を手に入れるだろう。その過程で、この半世紀には見られなかったような国家安全保障の力が解き放たれ、やがて「プロジェクト」が始動する。運が良ければ、中国共産党との全面的な競争になり、運が悪ければ全面戦争になる。
今、誰もがAIについて話しているが、何が自分たちを襲おうとしているのか、かすかな光明を感じている人はほとんどいない。Nvidiaのアナリストは、まだ2024年がピークに近いと考えている。主流派の評論家たちは、「次の言葉を予測するだけだ」という故意の盲目に陥っている。彼らが見ているのは誇大広告といつも通りのビジネスだけで、せいぜいインターネット規模の新たな技術革新が起こるのを楽しむ程度なのだ。
やがて世界は目を覚ますだろう。しかし、今現在、状況認識を持っているのはおそらく数百人で、そのほとんどはサンフランシスコとAI研究所にいる。運命の不思議な力によって、私はその中に身を置くことになった。数年前、このような人々はクレイジーだと揶揄されたが、彼らはトレンドラインを信頼し、過去数年間のAIの進歩を正しく予測することができた。この人たちが今後数年についても正しいかどうかはまだわからない。しかし、彼らは非常に賢い人々であり、私がこれまでに会った中で最も賢い人々である。おそらく、彼らは歴史の中で奇妙な脚注となるか、あるいはシラードやオッペンハイマー、テラーのように歴史に名を残すだろう。もし彼らが未来を正しく見ているとしたら、私たちはとんでもないことになる。
各エッセイはそれぞれ独立したものですが、シリーズ全体として読むことを強くお勧めします。全エッセイのPDF版はこちら。
2027年までにAGIが実現する可能性は極めて高い。GPT-2からGPT-4までの4年間で、私たちは～未就学児から～賢い高校生までの能力を手に入れた。計算能力（～0.5桁またはOOMs/年）、アルゴリズム効率（～0.5OOMs/年）、および「趣味のない」向上（チャットボットからエージェントへ）のトレンドラインをトレースすると、2027年までに再び未就学児から高校生サイズの質的なジャンプが起こると予想される。
AIの進歩は人間レベルでは止まらない。何億ものAGIがAI研究を自動化し、10年に及ぶアルゴリズムの進歩（5以上のOOM）を1年以下に圧縮することができる。私たちは、人間レベルから超人的なAIシステムへと急速に進化することになる。超知能の威力と危険性は劇的なものとなるだろう。
驚異的な技術資本の加速が始まっている。AIの収益が急増するにつれ、10年末までに何兆ドルもの資金がGPU、データセンター、電力の増強に投入されるだろう。米国の電力生産を数十％増加させるなど、産業界の動員は激しくなるだろう。
米国の主要なAI研究所は、セキュリティを後回しに扱っている。現在、彼らは基本的にAGIの重要な機密を銀の皿に載せて中国共産党に渡している。AGIの秘密とウェイトを国家機関の脅威から守るには膨大な努力が必要であり、我々はその軌道に乗っていない。
我々よりもはるかに賢いAIシステムを確実に制御することは、未解決の技術的問題である。解決可能な問題ではあるが、急速な知能の爆発が起きれば、物事は簡単にレールから外れてしまう。これを管理することは非常に緊張を強いられるだろう。
スーパーインテリジェンスは、経済的にも軍事的にも決定的な優位性をもたらすだろう。中国はまだゲームから抜け出してはいない。AGIをめぐる競争では、自由世界の存亡がかかっている。我々は権威主義的な大国に対する優位性を維持できるのか？そして、その過程で自滅を避けることができるのだろうか？
AGIへの競争が激化するにつれ、国家安全保障が関与してくる。アメリカ政府は眠りから覚め、27～28年までに何らかの形で政府によるAGIプロジェクトが立ち上がるだろう。どんな新興企業も超知能を扱うことはできない。SCIFのどこかで、終盤戦が始まるだろう。
もし我々が正しかったら？
――――――――
私はかつてOpenAIで働いていたが、これはすべて一般に公開されている情報、私自身のアイデア、一般的な現場知識、あるいはSFゴシップに基づいている。
Collin Burns、Avital Balwit、Carl Shulman、Jan Leike、Ilya Sutskever、Holden Karnofsky、Sholto Douglas、James Bradbury、Dwarkesh Patel、その他多くの方々の有益な議論に感謝する。初期の草稿にフィードバックをくれた多くの友人に感謝する。グラフィックを手伝ってくれたジョー・ローナン、出版を手伝ってくれたニック・ウィテカーに感謝する。
続き I.GPT-4からAGIへ：OOMを数える(1) https://anond.hatelabo.jp/20240605203849
コンピュートへの大規模な投資が注目される一方で、アルゴリズムの進歩も同様に重要な進歩の原動力であると思われる（そして、これまで劇的に過小評価されてきた）。
アルゴリズムの進歩がどれほど大きな意味を持つかを理解するために、MATHベンチマーク（高校生の競技用数学）において、わずか2年間で～50%の精度を達成するために必要な価格が下がったことを示す次の図を考えてみてください。(比較のために、数学が特に好きではないコンピュータサイエンスの博士課程の学生が40%のスコアを出したので、これはすでにかなり良いことです)。推論効率は2年足らずで3OOMs-1,000倍近く向上した。
https://situational-awareness.ai/wp-content/uploads/2024/06/math_inference_cost-1024x819.png
これは推論効率だけの数字だが（公開データから推論するのが難しいトレーニング効率の向上と一致するかどうかはわからない）、アルゴリズムの進歩は非常に大きく、また実際に起こっている。
この記事では、アルゴリズムの進歩を2種類に分けて説明します。まず、「パラダイム内」でのアルゴリズムの改良を取り上げることにしま す。例えば、より優れたアルゴリズムによって、同じパフォーマンスを達成しながら、トレーニングの計算量を10倍減らすことができるかもしれません。その結果、有効計算量は10倍（1OOM）になります。(後ほど「アンホブリング」を取り上げますが、これはベースモデルの能力を解き放つ「パラダイム拡張/アプリケーション拡張」的なアルゴリズムの進歩と考えることができます)。
一歩下がって長期的な傾向を見ると、私たちはかなり一貫した割合で新しいアルゴリズムの改良を発見しているようです。しかし、長期的なトレンドラインは予測可能であり、グラフ上の直線である。トレンドラインを信じよう。
アルゴリズム研究がほとんど公開されており、10年前にさかのぼるデータがある）ImageNetでは、2012年から2021年までの9年間で、計算効率が一貫して約0.5OOM/年向上しています。
アルゴリズムの進歩を測定することができます。同じ性能のモデルを訓練するために必要な計算量は、2012年と比較して2021年にはどれくらい少なくなっているのでしょうか？その結果、アルゴリズムの効率は年間0.5 OOMs/年程度向上していることがわかります。出典Erdil and Besiroglu 2022.
これは非常に大きなことです。つまり、4年後には、～100倍少ない計算量で同じ性能を達成できるということです（同時に、同じ計算量ではるかに高い性能も達成できます！）。
残念ながら、研究室はこれに関する内部データを公表していないため、過去4年間のフロンティアLLMのアルゴリズムの進歩を測定することは難しい。EpochAIは、言語モデリングに関するImageNetの結果を再現した新しい研究を行っており、2012年から2023年までのLLMのアルゴリズム効率のトレンドは、同様に～0.5OOM/年であると推定しています。(しかし、これはエラーバーが広く、また、主要なラボがアルゴリズム効率の公表を停止しているため、最近の上昇を捕捉していません）。
https://situational-awareness.ai/wp-content/uploads/2024/06/llm_efficiency_epoch-1-1024x711.png
Epoch AIによる言語モデリングにおけるアルゴリズム効率の推定。この試算によると、私たちは8年間で～4OOMの効率向上を達成したことになります。
より直接的に過去4年間を見ると、GPT-2からGPT-3は基本的に単純なスケールアップでした（論文によると）が、GPT-3以降、公に知られ、公に干渉可能な多くの利益がありました：
最近リリースされたGemini 1.5 Flashは、"GPT-3.75レベル "とGPT-4レベルの間の性能を提供する一方で、オリジナルのGPT-4よりも85倍/57倍（入力/出力）安い（驚異的な利益！）。
公開されている情報を総合すると、GPT-2からGPT-4へのジャンプには、1-2 OOMのアルゴリズム効率向上が含まれていたことになります。
https://situational-awareness.ai/wp-content/uploads/2024/06/stacked_compute_algos-1024x866.png
GPT-4に続く4年間はこの傾向が続くと予想され、2027年までに平均0.5OOMs/年の計算効率、つまりGPT-4と比較して～2OOMsの向上が見込まれます。計算効率の向上は、低空飛行の果実を摘み取るようになるにつれて難しくなる一方、新たなアルゴリズムの改良を見出すためのAIラボの資金と人材への投資は急速に増加しています。 (少なくとも、公開されている推論コストの効率化は、まったく減速していないようだ)。ハイエンドでは、より根本的な、トランスフォーマーのようなブレークスルーが起こり、さらに大きな利益が得られる可能性さえある。
これらをまとめると、2027年末までには（GPT-4と比較して）1～3OOMのアルゴリズム効率向上が期待できることになります。
続き I.GPT-4からAGIへ：OOMを数える(6) https://anond.hatelabo.jp/20240605205754
私たちは今、基本的に人間のように会話できるマシンを手にしている。これが普通に思えるのは、人間の適応能力の驚くべき証であり、私たちは進歩のペースに慣れてしまったのだ。しかし、ここ数年の進歩を振り返ってみる価値はある。
GPT-4までのわずか4年間（！）で、私たちがどれほど進歩したかを思い出してほしい。
GPT-2（2019年）～未就学児："わあ、もっともらしい文章をいくつかつなげられるようになった"アンデス山脈のユニコーンについての半まとまりの物語という、とてもさくらんぼのような例文が生成され、当時は信じられないほど印象的だった。しかしGPT-2は、つまずくことなく5まで数えるのがやっとだった。記事を要約するときは、記事からランダムに3つの文章を選択するよりもかろうじて上回った。
当時、GPT-2が印象的だった例をいくつか挙げてみよう。左：GPT-2は極めて基本的な読解問題ではまあまあの結果を出している。右：選び抜かれたサンプル（10回試したうちのベスト）では、GPT-2は南北戦争についてある程度関連性のあることを述べた、半ば首尾一貫した段落を書くことができる。
https://situational-awareness.ai/wp-content/uploads/2024/06/gpt2_examples-1024x493.png
当時、GPT-2について人々が印象に残った例をいくつか挙げます。左: GPT-2は極めて基本的な読解問題でまあまあの仕事をする。右: 厳選されたサンプル（10回試したうちのベスト）では、GPT-2は南北戦争について少し関連性のあることを言う、半ば首尾一貫したパラグラフを書くことができる。
AIの能力と人間の知能を比較するのは難しく、欠陥もあるが、たとえそれが非常に不完全なものであったとしても、ここでその例えを考えることは有益だと思う。GPT-2は、その言語能力と、時折半まとまりの段落を生成したり、時折単純な事実の質問に正しく答えたりする能力で衝撃を与えた。未就学児にとっては感動的だっただろう。
GPT-3（2020年）～小学生："ワオ、いくつかの例だけで、簡単な便利なタスクができるんだ。"複数の段落に一貫性を持たせることができるようになり、文法を修正したり、ごく基本的な計算ができるようになった。例えば、GPT-3はSEOやマーケティング用の簡単なコピーを生成することができた。
https://situational-awareness.ai/wp-content/uploads/2024/06/gpt3_examples-1.png
GPT-3について、当時の人々が印象に残った例をいくつか挙げてみよう。上：簡単な指示の後、GPT-3は新しい文の中で作られた単語を使うことができる。左下：GPT-3は豊かなストーリーテリングを行ったり来たりできる。右下：GPT-3は非常に簡単なコードを生成できる。
GPT-3はSEOやマーケティング用の簡単なコピーを生成することができた。上：簡単な指示の後、GPT-3は新しい文章の中で作られた単語を使うことができる。左下：GPT-3は豊かなストーリーテリングを行ったり来たりできる。右下：GPT-3は非常に簡単なコードを生成できる。
繰り返しになるが、この比較は不完全である。しかし、GPT-3が人々に感銘を与えたのは、おそらく小学生にとって印象的だったことだろう。基本的な詩を書いたり、より豊かで首尾一貫した物語を語ったり、初歩的なコーディングを始めたり、簡単な指示やデモンストレーションからかなり確実に学習したり、などなど。
GPT-4（2023年）～賢い高校生：「かなり洗練されたコードを書くことができ、デバッグを繰り返し、複雑なテーマについて知的で洗練された文章を書くことができ、難しい高校生の競技数学を推論することができ、どんなテストでも大多数の高校生に勝っている。コードから数学、フェルミ推定まで、考え、推論することができる。GPT-4は、コードを書く手伝いから草稿の修正まで、今や私の日常業務に役立っている。
https://situational-awareness.ai/wp-content/uploads/2024/06/gpt4_examples-3.png
GPT-4がリリースされた当時、人々がGPT-4に感銘を受けた点をいくつか紹介しよう。上：GPT-4は非常に複雑なコードを書くことができ（中央のプロットを作成）、非自明な数学の問題を推論することができる。左下：AP数学の問題を解く。右下：かなり複雑なコーディング問題を解いている。GPT-4の能力に関する調査からの興味深い抜粋はこちら。
AP試験からSATに至るまで、GPT-4は大多数の高校生よりも良いスコアを出している。
もちろん、GPT-4でもまだ多少ばらつきがある。ある課題では賢い高校生よりはるかに優れているが、別の課題ではまだできないこともある。とはいえ、これらの限界のほとんどは、後で詳しく説明するように、モデルがまだ不自由であることが明らかなことに起因していると私は考えがちだ。たとえモデルがまだ人為的な制約を受けていたとしても、生のインテリジェンスは（ほとんど）そこにある。
https://situational-awareness.ai/wp-content/uploads/2024/06/timeline-1024x354.png
続き I.GPT-4からAGIへ：OOMを数える (3) https://anond.hatelabo.jp/20240605204704
2027年までにAGIが実現する可能性は極めて高い。GPT-2からGPT-4までの4年間で、私たちは〜未就学児から〜賢い高校生までの能力を手に入れた。計算能力（～0.5桁またはOOMs/年）、アルゴリズム効率（～0.5OOMs/年）、および「趣味のない」向上（チャットボットからエージェントへ）のトレンドラインをトレースすると、2027年までに再び未就学児から高校生規模の質的ジャンプが起こると予想される。
見て。モデルたちはただ学びたいだけなんだ。あなたはこれを理解しなければならない。モデルたちは、ただ学びたいだけなんだ。
GPT-4の能力は、多くの人に衝撃を与えた。コードやエッセイを書くことができ、難しい数学の問題を推論し、大学の試験を突破することができるAIシステムである。数年前までは、これらは難攻不落の壁だと思っていた。
しかしGPT-4は、ディープラーニングにおける10年間の猛烈な進歩の延長線上にあった。その10年前、モデルは犬猫の単純な画像を識別するのがやっとだった。4年前、GPT-2は半可通な文章をつなぎ合わせるのがやっとだった。今、私たちは思いつく限りのベンチマークを急速に飽和させつつある。しかし、この劇的な進歩は、ディープラーニングのスケールアップにおける一貫した傾向の結果に過ぎない。
ずっと以前から、このことを見抜いていた人々がいた。彼らは嘲笑されたが、彼らがしたのはトレンドラインを信じることだけだった。トレンドラインは強烈で、彼らは正しかった。モデルはただ学びたいだけなのだ。
私は次のように主張する。2027年までには、モデルがAIの研究者やエンジニアの仕事をこなせるようになるだろう、と。SFを信じる必要はなく、グラフ上の直線を信じるだけでいいのだ。
https://situational-awareness.ai/wp-content/uploads/2024/06/base_scaleup-1024x790.png
過去と将来の有効計算量（物理計算量とアルゴリズム効率の両方）の大まかな見積もり。モデルをスケールアップすればするほど、モデルは一貫して賢くなり、"OOMを数える "ことによって、（近い）将来に期待されるモデルのインテリジェンスの大まかな感覚を得ることができます。(このグラフはベースモデルのスケールアップのみを示している。）
この記事で取り上げた一般的な推定に基づく、効果的な計算（物理的な計算とアルゴリズムの効率の両方）の過去と将来のスケールアップの概算。モデルをスケールアップするにつれ、モデルは一貫して賢くなり、「OOMを数える」ことで、（近い）将来に期待されるモデルのインテリジェンスの大まかな感覚を得ることができる。(このグラフはベースモデルのスケールアップのみを示している。"unobblings "は描かれていない)。
この作品では、単純に「OOMを数える」(OOM = order of magnitude、10x = 1 order of magnitude)ことにします。1)計算、2)アルゴリズム効率(「効果的な計算」の成長として考えることができるアルゴリズムの進歩)、3)「アンホブリング」(モデルがデフォルトで足かせとなっている明らかな方法を修正し、潜在的な能力を引き出し、ツールを与えることで、有用性を段階的に変化させること)の傾向を見ます。GPT-4以前の4年間と、GPT-4後の2027年末までの4年間に期待されるそれぞれの成長を追跡する。ディープラーニングが効率的な計算のすべてのOOMで一貫して向上していることを考えると、将来の進歩を予測するためにこれを使うことができる。
世間では、GPT-4のリリースから1年間、次世代モデルがオーブンに入ったままであったため、ディープラーニングは停滞し、壁にぶつかっていると宣言する人もいた。しかし、OOMをカウントすることで、私たちは実際に何を期待すべきかを垣間見ることができる。
結果は非常にシンプルだ。GPT-2からGPT-4への移行は、時々まとまりのある文章を並べることに感動的だったモデルから、高校入試のエースになるモデルへの移行であり、一度だけの進歩ではない。私たちはOOMsを極めて急速に克服しており、その数値は、4年以上かけてGPT-2からGPT-4への質的なジャンプをさらに～100,000倍の効果的なコンピュート・スケールアップが期待できることを示している。さらに、決定的なことは、それは単にチャットボットの改良を意味しないということだ。"unhobbling "利益に関する多くの明らかな低空飛行の果実を選ぶことで、チャットボットからエージェントへ、ツールからドロップイン・リモートワーカーの代替のようなものへと我々を導いてくれるはずだ。
推論は単純だが、その意味するところは注目に値する。このような別のジャンプは、私たちをAGIに、博士号や同僚として私たちのそばで働くことができる専門家と同じくらい賢いモデルに連れて行く可能性が非常に高い。おそらく最も重要なことは、これらのAIシステムがAI研究そのものを自動化することができれば、次回のテーマである強烈なフィードバック・ループが動き出すということである。
現在でも、このようなことを計算に入れている人はほとんどいない。しかし、AIに関する状況認識は、一歩下がってトレンドを見てみれば、実はそれほど難しいことではない。AIの能力に驚き続けるなら、OOMを数え始めればいい。
続き I.GPT-4からAGIへ：OOMを数える (2) https://anond.hatelabo.jp/20240605204240
実際死ぬのかわからないけど、死ぬんじゃないかなあという気持ちになっている。
積極的に死のうとはしてないし、希死念慮はたまにしか湧かないけどそれは元々。
残業時間が70超えて過労死ラインに近づいていて、そのせいか慢性的な頭痛、耳の痛みやめまいが常にある。
文字もろくに読めてないし、集中もできない、人との会話も言葉になってないことが増えて、些細なことでキレやすくなっている。
もちろん仕事に支障は出てるが、時間をかけたらどうにかできるからどうにかやっている。そのせいでこの残業時間なこともある。
メニエール病になって寝たきりになるのか、脳梗塞になって倒れるのか、頭がおかしくなるのか、わからないけど私は近いうちに死んじゃうかもな、と言う気持ちに苛まれている。
仕事は辞めるつもりはないし、休職もするつもりはない。まあ、倒れたら労災だろ！ガハハと仲良い同僚と話している。
タイ https://togetter.com/li/2378160
韓国 https://www.jetro.go.jp/biznews/2024/03/154ec437debe60b9.htm
出生数がゴリゴリ下がっていってるけど
何の状態の変化なのかはしらない（誰も解明できていない）が
となるとどこで止まるのか？だけど
適齢期の20〜35歳くらいの男女が、最低限このくらいは結婚して子供を生むだろうというラインがあると思う
具体的には韓国だと3割は結婚して、1.5人は子供を設けるでしょう
その時の合計特殊出生率は0.225
15年あるとして、1000万×0.225/15=15万人あたりが下限だろう
2023年の出生数は23万人だったから、10％マイナス成長すれば3年で底打ちする
なお、次の15年の世代は700万人くらいとなるので、下限は10万人となる
結婚率が50％、子供が1.5人くらいと考えると、合計特殊出生率は0.375だが
適齢期は2000万人、下限が50万人で、今の出生数が75万人なので、10％減少すれば4年で底打ちと予想される
50万人と言えば、80年で4000万人か
結婚率が50％、子供が1.5人と考えると、合計特殊出生率は0.375
適齢期は2億人、下限が500万人くらいで、今の出生数が900万人、10％減少すれば6年で底打ちと予想される
俺は低身長低収入チー牛の典型的弱者男性だったけど、30歳の時に家庭の事情で地元にUターンした結果、結婚して子どもも授かったので、その経験から思ったことを書いてみる。
これはたぶん間違いない。30歳ですでに結婚は諦めてた。
休みも基本はひとり。
だけどひとりでも楽しい。
一日ふらふら遊んだあと、最寄駅近くの居酒屋で一杯やったら、もうずっとこれでも良いかなって気分になってた。
これがあと10年続いたらもうだめだったと思う。
でも田舎は何もかもが違った。
遊ぶところがない。
最近話題の美術館はもちろんないし、図書館ですら遠い。わざわざ出かけなきゃいけない上に行っても中身がしょぼい。
飲み屋もレベル低いし、車でしか行けない場所だからひとりだと飲めないし、値段が高い。
田舎はなぜか外で酒を飲むと高くつく。
とにかくヒマだ。
ヒマだと寂しくなるし人恋しくなる。
昔の人がやたらと恋愛にこだわったのは、たぶんネットやスマホがなかった頃は今よりヒマだったからなんだろう。
俺もヒマすぎてパートナー欲しくなった。
30歳が若者かどうかは意見が分かれるかもしれないが、田舎だと圧倒的に若者だし、圧倒的に数が少ない。
右を見ても左を見ても年寄りばかり。
出会いなんてなさそうに思うが、少ないと探したくなるのが人情というものなんだろう。
限られた同世代はなんか集まる。
ヒマだし。
田舎に帰るとすぐ同級生から声がかかり、そこからなんか同世代の知り合いが増えていった。
紹介してくれと頼まなくても独身だとわかると合いそうなタイプの人をなんか紹介してもらえた。
妻と出会ったのもそういう知り合いの集まり。忘年会かなんかだったはず。
都会には美男美女高学歴高収入高身長などなどたくさんの若者がいる。
レベルの低いやつはフィルターにかけられて出会いにも到達しない。
多少容姿が悪くても身長が低くても、門前払いされることはない。
そんな状況だから、都会みたいにパートナーのスペックでマウント取りあったりポケモンバトルしたりっていう文化は成立しない。
だから都会では相手にされないスペックでもパートナーが見つけられたんだと思う。
これは悪い面の方が多いんだけど、都会にはない圧がたしかに存在して、それに背中をぐいぐい押されたのは否定できない。
親や親戚、ご近所だけでなく、職場や同世代の友人たちに至るまで、結婚させようと圧をかけてくる。
妻と俺がちょっといい感じだとわかると、本当にいろんな方面から押された。
正直ウザいのも事実だが、俺みたいに煮え切らない人間にとっては背中を押されるのは良かったのかもしれないと思わなくもない。
実はこれが一番大きいかも。
東京にいた頃は常にカツカツだったのが、地元に帰ってきてからは結構貯金できるくらいに余裕ができた。
運良く地元の工場で正社員になれたとはいえ、それでもそんなに手取りは増えてない。
外食、特に外で酒飲むと高くつくけど、そもそも飲み屋が遠いので飲みに行く機会が減る。
そしてなんか野菜もらえる。
親切でくれてんのかなと思ったら、実は一度にたくさんとれて消費しきれないからくれてるらしい。
畑やってる家はどこも同じ時期に同じものが余るので、畑やってない奴は絶好の引き取り手なんだとか。
でもこれが地味に助かる。
あと、家賃。
実家出て同棲した2LDKの新築アパートは駐車場2台分付きで東京で住んでたワンルームの半分以下の家賃だった。
子どもが生まれたのを機に実家の土地に家を建てたんだけれど、2千万円で結構広い立派な家が建った。
都会だと土地すら買えん額だ。
とにかく、金の余裕は心の余裕。
都会に住んでた頃のカツカツな経済状況では結婚なんてとても考えられなかった。
非モテ弱者男性はもしかしたら田舎に引っ越したら結婚できるかも？
いや、地元とかじゃないところにいきなり行っても厳しいだろうし、仕事なかったら話にならんし、そんな簡単じゃないとは思うけど。
でも都会だと致命的になる要素が田舎だと意外と気にされなかったりする、ということだけは伝えておきたい。
100点満点で言えば40点ぐらいがブスなのにチヤホヤされるライン
５ちゃんねるの嫌儲板は、colabo騒動の当初は暇空茜を担いでいた
女叩きの文化が激しく、また弱者男性やオタクが多い板のため仁藤憎しで暇空についた
しかし、暇空は知名度を得るためにあらゆる相手にぶつかっていたらcolaboでようやくバズっただけで、
過去には表現の自由界隈の人たちを叩き「非正規だろ」「底辺職だろ」「ペドだろ」「児童買春してるだろ」と脈絡なく誹謗中傷してきた経歴が知れ渡りトーンダウン
colaboへの監査結果も「持ち出し金の方が多い」と1円も返金命令は出ない結果に終わり、
むしろ暇空の弁護士渥美陽子の団体「キッズライン」の方が数年前に公金不正受給2690万円の返金命令が出ていると発覚する始末
嫌儲は逆張り体質で「仁藤がなんかむかつくから暇空持ち上げるか」から「暇空がなんかむかつくから仁藤持ち上げるか」へ変遷した
ちなみに、昔嫌儲にはドラクエⅩオンラインのスレがあり嫌儲ギルドがあった
暇空の相棒であるなるくんは嫌儲ギルドでネカマプレイして金を巻き上げていたが、個人情報流出で男バレしてギルドは解散した
嫌儲のスレ立てにはbeという会員登録が必要で、beログインしている者には５ちゃん側が用意した絵文字が表示される
富士山の絵文字が表示されているスレ立て人、通称「富士山」は昔は仁藤叩きのスレも立てていたが、伸びるのが暇空叩きの方になったため暇空叩きスレを立てる常連になった
「【悲報】暇空茜さん、信者から集めた寄付金で1人3万円かかる天ぷら屋で食事」
暇空はcolabo追求のためのカンパ金を何故か関係ない別の訴訟にも横流ししまくってはいたが、「ナニカグループという背後にある巨大な組織に全員関わってるから当初の目的を逸脱していない」としている
ましてや食事代になど使っておらず、天ぷらは自費で食べたという
暇空はcolabo以前には「この寿司5万円だけど、お前こんなの食えないだろｗ」と突然寿司画像を女に送りつける迷惑おじさんとして知られていた
金持ちなのでカンパ金がなくても3万の天ぷらぐらい食えるので、実際富士山は調子こいてデマを飛ばしたのだろう
富士山は「暇空は開示した個人情報を収益化目的で何度も晒し上げている、裁判外に使う意図だから開示するな」と反論
小沢は「そんなことはしていない。裁判外で収集した個人情報を晒しているだけ。今回得た情報を晒すようなことはない」と延べ、開示成功
今までの相手方は実名で活動していたりお店を開いていたりだったが、富士山は一般人
裁判は公開のもとで行われるとは言え、期日前の書類の公開は著作権侵害にあたり違法である
暇空は住所氏名晒しについて「うっかりミス」だと取り繕うが、富士山の住所氏名は多くの人が目撃することになり、暇空支持者が５ちゃんねるで富士山の個人情報を執拗にコピペしている
「これからは弁護士と相談の上でしか載せないようにする」とミス防止をするよう装うが、
著作権侵害の期日前書類は氏名住所を黒塗りしただけで収益化のためにそのまま公開を続けている
小沢一仁がそれを許している
暇空が儲かれば小沢一仁も儲かるので、法律やモラルを除けば止める理由はない
暇空は期日前晒しを富士山相手に限らず大量にやっており、勝敗はどうでもよく裁判自体もどうでもよく、ただ晒して金儲けがメインになっている
そういった行為への歯止めになるかもしれない
小沢一仁にとっては、ろくに監督せずに暇空を暴れさせれば、暇空が訴えられて弁護でまた自分が儲かるので富士山も金づるにしか見えてなさそうだ
ヤリチンはこんなヘタはこかないよ〜。
後者のライン送ってきた人は野球オタクのなんj民で、見るからに非モテだったよ。全然かっこよくないし、イモいし、会話も下手笑
彼女もできたことない。弱男の定義がわかんないから、弱男かどうかはわからないけど。
わたしもプロ野球好きだから、その話をするのは楽しくてマッチしてたんだけど。
「そういう感じなら他を当たってください。」って返したら、「ごめん、本当に好きだったのに、酔っ払って変なノリになっちゃったんです。ごめんなさい。改めるからまた会ってほしい」って平謝りされたけど、断った。
女とラインするのに慣れてなくて、舞い上がってペニス丸出しにしちゃった哀れなコミュ障くんだけど、これに懲りて次から気をつけるだろう。こうして男も成長して行くんだね。
わたし女だけどこいつペニス出てんな〜と気づいただけで「こいつ嫌！」「人扱いされてない、マンコ扱いされてる！」とはならんよ。
ペニス見えてるけど、一所懸命真摯に紳士を演じようとしてくれてるなー。とか、顔やおっぱいや若さ以外も見てくれてるなー。と思える期間がある程度あったら、そろそろこちらもヴァギナを出そうかなと思うよ。
「人として慕ってる」という要素が最初にわかるのが大事。(人柄の)こういうところが好き、とか、一緒にいると楽しい、というのを言葉にしてくれると、多少デレデレされても気持ち悪くない。なんなら「可愛いな」って思う。
そのやりとりが普通になった後なら、ペニ出し増田が言うような「かわいい」とか「顔がタイプ」とか言われても喜ばしく受け入れられた。
てか、実際男性とこういうやりとりがあって、最終的にわたしの方から「実際どう思ってんの？わたしのこと好きなの？女として見てるの？付き合わなくていいの？」って聞いたら、「好きです。付き合ってください」って言われて、付き合ったのが今の夫。
最初から夫がタイプだったとか気になってたとかではない。夫はそんな女にモテるタイプのルックスでも人柄でもない。なんならわたしは初対面の時は夫のことを「アリナシで言うとナシだな」って除外してたくらい。
でも、夫のハミチンに気付きながらも好意を浴びてたら、気づいたら夫大好きになってたし、夫が世界で一番タイプになった。
内心バチクソに女として見てても、マンコ目当てでも、こちらからしたら「どう接してくれるか」が一番大事なんだと思う。
逆に、「こいつ嫌！」「人扱いされてない、マンコ扱いされてる！」ってなったのは、
・1回飲んだくらいでラインで「おっぱい大きかったよね♡」とか「実はベッドではマゾだったりする？♡」とかばっかり送られた時
・初回の飲みからやたら家に来たがるor呼びたがる
・付き合ってもないのに二の腕や太ももなどの際どい部分を触られる
次はありません。となった。
