  |
はてなキーワード: 重要とは
山奥SEOは、競争の激しい一般的なキーワードではなく、ニッチで専門性の高いキーワードに特化してWebサイトの上位表示を目指すSEO手法です。今回は、よりニッチな検索ワードを使用して山奥SEOを実践し、その成果を共有します。この記事では、キーワードの策定方法、作成した記事の内容、そしてその結果について詳しく解説します。
まず、ターゲットとするニッチなキーワードを見つけるために、以下の手順を踏みました。
SEOツール（Googleキーワードプランナー、Ahrefsなど）を使用して、検索ボリュームが非常に低く、競合がほとんどないキーワードをリサーチしました。
以下のような、検索ボリュームが0〜100程度のキーワードを選びました。
ユーザーが検索する際にどのような情報を求めているかを考え、そのニーズに応える形でキーワードを決定しました。
選定したキーワードに基づき、以下のようなコンテンツを作成しました。
タイトルにキーワードを盛り込み、検索エンジンとユーザーに対して記事の内容を明確に示しました。例えば、「家庭用ソーラー充電DIYキット：初心者でも簡単にできる設置ガイド」などです。
記事の本文には、選定したキーワードに関連する情報を詳しく網羅しました。具体的には、ソーラー充電キットの選び方、設置手順、必要な工具、注意点など、ユーザーが求める情報を過不足なく提供しました。
画像や動画、図解などの視覚的要素を活用し、ユーザーが情報を理解しやすいように工夫しました。
選定したニッチなキーワードで検索上位に表示されるようになりました。特に「家庭用ソーラー充電DIYキット」では、検索結果の1ページ目に表示されることが多くなりました。
検索エンジンからのオーガニックトラフィックが増加し、特定のニッチなトピックに関心のあるユーザーからのアクセスが増えました。
記事内容が具体的で役立つものであったため、ユーザーからの感謝のコメントやソーシャルメディアでのシェアが増え、リピーターも増加しました。
山奥SEOを実践することで、競合が少ないニッチなキーワードで効果的に上位表示を達成し、トラフィックを増加させることができました。適切なキーワード選定と高品質なコンテンツの提供により、ユーザーの信頼を得て、持続的なトラフィックの増加を実現することが可能です。
最も大きな課題は、競合が少なく、かつユーザーの需要がある適切なニッチキーワードを見つけることでした。多くの時間をキーワードリサーチに費やしましたが、検索ボリュームが極端に低いキーワードも多く、実際にトラフィックを獲得できるかどうかの見極めが難しかったです。
ニッチなトピックに関する情報を提供するため、専門的な知識や詳細な情報が必要でした。特に、独自の視点や具体的な事例を盛り込むためには、多くの調査と時間が必要でした。
作成したコンテンツを放置せず、継続的に更新しなければなりませんでした。情報の鮮度を保つために、定期的なリサーチと更新作業が求められました。
山奥SEOでは一次情報の提供が重要ですが、被リンクを獲得するためには、他サイトから引用されるような高品質なコンテンツを作成する必要がありました。これもまた、時間と労力を要する部分でした。
GoogleキーワードプランナーやAhrefs、SEMrushなどのツールを活用して、検索ボリュームが低く、競合が少ないキーワードをリサーチします。特に、検索ボリュームが0〜100程度のキーワードをターゲットにするのが効果的です。
キーワードを選定する際は、ユーザーが検索する際にどのような情報を求めているかを考慮します。具体的な悩みや質問に答える形でキーワードを選定することで、ユーザーにとって価値のあるコンテンツを提供できます。
検索ボリュームは少ないが、特定のニーズに合致するロングテールキーワードを活用します。例えば、「家庭用ソーラー充電DIYキットの選び方」や「手作り石けんローズマリーオイルの作り方」など、詳細で具体的なキーワードを狙います。
選定したキーワードで上位表示されている競合サイトを分析し、どのようなコンテンツが効果を上げているかを確認します。これにより、自分のコンテンツがどのように差別化できるかを把握します。
キーワードがユーザーの検索意図に合致しているかを確認します。ユーザーがそのキーワードで何を求めているのかを理解し、それに応える内容を提供することが重要です。
例として、以下のようなニッチキーワードを選定し、コンテンツを作成しました。
内容: ソーラー充電キットの選び方、設置手順、必要な工具、注意点などを詳しく解説。
結果: 検索結果の1ページ目に表示され、オーガニックトラフィックが増加。
内容: ローズマリーオイルを使った手作り石けんの作り方、材料、手順、効果などを紹介。
結果: 専門性の高いコンテンツとして評価され、ユーザーからの感謝のコメントやシェアが増加。
山奥SEOを実践することで、競合が少ないニッチなキーワードで効果的に上位表示を達成し、トラフィックを増加させることができました。適切なキーワード選定と高品質なコンテンツの提供により、ユーザーの信頼を得て、持続的なトラフィックの増加を実現することが可能です。
なんじゃこりゃ
https://zenn.dev/nobkz/articles/46d25288a3727e
小脳レベルで使用できるUIと、大脳レベルで使用するUIがあると思う
前者は学習コストが高いが速く自由自在に使える、後者は学習コストが低いが誰でもすぐ使える
最近は圧倒的に後者が幅を利かせていて、業務を非効率にしているシーンが多くある
前者、後者で違うところは多いが、特に違うのは、アクションをした時の結果がいかに固定されているかだ
専用の画面・ボタンが沢山用意されていて、常に同じ結果を返すならば、非常に安定したUIになる
ただしそれぞれどういう結果をもたらすかを覚えるのに時間がかかる
後者にとって良いのは、今必要な画面・ボタンのみを、必要なだけ用意することだ
これは分かりやすいんだけど、配置も沢山変わるし、複数回実行した時にどうなるかというのが曖昧だったりする
なんなら、実行して、結果を見てようやくアクションが正しかったか判断できるようなUIも多い
こういう後者向けのUIを前者に導入すると当然オペレーションが遅くなったり、ミスや不明な結果につながる
（許されるのは、全てが基本的に自動で処理され、結果や判断のみ人間がする場合、この場合は後者でよくなる）
あと、券売機なんかも最近は後者になりつつあるよね、前者でいいのに
今は「ボタンを何回押すかで結果が変わる」みたいなものも多いから後者になりつつあるけど
こういう、スマホ以降に幅を利かせているUIは信者がちょいちょいいてビビる、というかきつい
「よりシンプルに、ボタンを少なく、インタラクティブに」を目指しすぎて、複雑さを押し込めた結果使いづらくなっているUIが沢山ある
それ誰が実装すると思ってんだ、ほんとくたばってほしい
言いたいことはわかるんだけど、現状の分で子どもができるには
と言う3つが「or」じゃなくて「AND」で存在しているんだが、このうち最後の「産み育てる」だけが強く支援されていて、他のバランスが悪いんじゃないかと思ってるんだよ。
そこまでたどり着けばなんとか育てられるだけの環境は整いつつあるが、そこにたどり着くところまでの支援が手薄すぎて上手くいかない。
だからビンボーひとりもんでも結婚させて一つ目のハードルを超えることはできなくてもくぐらせて、既存の手厚い支援につなげるところまで行ける人を増やすのが重要だと思う。
元増田ではできる事は全部やれと言う事で、それは現状を基点に今後どうするかと言う観点なので、子育て支援をするべきじゃなかったと言っているわけじゃない。どちらかというともうそこだけ上げても少子化対策にならんぞと言う話。
仏フィガロ紙
数週間前の医療制度に続き、今度は教育制度が英国のジェンダー問題に一石を投じようとしている。
木曜日に政府の公式サイトで発表された声明で、教育省は、性自認の概念を中等学校で教えないようにし、性教育のコースを9歳以下の生徒には与えないようにすることを望んでいる。これらの措置は、「デリケートなテーマに関する不適切な教育から子どもたちを守りたい」という政府の説明に基づいている。
性自認の問題に関して、政府の立場は、近年英国がこのテーマに関して取ってきた道とはまったく対照的である。「キャス・レビューに照らして」と政府文書は説明し、「学校はこのデリケートなテーマを教えるのに慎重なアプローチを採用することが重要であり、ジェンダーはスペクトラムであるという見解を含め、論争になっている見解を事実として提示しないことが重要である」と述べている。
この方向性を継続し、同省は最終的に、ジェンダー論はもはや小学校で教えるべきではなく、中等教育では生物学的な観点からアプローチすると発表した。「中等教育では、生徒たちは性的指向や性別適合などの特性について学ぶが、学校は性自認の概念を教えてはならない」。
トランス終了やね
https://news.tv-asahi.co.jp/news_economy/articles/000352769.html
とりあえず、先生の名前と研究室でしらべたところ、東北大学の寄付講座とのこと。
寄付講座は企業や団体などがお金を出すから、大学の施設と名前を貸してねという講座。
そこの業績の欄に、歯科の商業雑誌への論文があり、手元にあったので、読んでみた。
装置の概要は、歯石を取るときに使う、超音波スケーラー（ピーッという音がして、金属で歯石を割りながら剥がす機械）の改良版。
論文には出てくる光の殺菌作用（）と、特別な害がないこと（これは重要）が書いてあった。
結論として、これで歯周病が治るわけではない。あくまでも、歯石や歯垢をを取りながら、光で薬品を活性化させて殺菌をする装置。これまでも、水ではなく薬品を出しながら歯石歯垢を取る機器は多数あるので、それの類と考えて良い。
光はあくまでも補助的な部分と思われるので、その光と薬品に害がなければ、医療機器の認証が出るのも納得できる。（歯石、歯垢をとることは歯周病治療にとても有効。）
光で殺菌という考えも新しいわけではないが、効果が限定的なのもわかっている。バイオフィルムという細菌が作る塊の性状がその理由だが、簡単に書くと、うんこの内部を光と振動で殺菌することはできないということと同じだ。
口腔内では最近の餌と必要な温度と湿度は常に与えられるので、住みやすい環境（深い歯周ポケット、歯石、歯根の形態）があれば、少し残った細菌がすぐに増えて、元のようになる。
だから、この治療が普及すれば、歯周病から解放されるとか、そういうモノではなさそう。でも、マユツバな治療機器ではないから、少しでも治療が進歩するといいと思う。
確かに、「アルゴリズム」という言葉がどのように使われるかについては議論の余地があります。
技術的には、「アルゴリズム」とは特定の問題を解決するための一連の手続きやルールを指しますが、広義には次のように理解されることもあります。
アルゴリズム取引：アルゴリズム取引（アルゴ取引）は、コンピュータプログラムを使って自動的に取引を行う手法を指します。
これは、特定のアルゴリズムに基づいて売買のタイミングや数量を決定するので、この文脈では「アルゴリズム」の使用は適切と言えます。
検索アルゴリズム：Googleの検索アルゴリズムは、検索結果をランキングするための計算手法やルールの集合体です。
これには、サイトの評価基準も含まれますので、「検索アルゴリズム」という表現も適切です。
ただし、アルゴリズムの一部である評価基準が漏れた場合、それを「アルゴリズムの流出」と呼ぶかどうかは表現の問題です。
つまり、「アルゴリズム」の広義の使用は必ずしも誤用とは言えず、文脈によって適切な場合もあります。
言いたいことをまとめると
さらに言うと
以下本文（別に読まなくて良い）
こんな増田があった。
つぶやき的な増田だけど、素朴に基礎知識を持っている人の感想というところであろう。
しかし、それに対しての反応に、未だに基礎知識がなく印象論だけで話をしている人が多く居るという事を見かたので、改めて書いてみる。
この他にも、元々東京都が婚活アプリを整備すると言う話 [注5] に対しても微妙な意見があるので整理してみる。
ちなみに前書いた増田
https://anond.hatelabo.jp/20231208002645
子育て支援のほうが合理的、そんな意見があるが、それは間違っている。何故かと言うと、少子化の主因を捉えていないから。
これは繰り返し言われてきたが、少子化の主要因は、非婚化と言われている(注1)
詳しくは注記に文献を上げておくので見てほしいが、簡単に言うと
と言う状況があるためだ。
結婚した夫婦がもうける子どもの数は微減状態にはあるが、そこに合計特殊出生率の変化のグラフと、婚姻率のグラフを重ねてみてほしい。そうすれば、夫婦が設ける子どもの数は横這いで、結果として表れる合計特殊出生率の変化のグラフとは重ならないが、婚姻率のグラフは綺麗に重なることがわかるだろう。一目瞭然で「結婚した夫婦も減ってるじゃ無いか」と言うのは枝葉であり、全くマトを得てない事が分かると思う。
少なくとも「対策の合理性」という観点から検討すると合理的とは言いがたい。
ただ、この点についても重要な視点がある為、あとで少し書いてみる。どちらにしても少子化支援で解決は難しい。
このように、結婚しない人を結婚させるより、3人目を諦める人を支援した方が良いと言う事実はない事も既に研究で明らかになっている。確かに理想の人数の子の数を諦めた理由という調査では、その理由に経済を上げる人が多いが、統計で分析すると
要するに夫婦の子どもの数を増やすには、最も合理的な手段は晩婚化対策であるだと言うことになるが、政治的にタブーでありこの路線はほぼ無理であるとも言える。ただ、やるべきではあるのだが、これは子育て支援の方面ではない。
もちろん、
ただし
子育て支援は少子化対策としては有効ではないと言うことをとにかく認識してほしい。
よく「子育て支援・少子化対策」と並べる人がいるが、この二つは似て非なるものである。少子化対策とは別に考えるべきだ。
と言うことになる。
この施策を真っ向からストレートに捉えると、出会いを作って結婚してもらうと言う事になるだろう。色々な所が取り組んでいる。それを東京都がやるのが東京都が行う管掌のマッチングアプリという事になるだろう。
ここで「合理的か」という観点から見るとき考えなければならないのが、この施策にかかるリソースだが、東京都がこの婚姻支援に入れる予算は、たったの3億円である。(注5)
福祉予算としては圧倒的に低く、はっきりと東京都レベルでは誤差の範囲の予算だ。例えば、都庁のプロジェクションマッピングの半額以下である。
予算が低いことが問題ではない。むしろ「合理性」という観点では低い予算で高い効果が上がる可能性が高いと言うことだ。3億円では都心の100人規模の保育所の運営費にも満たないと思われる。
色々な資料を読んでいると、非婚化・晩婚化による少子化は1990年代から既に言われていることで(注1) この程度の予算でできる事をなぜやってこなかったのか、とどうしても思ってしまうが、過去の事は仕方が無い。
これからでもよいのでやるべきだ。
さて、優先順位の3番目にきている「晩婚化対策」についても触れたいと思う。
晩婚化対策が何故必要かは、既に述べた理由の再掲にはなるのだが、まとめると
また、
さて、晩婚化対策とはなんだろうか？これは2つ考えられ
の二つがある。
政策的にやりやすいのは明らかに後者である。1は大事だが、これは政治的にタブーであるし、現実問題出来るのかという事がついて回る。
一方で後者はやりやすい。と言うのは、いずれの統計でも、いずれの時代にも「結婚したい」と考える独身者の率は年齢が上がるほど延びて、一定を超えると諦めて減ると言うカーブを取るからである。
ただしこれは子育て支援とは切り口が異なる。政策的には子育て支援に含められている場合も多いが「不妊治療の公的扶助の拡充」などがそれにあたる。
子育て支援と異なるのは何かと言うと、保育所の支援、学費の無料化などは「既に生んだ後」の支援である。実はこれが少子化対策には効果が薄く非合理的だと言われる。
直接的に生みたいが生めないと言う人々を支援することが有効なのだが、何故か少子化対策に対してこちらの方が手薄になっている。
少子化対策予算などいくらでも出せるのだから全部やればいいと思うのだが。
おこなわれないのは、属性の人々はあまり政治層に声を上げないし、代弁して声を上げるような社会団体が無いからだと思われる。
再掲するが、せめて
が必要だ。
政治的に
みたいなことを堂々といったら炎上するだけで難しいのはわかる。例えば、子育て支援は所得制限無し無制限が支持される一方で、自治体が頑張って結婚相談所を作っても参加補助どころか無料も無理で、実費請求されるところがほとんどだ。
今回の件も、例えば朝日新聞の報道( 注5) にも「行政がやる事か？」「結婚しろという圧力になる」と言った的外れなコメントが、有識者枠で掲載される有様だ。有識者と言いながら単なる社会活動家のポジショントークに過ぎないのだが、ほぼ例外なく誰もが当事者であるから出てきてしまうのであろう。
これは有権者の支持が得られないというところであろう。
が、もうこれを上手くオブラートに包んで実行していくほかにないのでは無いと思われる。
子育て支援をするなと行っているのでは無い。子育て支援はやるべきだ。しかし、子育て支援は少子化対策にならないのを直視して、少子化対策は別枠でちゃんとやってくれと言う事である。
少なくともこの現実を直視し、正しい基礎知識を持った上で、婚姻支援を合理的ではないなどいった誤った考えを早く正すべきだと考える。また政治活動家がロビー活動をする時も、この論法を使うことは控えてほしい。もっと他に手頃なスケープゴートがあるだろう。
冷静に考えてほしい。東京都だけで2兆円ちかい子育て関連予算に対して、3億円の施策が何だというのか？ そして誰も「子育て支援を削って非婚化対策しろ」なんて考えで施策を行ってないのである。
少子化対策は非常に重要な問題で、主要な政治家はみな積極的に取り組んでいる状態だ。子育て支援と婚姻支援がトレードオフの関係にある訳がないから、必要なら両方やれば良いのだ。
正しい知識をもって行動してほしい。
アドレス載せすぎてスパム判定されたので、h抜きにしてあります。
入らなかったので別エントリで
言いたいことをまとめると
さらに言うと
以下本文（別に読まなくて良い）
こんな増田があった。
つぶやき的な増田だけど、素朴に基礎知識を持っている人の感想というところであろう。
しかし、それに対しての反応に、未だに基礎知識がなく印象論だけで話をしている人が多く居るという事を見かたので、改めて書いてみる。
この他にも、元々東京都が婚活アプリを整備すると言う話 [注5] に対しても微妙な意見があるので整理してみる。
ちなみに前書いた増田
https://anond.hatelabo.jp/20231208002645
子育て支援のほうが合理的、そんな意見があるが、それは間違っている。何故かと言うと、少子化の主因を捉えていないから。
これは繰り返し言われてきたが、少子化の主要因は、非婚化と言われている(注1)
詳しくは注記に文献を上げておくので見てほしいが、簡単に言うと
と言う状況があるためだ。
結婚した夫婦がもうける子どもの数は微減状態にはあるが、そこに合計特殊出生率の変化のグラフと、婚姻率のグラフを重ねてみてほしい。そうすれば、夫婦が設ける子どもの数は横這いで、結果として表れる合計特殊出生率の変化のグラフとは重ならないが、婚姻率のグラフは綺麗に重なることがわかるだろう。一目瞭然で「結婚した夫婦も減ってるじゃ無いか」と言うのは枝葉であり、全くマトを得てない事が分かると思う。
少なくとも「対策の合理性」という観点から検討すると合理的とは言いがたい。
ただ、この点についても重要な視点がある為、あとで少し書いてみる。どちらにしても少子化支援で解決は難しい。
このように、結婚しない人を結婚させるより、3人目を諦める人を支援した方が良いと言う事実はない事も既に研究で明らかになっている。確かに理想の人数の子の数を諦めた理由という調査では、その理由に経済を上げる人が多いが、統計で分析すると
要するに夫婦の子どもの数を増やすには、最も合理的な手段は晩婚化対策であるだと言うことになるが、政治的にタブーでありこの路線はほぼ無理であるとも言える。ただ、やるべきではあるのだが、これは子育て支援の方面ではない。
もちろん、
ただし
子育て支援は少子化対策としては有効ではないと言うことをとにかく認識してほしい。
よく「子育て支援・少子化対策」と並べる人がいるが、この二つは似て非なるものである。少子化対策とは別に考えるべきだ。
と言うことになる。
この施策を真っ向からストレートに捉えると、出会いを作って結婚してもらうと言う事になるだろう。色々な所が取り組んでいる。それを東京都がやるのが東京都が行う管掌のマッチングアプリという事になるだろう。
ここで「合理的か」という観点から見るとき考えなければならないのが、この施策にかかるリソースだが、東京都がこの婚姻支援に入れる予算は、たったの3億円である。(注5)
福祉予算としては圧倒的に低く、はっきりと東京都レベルでは誤差の範囲の予算だ。例えば、都庁のプロジェクションマッピングの半額以下である。
予算が低いことが問題ではない。むしろ「合理性」という観点では低い予算で高い効果が上がる可能性が高いと言うことだ。3億円では都心の100人規模の保育所の運営費にも満たないと思われる。
色々な資料を読んでいると、非婚化・晩婚化による少子化は1990年代から既に言われていることで(注1) この程度の予算でできる事をなぜやってこなかったのか、とどうしても思ってしまうが、過去の事は仕方が無い。
これからでもよいのでやるべきだ。
さて、優先順位の3番目にきている「晩婚化対策」についても触れたいと思う。
晩婚化対策が何故必要かは、既に述べた理由の再掲にはなるのだが、まとめると
また、
さて、晩婚化対策とはなんだろうか？これは2つ考えられ
の二つがある。
政策的にやりやすいのは明らかに後者である。1は大事だが、これは政治的にタブーであるし、現実問題出来るのかという事がついて回る。
一方で後者はやりやすい。と言うのは、いずれの統計でも、いずれの時代にも「結婚したい」と考える独身者の率は年齢が上がるほど延びて、一定を超えると諦めて減ると言うカーブを取るからである。
ただしこれは子育て支援とは切り口が異なる。政策的には子育て支援に含められている場合も多いが「不妊治療の公的扶助の拡充」などがそれにあたる。
子育て支援と異なるのは何かと言うと、保育所の支援、学費の無料化などは「既に生んだ後」の支援である。実はこれが少子化対策には効果が薄く非合理的だと言われる。
直接的に生みたいが生めないと言う人々を支援することが有効なのだが、何故か少子化対策に対してこちらの方が手薄になっている。
少子化対策予算などいくらでも出せるのだから全部やればいいと思うのだが。
おこなわれないのは、属性の人々はあまり政治層に声を上げないし、代弁して声を上げるような社会団体が無いからだと思われる。
再掲するが、せめて
が必要だ。
政治的に
みたいなことを堂々といったら炎上するだけで難しいのはわかる。例えば、子育て支援は所得制限無し無制限が支持される一方で、自治体が頑張って結婚相談所を作っても参加補助どころか無料も無理で、実費請求されるところがほとんどだ。
今回の件も、例えば朝日新聞の報道( 注5) にも「行政がやる事か？」「結婚しろという圧力になる」と言った的外れなコメントが、有識者枠で掲載される有様だ。有識者と言いながら単なる社会活動家のポジショントークに過ぎないのだが、ほぼ例外なく誰もが当事者であるから出てきてしまうのであろう。
これは有権者の支持が得られないというところであろう。
が、もうこれを上手くオブラートに包んで実行していくほかにないのでは無いと思われる。
子育て支援をするなと行っているのでは無い。子育て支援はやるべきだ。しかし、子育て支援は少子化対策にならないのを直視して、少子化対策は別枠でちゃんとやってくれと言う事である。
少なくともこの現実を直視し、正しい基礎知識を持った上で、婚姻支援を合理的ではないなどいった誤った考えを早く正すべきだと考える。また政治活動家がロビー活動をする時も、この論法を使うことは控えてほしい。もっと他に手頃なスケープゴートがあるだろう。
冷静に考えてほしい。東京都だけで2兆円ちかい子育て関連予算に対して、3億円の施策が何だというのか？ そして誰も「子育て支援を削って非婚化対策しろ」なんて考えで施策を行ってないのである。
少子化対策は非常に重要な問題で、主要な政治家はみな積極的に取り組んでいる状態だ。子育て支援と婚姻支援がトレードオフの関係にある訳がないから、必要なら両方やれば良いのだ。
正しい知識をもって行動してほしい。
アドレス載せすぎてスパム判定されたので、h抜きにしてあります。
今までの話を読んできてもらった人には、完全に誤った議論であることはわかっていただけると思うのだけれど、どうしてもこう言う事を言う人がいる。
ただ、一点だけ「既に金がある奴を支援するべき」はその通りで、そのための施策がマッチングサービス・非婚化対策なのである。
統計で見ると、結婚しない・出来ない理由は、トップが「出会いがない」で次いで「経済的理由」である。
経済的理由と出会いが無いはほぼ同率なので、両方に手当てをする必要がある。
そして未婚男性で最も多いのは年収500万円以上なので、経済だけを協調して、マッチングサービスなど出会いを作る施策を非合理的だとする理由はない。
両方やれば良いし「合理性」で考えるならば、マッチングサービスなどの単純な婚活支援が最初に来るだろう。
参考： ttps://president.jp/articles/-/63789 婚活市場では"高望み"の部類だが…｢年収500万円以上の未婚男性｣が最も余っている皮肉な理由
引用：
涯未婚率対象年齢である45～54歳男女の未婚人口を年収別にみると、未婚男性でもっとも人口が多いのは500万円以上の年収層になります（2007～2017年の10年推移）。これは2007年も同様で、比率にしてしまうと小さくなるのですが、実数としては「婚活女性が高望みといわれてしまう年収500万円以上の未婚男性」がもっとも余っている
わずかにそう言った傾向はあるかも知れないが、基本的には誤り。根拠としては、結婚する理由に「子どもが欲しいから」と答える人が減っているという事を上げることが多いが、子どもが欲しいからと上げていた Permalink | 記事への反応(0) | 12:26
滝本は
と書いているね。
つまるところ、性別適合手術を受けたかどうかを最重要視していると思う。
いや正義は法に優先するって考え方は弁護士の基本的な考え方でもある
法を盲信しない、と言ったほうが良いかも
筋肉があれば、気持ちがポジティブになって、問題解決も楽勝だろ？
彼らに十分な筋肉があれば、汚職なんてくだらないことを考えなくなるんだよ。
筋肉がある人間は、自分の力に自信があるから、卑しい手段に頼らない。
続き
植民地化の過程で奪われた命の正確な数を特定するのは難しいですが、いくつかの主要な植民地化事例については、多くの学者や歴史家が推定を行っています。以下に、主要な事例をいくつか紹介します。
1. **中南米（スペインおよびポルトガルによる植民地化）**
- スペインとポルトガルの植民地化によって、中南米の先住民人口は急激に減少しました。疫病（特に天然痘）、戦争、強制労働によって、推定数千万から1億人の命が奪われたとされています。
2. **北米（イギリス、フランス、その他のヨーロッパ諸国による植民地化）**
- 北米の先住民も疫病や戦争、土地の喪失によって大きな被害を受けました。植民地化の初期には、北米の先住民人口は数百万から約1,000万人とされていますが、19世紀までにその大部分が減少しました。
- ベルギー王レオポルド2世の統治下で、コンゴ自由国（現在のコンゴ民主共和国）では、ゴム採取の強制労働や虐殺により、推定1,000万人が命を失ったとされています。
- ブール戦争（1899-1902）や植民地戦争によっても多くの命が奪われました。特に戦争の際の強制収容所で、多くの先住民が命を落としました。
- イギリスの植民地政策や経済的搾取、飢饉（例えば、1876-1878年のインド大飢饉や1943年のベンガル飢饉）により、数百万人の命が失われました。特にベンガル飢饉では推定300万人が命を落としたとされています。
2. **東南アジア**
- オランダ、フランス、イギリスなどの植民地支配の過程で、多くの戦争や強制労働が行われ、多くの命が奪われました。
- イギリスによる植民地化により、先住民（アボリジニ、マオリ）の人口が大幅に減少しました。疫病、戦争、土地の喪失による死者は数十万人に上るとされています。
全体として、植民地化によって数千万から1億人以上が命を奪われたと推定されています。これは直接的な戦争や虐殺による死者だけでなく、疫病の流行、強制労働、飢饉、社会構造の破壊などによる間接的な影響も含まれます。
### 結論
植民地化の影響は地域によって異なりますが、全体的に見て、膨大な数の命が奪われたことは歴史的な事実です。このような悲劇を忘れず、現代の国際関係において人権と公平な発展を重視することが重要です。
田舎と都会の関係性を植民地化に例えることには一定の注意が必要です。両者にはいくつかの類似点がある一方で、本質的な違いも存在します。以下に、両者の類似点と相違点を説明します。
### 類似点
- 都会が田舎から資源（労働力、農産物、原材料など）を引き出す一方で、田舎には十分な投資や利益が還元されないことがあります。この点では、都会が田舎を経済的に搾取する構造は植民地化と似ています。
- 都会に比べて田舎はインフラ（交通、通信、医療、教育など）が劣ることが多く、この点でも田舎が都会に対して不利な立場に置かれていると考えられます。
3. **社会的影響**：
- 都会の文化や価値観が田舎に押し付けられることがあり、これにより田舎の伝統や生活様式が変わっていくという点も植民地化に似ています。
### 相違点
- 植民地は外部の国によって政治的に支配されますが、田舎と都会は同じ国内の異なる地域であり、田舎も同じ国の法律や制度の下にあります。この点で、植民地とは異なります。
- 植民地化はしばしば軍事力や暴力によって行われ、多くの死者や被害者が出ました。これに対して、田舎と都会の関係では、経済的な不均衡や差別があっても、通常は同じ国民同士であり、暴力的な支配ではありません。
3. **法的支配**：
- 植民地では宗主国の法律や制度が強制的に適用されますが、田舎と都会では同じ国の法律が適用されます。この点でも、植民地化とは異なります。
### 結論
田舎と都会の関係には、経済的搾取や文化的影響といった面で植民地化に似た側面がありますが、根本的な違いも多く存在します。植民地化は他国による支配と搾取を伴うものですが、田舎と都会の関係は同じ国内での経済的および社会的不均衡によるものであり、政治的独立性や法的支配の点で異なります。
この類似性を指摘することで、田舎と都会の間の不均衡や差別を認識し、改善策を講じることができるかもしれません。しかし、同時にその違いも理解し、適切なアプローチを取ることが重要です。
そして、ChatGPTに色々尋ねてみたので共有する
他国を植民地化する方法には、以下のような主な手段があります。
- 軍事力を用いて他国を侵略し、支配下に置く方法です。侵略軍は現地の軍事力を打ち破り、その地を占領します。
- 経済的な影響力を用いて他国を支配する方法です。例えば、貿易や投資を通じて他国の経済を支配し、その国の政策や決定に影響を与えることができます。
3. **文化的影響**：
- 自国の文化や宗教を広めることで、他国の文化や価値観を変える方法です。これにより、現地の人々が植民地支配者の文化や制度を受け入れるようになります。
4. **政治的操縦**：
- 他国の政治的な内部対立や混乱を利用し、自国に有利な政府や指導者を設置する方法です。この方法では、間接的に他国を支配します。
5. **外交的圧力**：
- 条約や協定を通じて他国に有利な条件を押し付ける方法です。これには、経済制裁や政治的圧力をかけることが含まれます。
これらの方法は単独で用いられることもあれば、複数の手段を組み合わせて用いることもあります。また、植民地化の具体的な方法やプロセスは、時代や地域、具体的な状況により異なります。
歴史上、さまざまな国が異なる方法で植民地化されてきました。以下に代表的な例と、それぞれの植民地化に用いられた方法を紹介します。
- **経済的支配**：東インド会社が貿易を通じてインドに影響力を広げ、徐々に領土を拡大していきました。
- **軍事力の行使**：1757年のプラッシーの戦いなどで軍事力を用いてインド各地を制圧。
- **政治的操縦**：現地のマハラジャ（王）やナワーブ（地方の統治者）との同盟や対立を利用して支配を拡大。
2. **アフリカの大部分（19世紀後半から20世紀初頭のヨーロッパ諸国による植民地化）**
- **軍事力の行使**：ヨーロッパ諸国（フランス、イギリス、ドイツ、ベルギーなど）がアフリカの土地を軍事力で制圧。
- **外交的圧力**：1884-1885年のベルリン会議で、アフリカ分割のルールが決められ、ヨーロッパ諸国が相互に合意して植民地を分け合った。
3. **フィリピン（スペインおよびアメリカによる植民地化）**
- **軍事力の行使**：スペインは16世紀に軍事力でフィリピンを征服し、支配を確立。
- **文化的影響**：カトリック教を広めることで文化的支配を強化。
- **政治的操縦**：現地の支配層を利用し、間接的に支配。
- **軍事力の行使**：1830年にフランスがアルジェリアを侵攻し、その後長期間にわたる戦闘を経て植民地化。
- **経済的支配**：農地の収奪や現地経済の再編を通じて支配を強化。
- **軍事力の行使**：1895年の下関条約により、日清戦争後に台湾が日本に割譲され、日本の軍事力が支配を確立。
- **経済的支配**：インフラ整備や産業振興を通じて経済的な支配を強化。
これらの例からわかるように、植民地化の方法は軍事力、経済的支配、政治的操縦、文化的影響、そして外交的圧力など、多様な手段が組み合わさって行われることが多いです。具体的な手段やその組み合わせは、それぞれの時代や地域の状況によって異なります。
清（清朝、中国）は形式的には完全な植民地にはならなかったものの、19世紀から20世紀初頭にかけて、複数の列強国から経済的、政治的な影響を強く受けました。この過程で、いくつかの重要な事件や条約がありました。以下に主な事例を挙げます。
1. **アヘン戦争（1840-1842、1856-1860）**
- イギリスとのアヘン戦争に敗北し、南京条約（1842年）や天津条約（1858年）、北京条約（1860年）などの不平等条約を結ばされました。これにより、香港が割譲され、広州、上海、福州、寧波、厦門などの港が開港され、外国人が商業活動を行うことが許可されました。
- 清朝は19世紀後半から20世紀初頭にかけて、列強国（イギリス、フランス、ドイツ、日本、ロシアなど）により、経済的・軍事的な「勢力圏」に分割されました。これにより、列強は特定の地域で独自の権益を持ち、鉄道や鉱山の開発権を取得しました。
- 義和団の乱に際し、八カ国連合軍（日本、ロシア、イギリス、フランス、アメリカ、ドイツ、イタリア、オーストリア＝ハンガリー）が北京を占領。これにより、清朝は1901年に辛丑条約を結び、多額の賠償金を支払い、列強にさらなる経済的譲歩を強いられました。
4. **日本の台頭**
- 日清戦争（1894-1895）の結果、下関条約によって台湾が日本に割譲され、朝鮮が独立しました。また、日露戦争（1904-1905）の後、南満州の影響力が日本に渡りました。
5. **租界の設置**
- 上海や天津などの都市に設置された租界は、列強の法的支配下にあり、事実上、外国の植民地のように機能していました。
これらの事例から、清朝は正式な植民地にはならなかったものの、列強による半植民地状態に置かれたと言えます。清朝はこれらの列強による干渉や支配を受け、国家主権が大きく損なわれました。最終的には、1911年の辛亥革命によって清朝は滅亡し、中華民国が成立しました。
資本主義社会が植民地化を進めた背景には、いくつかの要因がありますが、その結果は確かに多くの国や地域にとって恐ろしいものでした。以下に、その理由と影響を説明します。
### 背景と要因
- 資本主義社会では、企業や国家が利益を追求するために、新しい市場や資源を求めて海外進出を図りました。植民地化は、これらの経済的利益を確保するための手段として用いられました。
2. **産業革命の影響**：
- 19世紀の産業革命により、ヨーロッパ諸国は高度な工業技術と生産力を持つようになりました。これにより、製品を販売する市場と原材料を供給する植民地が必要とされました。
- ヨーロッパ諸国間の競争が植民地獲得を促進しました。国家の威信や国力を示すために、多くの国が植民地を競って獲得しようとしました。
### 植民地化の恐ろしさ
1. **暴力と抑圧**：
- 植民地化はしばしば軍事力によって行われ、現地の住民は暴力や抑圧にさらされました。これにより、多くの人々が命を失い、生活が破壊されました。
- 植民地は資源の供給地として利用され、現地の経済は植民地宗主国の利益に従属させられました。これにより、現地の経済発展は阻害され、多くの人々が貧困に苦しむことになりました。
- 植民地支配は現地の文化や伝統を破壊し、宗教や教育を含む社会構造を変えてしまうことがありました。これにより、現地のアイデンティティが損なわれることも多かったです。
4. **社会的分断**：
- 植民地支配者は、しばしば「分割統治」政策を用い、現地の民族や部族間の対立を利用して支配を強化しました。これにより、現地社会の分断が深まり、後の紛争の原因となることもありました。
資本主義社会がもたらした進歩や経済発展の一方で、植民地化という形での負の側面は無視できません。多くの人々や国々がその過程で苦しみ、長期にわたる影響を受けました。
資本主義自体が恐ろしいものかどうかは一概には言えませんが、その制度の下での利益追求が、倫理や人道に反する行動を正当化することがあったのは確かです。したがって、現代においては、経済発展と人権尊重のバランスを取ることが重要視されるようになっています。
私は以前、AGIへの短期的なタイムラインには懐疑的だった。その理由のひとつは、この10年を優遇し、AGI確率の質量を集中させるのは不合理に思えたからである（「我々は特別だ」と考えるのは古典的な誤謬のように思えた）。私は、AGIを手に入れるために何が必要なのかについて不確実であるべきであり、その結果、AGIを手に入れる可能性のある時期について、もっと「しみじみとした」確率分布になるはずだと考えた。
しかし、私は考えを変えました。決定的に重要なのは、AGIを得るために何が必要かという不確実性は、年単位ではなく、OOM（有効計算量）単位であるべきだということです。
私たちはこの10年でOOMsを駆け抜けようとしている。かつての全盛期でさえ、ムーアの法則は1～1.5OOM/10年に過ぎなかった。私の予想では、4年で～5OOM、10年で～10OOMを超えるだろう。
https://situational-awareness.ai/wp-content/uploads/2024/06/this_decade_or_bust-1200x925.png
要するに、私たちはこの10年で1回限りの利益を得るための大規模なスケールアップの真っ只中にいるのであり、OOMsを通過する進歩はその後何倍も遅くなるだろう。もしこのスケールアップが今後5～10年でAGIに到達できなければ、AGIはまだまだ先の話になるかもしれない。
つまり、今後10年間で、その後数十年間よりも多くのOOMを経験することになる。それで十分かもしれないし、すぐにAGIが実現するかもしれない。AGIを達成するのがどれほど難しいかによって、AGI達成までの時間の中央値について、あなたと私の意見が食い違うのは当然です。しかし、私たちが今どのようにOOMを駆け抜けているかを考えると、あなたのAGI達成のモーダル・イヤーは、この10年かそこらの後半になるはずです。
マシュー・バーネット（Matthew Barnett）氏は、計算機と生物学的境界だけを考慮した、これに関連する素晴らしい視覚化を行っている。
X (twitter) で SITUATIONAL AWARENESS: The Decade Ahead https://situational-awareness.ai/ というのが回ってきて非常に示唆に富むものだったので、DeepL (無料版 API経由) で訳してみた。
この1年で、街の話題は100億ドルのコンピュート・クラスターから1000億ドルのクラスター、そして1兆ドルのクラスターへと移り変わってきた。半年ごとに、役員室の計画にまたゼロが追加される。その裏では、残りの10年間に利用可能なすべての電力契約と、調達可能なすべての電圧変圧器を確保しようとする熾烈な争いが繰り広げられている。アメリカの大企業は、アメリカの産業力を結集させるために、何兆ドルもの資金を注ぎ込む準備を整えている。ペンシルベニア州のシェールフィールドからネバダ州の太陽光発電所まで、何億ものGPUが稼働する。
AGI競争が始まったのだ。私たちは思考し、推論できるマシンを作りつつある。2025年から26年にかけて、これらのマシンは多くの大学卒業生を凌駕するだろう。10年後までには、これらのマシンは私やあなたよりも賢くなり、本当の意味での超知性を手に入れるだろう。その過程で、この半世紀には見られなかったような国家安全保障の力が解き放たれ、やがて「プロジェクト」が始動する。運が良ければ、中国共産党との全面的な競争になり、運が悪ければ全面戦争になる。
今、誰もがAIについて話しているが、何が自分たちを襲おうとしているのか、かすかな光明を感じている人はほとんどいない。Nvidiaのアナリストは、まだ2024年がピークに近いと考えている。主流派の評論家たちは、「次の言葉を予測するだけだ」という故意の盲目に陥っている。彼らが見ているのは誇大広告といつも通りのビジネスだけで、せいぜいインターネット規模の新たな技術革新が起こるのを楽しむ程度なのだ。
やがて世界は目を覚ますだろう。しかし、今現在、状況認識を持っているのはおそらく数百人で、そのほとんどはサンフランシスコとAI研究所にいる。運命の不思議な力によって、私はその中に身を置くことになった。数年前、このような人々はクレイジーだと揶揄されたが、彼らはトレンドラインを信頼し、過去数年間のAIの進歩を正しく予測することができた。この人たちが今後数年についても正しいかどうかはまだわからない。しかし、彼らは非常に賢い人々であり、私がこれまでに会った中で最も賢い人々である。おそらく、彼らは歴史の中で奇妙な脚注となるか、あるいはシラードやオッペンハイマー、テラーのように歴史に名を残すだろう。もし彼らが未来を正しく見ているとしたら、私たちはとんでもないことになる。
各エッセイはそれぞれ独立したものですが、シリーズ全体として読むことを強くお勧めします。全エッセイのPDF版はこちら。
2027年までにAGIが実現する可能性は極めて高い。GPT-2からGPT-4までの4年間で、私たちは～未就学児から～賢い高校生までの能力を手に入れた。計算能力（～0.5桁またはOOMs/年）、アルゴリズム効率（～0.5OOMs/年）、および「趣味のない」向上（チャットボットからエージェントへ）のトレンドラインをトレースすると、2027年までに再び未就学児から高校生サイズの質的なジャンプが起こると予想される。
AIの進歩は人間レベルでは止まらない。何億ものAGIがAI研究を自動化し、10年に及ぶアルゴリズムの進歩（5以上のOOM）を1年以下に圧縮することができる。私たちは、人間レベルから超人的なAIシステムへと急速に進化することになる。超知能の威力と危険性は劇的なものとなるだろう。
驚異的な技術資本の加速が始まっている。AIの収益が急増するにつれ、10年末までに何兆ドルもの資金がGPU、データセンター、電力の増強に投入されるだろう。米国の電力生産を数十％増加させるなど、産業界の動員は激しくなるだろう。
米国の主要なAI研究所は、セキュリティを後回しに扱っている。現在、彼らは基本的にAGIの重要な機密を銀の皿に載せて中国共産党に渡している。AGIの秘密とウェイトを国家機関の脅威から守るには膨大な努力が必要であり、我々はその軌道に乗っていない。
我々よりもはるかに賢いAIシステムを確実に制御することは、未解決の技術的問題である。解決可能な問題ではあるが、急速な知能の爆発が起きれば、物事は簡単にレールから外れてしまう。これを管理することは非常に緊張を強いられるだろう。
スーパーインテリジェンスは、経済的にも軍事的にも決定的な優位性をもたらすだろう。中国はまだゲームから抜け出してはいない。AGIをめぐる競争では、自由世界の存亡がかかっている。我々は権威主義的な大国に対する優位性を維持できるのか？そして、その過程で自滅を避けることができるのだろうか？
AGIへの競争が激化するにつれ、国家安全保障が関与してくる。アメリカ政府は眠りから覚め、27～28年までに何らかの形で政府によるAGIプロジェクトが立ち上がるだろう。どんな新興企業も超知能を扱うことはできない。SCIFのどこかで、終盤戦が始まるだろう。
もし我々が正しかったら？
――――――――
私はかつてOpenAIで働いていたが、これはすべて一般に公開されている情報、私自身のアイデア、一般的な現場知識、あるいはSFゴシップに基づいている。
Collin Burns、Avital Balwit、Carl Shulman、Jan Leike、Ilya Sutskever、Holden Karnofsky、Sholto Douglas、James Bradbury、Dwarkesh Patel、その他多くの方々の有益な議論に感謝する。初期の草稿にフィードバックをくれた多くの友人に感謝する。グラフィックを手伝ってくれたジョー・ローナン、出版を手伝ってくれたニック・ウィテカーに感謝する。
続き I.GPT-4からAGIへ：OOMを数える(1) https://anond.hatelabo.jp/20240605203849
今後数年間の野心的なアンホブリングはどのようなものになるのでしょうか？私が考えるに、3つの重要な要素がある：
GPT-4は、多くの人の仕事の大部分をこなせるだけの生の賢さを持っているが、それは5分前に現れたばかりの賢い新入社員のようなものだ：関連するコンテキストを持っておらず、会社のドキュメントやSlackの履歴を読んだり、チームのメンバーと会話したり、会社内部のコードベースを理解するのに時間を費やしたりしていない。賢い新入社員は、着任して5分後にはそれほど役に立たないが、1ヶ月後にはかなり役に立つ！例えば、非常に長いコンテクストを通じて、新しい人間の同僚を雇うようにモデルを「オンボード」することは可能なはずだ。これだけでも、大きなアンロックになるだろう。
2.テスト時間の計算オーバーハング（より長いホライズンの問題に対する推論／エラー訂正／システムII）
今のところ、モデルは基本的に短いタスクしかこなせない。しかし、これでは非常に限界がある。5分どころか、数時間、数日、数週間、数ヶ月かかるのだ。
難しい問題について5分間しか考えることができない科学者は、科学的なブレークスルーを起こすことはできない。ソフトウェア・エンジニアは、より大きな仕事を与えられ、計画を立て、コードベースや技術ツールの関連部分を理解し、さまざまなモジュールを書いて段階的にテストし、エラーをデバッグし、可能性のある解決策を検索し、最終的には数週間の仕事の集大成である大規模なプル・リクエストを提出する。などなど。
要するに、テスト時間の計算オーバーハングが大きいのだ。GPT-4の各トークンは、問題を考えるときの内部モノローグの言葉だと考えてください。各GPT-4トークンは非常に賢いのですが、現在のところ、思考の連鎖のために～数百トークンのオーダーしか効果的に使うことができません（あたかも問題やプロジェクトに数分しか内部独白／思考を費やせないかのように）。
もし数百万トークンを使って、本当に難しい問題や大きなプロジェクトについて考え、取り組むことができるとしたらどうだろう？
| トークンの数 | 私が何かに取り組むのに相当する時間... | |
| 100s | 数分 | ChatGPT (私たちはここにいる) |
| 1000s | 30分 | +1 OOMsテスト時間計算 |
| 10,000 回 | 半日 | +2 OOMs |
| 100,000ドル | 1週間 | +3 OOMs |
| 数百万回 | 複数月 | +4 OOMs |
人間が〜100トークン/分で考え、40時間/週働くと仮定して、「モデルが考える時間」をトークンで換算すると、与えられた問題/プロジェクトにおける人間の時間になる。
仮に「トークンあたり」の知能が同じだったとしても、頭のいい人が問題に費やす時間が数分なのか数ヶ月なのかの違いになる。あなたのことは知らないが、私が数ヶ月でできることと数分でできることは、はるかに、はるかに、はるかに多い。もしモデルに「数分ではなく、数カ月に相当する時間、何かを考え、取り組むことができる」という能力を与えることができれば、その能力は飛躍的に向上するだろう。ここには膨大なオーバーハングがある。
今のところ、モデルにはまだこれができない。最近のロング・コンテキストの進歩をもってしても、このロング・コンテキストのほとんどはトークンの消費にしか機能せず、トークンの生産には機能しない。しばらくすると、このモデルはレールから外れたり、行き詰まったりする。しばらくの間、離れて単独で問題やプロジェクトに取り組むことはまだできない。
しかし、テスト時間の計算を解除することは、単に比較的小さな「ホブリングしない」アルゴリズムの勝利の問題かもしれない。おそらく、少量のRLは、モデルがエラー訂正（「うーん、これは正しくないようだ、再確認してみよう」）を学習したり、計画を立てたり、可能性のある解を探索したりするのに役立つだろう。ある意味、モデルはすでに生の能力のほとんどを持っており、それをまとめるために、さらにいくつかのスキルを学習する必要があるだけなのだ。
要するに、私たちはモデルに、困難で見通しの長いプロジェクトを推論させるシステムIIのアウターループのようなものを教えればいいのだ。
この外側のループを教えることに成功すれば、2、3段落の短いチャットボットの答えの代わりに、モデルが問題を考え、ツールを使い、異なるアプローチを試し、研究を行い、仕事を修正し、他の人と調整し、大きなプロジェクトを一人で完成させるような、何百万もの言葉のストリーム（あなたが読むよりも早く入ってくる）を想像してみてほしい。
続き I.GPT-4からAGIへ：OOMを数える(9) https://anond.hatelabo.jp/20240605210357
最後に、定量化するのが最も難しいが、それに劣らず重要な改善のカテゴリーを紹介しよう。
難しい数学の問題を解くように言われたとき、頭に浮かんだことを即座に答えなければならないとしたらどうだろう。最も単純な問題を除いて、苦労するのは明らかだろう。しかしつい最近まで、LLMにはそうやって数学の問題を解かせていた。その代わり、私たちのほとんどはスクラッチパッドで段階的に問題を解いていき、その方法ではるかに難しい問題を解くことができる。「思考の連鎖」プロンプトは、LLMのそれを解き放った。生の能力は優れているにもかかわらず、明らかな足かせがあるため、LLMは数学が苦手なのだ。
私たちはここ数年で、モデルの「足かせを外す」ことに大きな進歩を遂げました。これは単に優れたベースモデルをトレーニングするだけでなく、アルゴリズムの改良によってモデルの能力を引き出すものです：
足場作り。CoT++について考えてみよう：ただ問題を解くようモデルに求めるのではなく、あるモデルに攻撃計画を立てさせ、別のモデルに可能性のある解決策をたくさん提案させ、別のモデルにそれを批評させる、といった具合だ。例えば、HumanEval（コーディング問題）では、単純な足場作りによってGPT-3.5が足場なしのGPT-4を上回った。SWE-Bench（実世界のソフトウェアエンジニアリングのタスクを解くベンチマーク）では、GPT-4は~2%しか正しく解くことができませんが、Devinのエージェントの足場があれば14-23%に跳ね上がります。(後ほど詳しく説明するが、エージェントのアンロックはまだ初期段階に過ぎない。)
ツール：もし人間が電卓やコンピュータを使うことを許されなかったらと想像してみてほしい。まだ始まったばかりだが、ChatGPTはウェブブラウザを使ったり、コードを実行したりできるようになった。
エポックAIによる研究によると足場作りやツールの使用など、これらのテクニックのいくつかを調査したところ、このようなテクニックは多くのベンチマークで通常5～30倍の効果的な計算量の向上をもたらすことがわかった。METR（モデルを評価する組織）も同様に、同じGPT-4ベースモデルからのアンホブリングによって、エージェントタスクのセットで非常に大きなパフォーマンスの向上を発見しました。
https://situational-awareness.ai/wp-content/uploads/2024/06/metr_gains_over_time-1024x597.png
これらをコンピュートとアルゴリズムの効率で統一した実効的なコンピュート規模に当てはめることは困難ですが、少なくともコンピュート規模の拡大やアルゴリズムの効率とほぼ同規模の大きな進歩であることは明らかです。(また、アルゴリズムの進歩が中心的な役割を担っていることも浮き彫りになっています。0.5OOM/年の計算効率は、すでに重要なものではありますが、ストーリーの一部に過ぎません。）
「アンホブリング」こそが、実際にこれらのモデルが有用になることを可能にしたのであり、今日多くの商業アプリケーションの足かせとなっているものの多くは、この種のさらなる「アンホブリング」の必要性であると私は主張したい。実際、今日のモデルはまだ信じられないほど足かせが多い！例えば
ここでの可能性は非常に大きく、私たちはここで急速に低空飛行の果実を摘んでいる。これは非常に重要です。"GPT-6 ChatGPT "を想像するだけでは完全に間違っています。 GPT-6＋RLHFと比べれば、進歩は段違いだ。2027年までには、チャットボットというより、エージェントのような、同僚のようなものが登場するだろう。
続き I.GPT-4からAGIへ：OOMを数える(8) https://anond.hatelabo.jp/20240605210232
これらすべての重要な変動要因になりうるものがあります。つまり、より多くのスクレイピング・データでより大きな言語モデルをプリ・トレーニングするという素朴なアプローチが、まもなく深刻なボトルネックにぶつかり始める可能性があるということだ。
フロンティア・モデルはすでにインターネットの多くで訓練されている。例えば、Llama 3は15T以上のトークンで学習された。LLMのトレーニングに使用されたインターネットの多くのダンプであるCommon Crawlは、生で100Tトークンを超えるが、その多くはスパムや重複である（例えば、比較的単純な重複排除は30Tトークンにつながり、Llama 3はすでに基本的にすべてのデータを使用していることになる）。さらに、コードのようなより特殊な領域では、トークンの数はまだまだ少ない。例えば、公開されているgithubのリポジトリは、数兆トークンと推定されている。
データを繰り返すことである程度遠くまで行くことができるが、これに関する学術的な研究は、16エポック（16回の繰り返し）の後、リターンは非常に速く減少し、ゼロになることを発見し、繰り返しはそこまでしか得られないことを示唆している。ある時点で、より多くの（効果的な）計算を行ったとしても、データ制約のためにモデルをより良いものにすることは非常に難しくなる。私たちは、言語モデリング-プレトレーニング-パラダイムの波に乗って、スケーリングカーブに乗ってきた。大規模な投資にもかかわらず、私たちは停滞してしまうだろう。すべての研究室が、新しいアルゴリズムの改善や、これを回避するためのアプローチに大規模な研究の賭けに出ていると噂されている。研究者たちは、合成データからセルフプレー、RLアプローチまで、多くの戦略を試していると言われている。業界関係者は非常に強気のようだ：ダリオ・アモデイ（Anthropic社CEO）は最近、ポッドキャストでこう語った：「非常に素朴に考えれば、我々はデータ不足からそれほど遠くない[...]私の推測では、これが障害になることはない[...]。もちろん、これに関するいかなる研究結果も独占的なものであり、最近は公表されていない。
インサイダーが強気であることに加え、サンプル効率をはるかに向上させたモデルをトレーニングする方法（限られたデータからより多くのことを学べるようにするアルゴリズムの改良）を見つけることが可能であるはずだという強い直感的な理由があると思う。あなたや私が、本当に密度の濃い数学の教科書からどのように学ぶかを考えてみてほしい：
モデルをトレーニングする昔の技術は単純で素朴なものだったが、それでうまくいっていた。今、それがより大きな制約となる可能性があるため、すべての研究室が数十億ドルと最も賢い頭脳を投入して、それを解読することを期待すべきだろう。ディープラーニングの一般的なパターンは、細部を正しく理解するためには多くの努力（そして多くの失敗プロジェクト）が必要だが、最終的には明白でシンプルなものが機能するというものだ。過去10年間、ディープラーニングがあらゆる壁をぶち破ってきたことを考えると、ここでも同じようなことが起こるだろう。
さらに、合成データのようなアルゴリズムの賭けの1つを解くことで、モデルを劇的に改善できる可能性もある。直感的なポンプを紹介しよう。Llama 3のような現在のフロンティアモデルは、インターネット上でトレーニングされている。多くのLLMは、本当に質の高いデータ（例えば、難しい科学的問題に取り組む人々の推論チェーン）ではなく、このようながらくたにトレーニング計算の大半を費やしている。もしGPT-4レベルの計算を、完全に極めて質の高いデータに費やすことができたらと想像してみてほしい。
AlphaGo（囲碁で世界チャンピオンを破った最初のAIシステム）を振り返ることは、それが可能だと考えられる何十年も前に、ここでも役に立つ。
LLMのステップ2に相当するものを開発することは、データの壁を乗り越えるための重要な研究課題である（さらに言えば、最終的には人間レベルの知能を超える鍵となるだろう）。
以上のことから、データの制約は、今後数年間のAIの進歩を予測する際に、どちらに転んでも大きな誤差をもたらすと考えられる。LLMはまだインターネットと同じくらい大きな存在かもしれないが、本当にクレイジーなAGIには到達できないだろう）。しかし、私は、研究所がそれを解読し、そうすることでスケーリングカーブが維持されるだけでなく、モデルの能力が飛躍的に向上する可能性があると推測するのは妥当だと思う。
余談だが、このことは、今後数年間は現在よりも研究室間のばらつきが大きくなることを意味する。最近まで、最先端の技術は公表されていたため、基本的に誰もが同じことをやっていた。(レシピが公開されていたため、新参者やオープンソースのプロジェクトはフロンティアと容易に競合できた）。現在では、主要なアルゴリズムのアイデアはますます専有されつつある。今はフロンティアにいるように見えるラボでも、他のラボがブレークスルーを起こして先を急ぐ間に、データの壁にはまってしまうかもしれない。そして、オープンソースは競争するのがより難しくなるだろう。それは確かに物事を面白くするだろう。(そして、ある研究室がそれを解明すれば、そのブレークスルーはAGIへの鍵となり、超知能への鍵となる。）
続き I.GPT-4からAGIへ：OOMを数える(7) https://anond.hatelabo.jp/20240605210017
コンピュートへの大規模な投資が注目される一方で、アルゴリズムの進歩も同様に重要な進歩の原動力であると思われる（そして、これまで劇的に過小評価されてきた）。
アルゴリズムの進歩がどれほど大きな意味を持つかを理解するために、MATHベンチマーク（高校生の競技用数学）において、わずか2年間で～50%の精度を達成するために必要な価格が下がったことを示す次の図を考えてみてください。(比較のために、数学が特に好きではないコンピュータサイエンスの博士課程の学生が40%のスコアを出したので、これはすでにかなり良いことです)。推論効率は2年足らずで3OOMs-1,000倍近く向上した。
https://situational-awareness.ai/wp-content/uploads/2024/06/math_inference_cost-1024x819.png
これは推論効率だけの数字だが（公開データから推論するのが難しいトレーニング効率の向上と一致するかどうかはわからない）、アルゴリズムの進歩は非常に大きく、また実際に起こっている。
この記事では、アルゴリズムの進歩を2種類に分けて説明します。まず、「パラダイム内」でのアルゴリズムの改良を取り上げることにしま す。例えば、より優れたアルゴリズムによって、同じパフォーマンスを達成しながら、トレーニングの計算量を10倍減らすことができるかもしれません。その結果、有効計算量は10倍（1OOM）になります。(後ほど「アンホブリング」を取り上げますが、これはベースモデルの能力を解き放つ「パラダイム拡張/アプリケーション拡張」的なアルゴリズムの進歩と考えることができます)。
一歩下がって長期的な傾向を見ると、私たちはかなり一貫した割合で新しいアルゴリズムの改良を発見しているようです。しかし、長期的なトレンドラインは予測可能であり、グラフ上の直線である。トレンドラインを信じよう。
アルゴリズム研究がほとんど公開されており、10年前にさかのぼるデータがある）ImageNetでは、2012年から2021年までの9年間で、計算効率が一貫して約0.5OOM/年向上しています。
アルゴリズムの進歩を測定することができます。同じ性能のモデルを訓練するために必要な計算量は、2012年と比較して2021年にはどれくらい少なくなっているのでしょうか？その結果、アルゴリズムの効率は年間0.5 OOMs/年程度向上していることがわかります。出典Erdil and Besiroglu 2022.
これは非常に大きなことです。つまり、4年後には、～100倍少ない計算量で同じ性能を達成できるということです（同時に、同じ計算量ではるかに高い性能も達成できます！）。
残念ながら、研究室はこれに関する内部データを公表していないため、過去4年間のフロンティアLLMのアルゴリズムの進歩を測定することは難しい。EpochAIは、言語モデリングに関するImageNetの結果を再現した新しい研究を行っており、2012年から2023年までのLLMのアルゴリズム効率のトレンドは、同様に～0.5OOM/年であると推定しています。(しかし、これはエラーバーが広く、また、主要なラボがアルゴリズム効率の公表を停止しているため、最近の上昇を捕捉していません）。
https://situational-awareness.ai/wp-content/uploads/2024/06/llm_efficiency_epoch-1-1024x711.png
Epoch AIによる言語モデリングにおけるアルゴリズム効率の推定。この試算によると、私たちは8年間で～4OOMの効率向上を達成したことになります。
より直接的に過去4年間を見ると、GPT-2からGPT-3は基本的に単純なスケールアップでした（論文によると）が、GPT-3以降、公に知られ、公に干渉可能な多くの利益がありました：
最近リリースされたGemini 1.5 Flashは、"GPT-3.75レベル "とGPT-4レベルの間の性能を提供する一方で、オリジナルのGPT-4よりも85倍/57倍（入力/出力）安い（驚異的な利益！）。
公開されている情報を総合すると、GPT-2からGPT-4へのジャンプには、1-2 OOMのアルゴリズム効率向上が含まれていたことになります。
https://situational-awareness.ai/wp-content/uploads/2024/06/stacked_compute_algos-1024x866.png
GPT-4に続く4年間はこの傾向が続くと予想され、2027年までに平均0.5OOMs/年の計算効率、つまりGPT-4と比較して～2OOMsの向上が見込まれます。計算効率の向上は、低空飛行の果実を摘み取るようになるにつれて難しくなる一方、新たなアルゴリズムの改良を見出すためのAIラボの資金と人材への投資は急速に増加しています。 (少なくとも、公開されている推論コストの効率化は、まったく減速していないようだ)。ハイエンドでは、より根本的な、トランスフォーマーのようなブレークスルーが起こり、さらに大きな利益が得られる可能性さえある。
これらをまとめると、2027年末までには（GPT-4と比較して）1～3OOMのアルゴリズム効率向上が期待できることになります。
続き I.GPT-4からAGIへ：OOMを数える(6) https://anond.hatelabo.jp/20240605205754
