このそこそこの画質のちっちゃいプリクラの中であどけなく笑う可愛いあの子がいよいよお母さんになって、しかも増田にも会ってくれるのかと妙にソワソワドキドキしている。お互いの結婚式なぞほぼほぼ喋れてないので、じっくり会うというのはもう10年以上ぶりかもしれない。緊張する。とりあえずプリ帳はキモ過ぎて見せられないが、せっかく出てきたし(?)、プリクラは見せても大丈夫かな。ダメかな。オチ無くてゴメンだけど、楽しみ！

Permalink | 記事への反応(6) | 20:16

■anond:20240610170615

コロボックルｗ昭和のおぢさんしか知らない単語キタコレｗ

Permalink | 記事への反応(0) | 17:07

■anond:20240610055207

https://dic.pixiv.net/a/%E7%B4%B3%E5%A3%AB

"このように紳士とは須らく上品であるべき存在なのだが…

なぜかネットスラングや漫画などでは多くの変態が「紳士」の称号（資格）を得ている。

これは変態仮面が持つ紳士性とギャグマンガ日和の「変態という名の紳士だよ！！」という台詞に起因すると思われる。

そして、ネット上などで使われる「紳士」という単語は、暗に「変態」という意味で呼ばれ（例えば「紳士向け」の場合、「名画など、落ち着いていてゆったりとしたもの」ではなく「ハレンチで変態ホイホイなもの」の意味で使われることが多い）、侮辱と受け取られるおそれもあるので、空気を読んで判断しよう。"

確かにちょいエロではないな

Permalink | 記事への反応(0) | 09:22

■anond:20240608163720

そういや紳士的って単語も差別的だな。まぁ紳士的な女なんて見たことないけど

Permalink | 記事への反応(1) | 03:19

2024-06-09

■anond:20240609135913

https://anond.hatelabo.jp/20240609120330 の増田です（今のところ他のはわたしではない）。とても大事な指摘だと思って長文書きながら読み直そうと思ってリロードしたら消えていたので中途で放流するね…　読んでくれなくていいし多分後で消す

とりあえず精神病と精神疾患の単語としての区別は、ややこしいだけなのでここでは忘れてください（精神病は言葉のジャンルとしてはメヒョジャミチャー症候群みたいなものと思ってくれたらいいかもしれない）。

わたしの理解が間違ってなければ、ここで使っておられる「精神病」は医者がこれこれの精神科の病気ですと言って治療をしようとするアレ、「正常も異常も地続き」っていうところのあえて言えば異常サイドってことですよね。「精神科の病気」とかぎ括弧つけて呼ぶことにしましょう（概念として存在しうると仮定して）。

一方「精神疾患」はその手前にあるもので、精神的な症状とかしんどさとかの特定のパターンみたいな意味でしょうか。病気かどうかはともかくとして、もともとのAさんの状態とは違っていて（「精神疾患になる」ということがあって）、それが続くと「精神病」になることもあると。正常な心理的な反応として理解できる範疇で、誰でも一時的には起こりうる、みたいなイメージもあるでしょうか？これは長いけど「精神的症状のある状態」としてみます。例えば激務が続いてしんどくなって（あなたの「精神疾患」=ここの「精神的症状のある状態」）、その状態が続くと治療が必要になったり病名がついたりする（あなたの「精神病」=ここの「精神科の病気」）。　

ここまで合ってるか自信がないんですが、何にせよ「正常も異常も地続き」ではとか「一般人と切り離す」のに引っかかるとかはめちゃくちゃ大事なところな一方、明確な答えを持っているとは言えない。もっと科学哲学が流行るべきだと思うのですが、なかなかそういうわけではない。一方生物学的な進捗のほうも、正常と異常をなまもの・物理的実体としての脳や体から見分けることは今のところできそうにない。わたし自身も不勉強で、過去精神医学がたどってきた議論をまとめて書くこともできそうにない。

…みたいな書き出しで

精神疾患と正常心理に区別があるのか便宜的なものなのか、質的なものか量的なものかとかは既知の、しかしとても大事な問題。病気によってグラデーションがあるんじゃないかって気はするけど…
本人の思考の癖とか生い立ちの影響も大事なのはそう（まあ、初診に1時間書けるのも部分的にはそういうとこ）
一般人と切り離す…　のところについては、どっちかというと（これはわたしの個人的な感覚）、本人のこれまでとの不連続な差があるような場合に、やっぱり「精神科の病気」がかぶさったのだろうなと思うケースが多い

みたいなことから書き始めていました

Permalink | 記事への反応(2) | 15:21

■矮小←最近この単語使われなくなってきてるよね

10年前は結構頻出してた

矮小な自分が等身大になってわざわざ使う必要がなくなったか

Permalink | 記事への反応(2) | 13:05

■

下方婚をされることがない東大の研究員がビジネスの為に創出した単語「下方婚」をその意図も理解出来ない頭の悪い奴がキャッキャ使ってるのをみるのは猿山で投げたリンゴにたかってる猿たちみたいで可愛いですね。

Permalink | 記事への反応(2) | 12:56

■anond:20240609124451

頭の悪い下方婚増田という弱者男性が覚えた数少ない単語のひとつで、毎日繰り返し繰り返しそれだけを書き込んでいる

下方婚増田を書き込んでいる時だけは絶望的な現実を一時的に忘れられるらしい

Permalink | 記事への反応(1) | 12:53

■anond:20240609123627

下方婚をされない東大の研究員がビジネスの為に創出した単語をその意図も理解出来ない頭の悪い奴がキャッキャ使ってるのをみるのは猿山で投げたリンゴにたかってる猿たちみたいで可愛いですね。

Permalink | 記事への反応(0) | 12:44

■anond:20230204124621

ポルノという単語に引っ張られ過ぎ　都合のいい男性ハーレム⇔美少女回転寿司だけじゃなくて無謬の女主人公⇔転生チートヒーローか英雄の血を引く主人公　という構図が俗情と結託した作品だって言われてるんでしょ

Permalink | 記事への反応(1) | 11:31

■[芦原妃名子ブログ]2012.10

https://anond.hatelabo.jp/20240609080036

https://web.archive.org/web/20170710055811/http://ashihara-hina.jugem.jp/?month=201210

「MATCHBOX TWENTY」

2012.10.25 Thursday18:37

ドラマ「Ｐｉｅｃｅ」で使われてる洋楽が耳に残るので、買ってみましたよ。

MATCHBOX TWENTY 「NORTH」

好きな映画のサントラとか、すぐ買っちゃう。

歌詞も、すごくいいな。

「I WILL」って曲の「Take a little piece of me」

（僕のかけらを、少し持っていって）って歌詞の「piece」って単語が、

ドラマ観ててもやっぱりすごくすごく耳に残っちゃうのですよ。

「かけらを持っていって」ってところが控えめで良いです。

pieceって単語自体が、私はやっぱりとても好きらしい。

別のアルバムも買ってみたけど、こちらはもっとロック調。

こちらも良いな

音楽---

お米

2012.10.22 Monday16:35

稲を刈って来ましたよ～。

。。。って言っても、私は寝坊で遅刻して、

田んぼに到着したらすでに稲刈り終わってて、

稲穂を縛ってはざかけしただけですけれど、、。

今年は（も？）田植えと稲刈りと飲みしか参加してないです。

皆ごめん。

最近とうとう、家庭でのパンの消費量がお米を上回ったそうですね。

日本の食卓の未来を憂いつつ、帰りの海老名 SAでパン買って帰る。

私も加担してるなあ。

お米ごめん。

何だかんだで引きこもり生活を愛しているけれど（根暗）

外に出たら出たで気持ちいい。

洋服平気で汚しながら作業するって、普段ないですもんね。

「汚れるのを気にしない」って、ストレスフリーですよ。

ってことを、ドラマ「Ｐｉｅｃｅ」３話の水たまりのシーンを観ながら思いました。

今やってるネームにも、似た感じの描写がありますよ。

「汚れを気にせずストレスフリー！」

時には良いです。

「むやみに熱唱！」

「暴飲暴食！」

「半日爆睡！」

「深夜に脱走！！」

「胃腸が丈夫！！」

うんうん。ストレスフリー。

日記---

「プチコミック」☆１２月号

2012.10.19 Friday17:43

１１月８日（木）発売の「プチコミック」１２月号に

読み切りが載りますよ～。

まだ発売されてませんよ。１１月ですよ。

ベツコミじゃなくって、プチコミですよ。

タイトルは「スゴロク」です。変なタイトル！

なにがスゴロクかって説明しだすとあらすじ喋っちゃいそうなので、

漫画読んでください～。

すぐにコミックスに収録されないと思うので、雑誌で読んで頂けると

嬉しいなあ～と。

何気にデビューしてから１８年間、一度もベツコミ以外の雑誌で

漫画描いたことないんですよね。。

プチコミで描くならセクシーな漫画描かないと、、、！！

セクシーなイケメン描かないと、、、！！

って意気込んだんですが、担当さんに

「芦原さんにそういうの期待してないから」って言われちゃったので、

セクシーじゃない漫画描きました。

お、男の人がほとんど出て来ないよ、、、、！！！

でも、恋愛モノですよ。

読んでくださいね。

久々に可愛らしい色味のカラー扉を描いて、ちょっと楽しかったです。

女の子の髪の色は黒じゃない方が、カラーのせやすいなあ。

お仕事---

ベツコミ☆１１月号

2012.10.13 Saturday14:14

ドラマはさておき、本業ですよ！

「ベツコミ１１月号」本日発売です～。

「Ｐｉｅｃｅ」はいつも通り、９０ページ。

コウジサイドのお話しと、あと今回やっと、皓の心の内が

ほんの少し暴かれる回になってます。

皓くん、いっぱいいっぱい。

あと、中山優馬くんのインタビューも載ってます。

恐らくご自身とは正反対の皓を理解しようと

懸命に努力されてる様子がうかがえて、

とっても嬉しい気持ちになりました。

「関西弁に翻訳」は、関西人あるあるですね！

（笑　・　私も関西人。。）

「Ｐｉｅｃｅ」は来年前半、遅くとも半ばには終了予定です。

「砂時計」と同じくらいの巻数になるはずですが、、、

とろとろのんびり描き綴ってきたので、今までの作品の中で

一番付き合いが長いのですよね。

何とか無事、ラストまで完走できますように。

もうちょっとだけ、お付き合い宜しくお願いいたします。

お仕事---

ドラマ３

2012.10.07 Sunday00:34

今日うちに第１話が届きましたよ～。

やっぱり、映像・演出・音楽とても良いです！

河合監督の撮る作品は、ドラマっていうより映画っぽい。

カツカレー食べてる本田翼ちゃんが、尋常じゃなく可愛いです。

プチ旅中のふたりが、とっても可愛い。

あと、礼美ちゃんがとっても礼美っぽいな。

（痩せてるけど。雰囲気が。）

演技も上手。目がくりくりで可愛い。

「可愛い」は正義だな！

今週のハイライトは・・・

　　　な、、、成海が飛んだーーーーーーーっ！！！

　　　（あ～びっくりした！！）

もうすぐ始まりますよ。

取り敢えず、関東地区の皆様、お楽しみくださいませ～。

DVD プレイヤーの調子が悪くて録画出来ない事に

今さっき気付きました。

私と機械の相性の悪さは、もはや伝説。。。

Permalink | 記事への反応(2) | 08:00

2024-06-08

■あおちゃんぺ氏の動き

なぜ石丸伸二なのか不明だが

暇空茜
@himasoraakane
なんか急に空気入った感じのあおちゃんぺ見に行ったら石丸伸二にフォローされてて草生えたんやけど（フォロバスタイルではなく石丸伸二はフォロー厳選タイプ、190しかフォローしてない）
https://x.com/himasoraakane/status/1799317542424723503

ツィフェミ化

あおちゃんぺ🐯🍼
@aochanp
多分性的な意味じゃないかもだけど
じーーーーっと見ながら
ちんちんいじる男児にも出会ったことあります。
見られたくないのもありますが
「見せてはいけない感」も大きい。
世の母親達、この裸、自分の息子に見せたいですか？？
子供がいる場所で露出すんなって度々炎上するけど
女湯は露出どころじゃないよ？？
胸のチラ見せは激怒して全裸は見ても平気なの？？
18禁も7歳以下は関係ないって事？？
https://x.com/aochanp/status/1729731338394292654

文字通り、「だから何？」でしかない。男女七歳にして席を同じゅうせずと何一つ変わらないカビの生えた発想である。戦前のババアと一切変わらない発想なので驚くよりほかはない。

これをアップデートとか言っているのでこれもまたおかしい。復古主義である。

しかし、ツィフェミ的な解像度という単語は2024年１月以降しかない

あおちゃんぺ🐯🍼
@aochanp
本物の女性はナプキンを精神安定剤にしてないし、
閉経した女性はナプキン要らないって言うので
あなたの言う「女」は解像度が低過ぎる。
災害時のみんなが限界の状況で、
心がどうこう言い出すのはまじでやめろ。
小麦粉アレルギーの人に
パン配給しても無駄になるように、
生理がない人にナプキン配るのは無駄。
心が女だから同じ扱いを求めるんじゃなく
女の事理解してるなら被災地では一歩引ける人間になってくれ。
実際生理は来ないし性被害に怯える心配もないあなたは
女性特有の精神的負担は味わわないのだから
午前9:21 · 2024年 1月3日
2,173.4万件の表示
https://x.com/aochanp/status/1742340252247969800

しかもWBPC利権でしかないナプキン擁護。ちなみにそんな精神的負担は存在しないし、全く社会で配慮する意味がない。ジェンダー平等どころか女性を差別しろと言っているのと変わらない。

そしてこれらの発言 である

あおちゃんぺ🐯🍼
@aochanp
6月6日
返信先: @JoernW_8515さん, @MckjdHyGvESkEjuさん
パンと人間が同等と思ってる人は病気だからブロックでいいよ
https://x.com/aochanp/status/1798651717552394269
あおちゃんぺ🐯🍼
@aochanp
6月6日
この現象まじキモいよねw
女を叩きたいがために女になりすますって
脳みそに精子詰まってそう
そういう奴はリアルの女に関わった事ないから
解像度がゴミでそれがまためちゃくちゃ気持ち悪いんだよな
https://x.com/aochanp/status/1798621187536523490

つまり、炎上の傾向があたかもツィフェミにシンクロしているような状況となった。

Permalink | 記事への反応(0) | 17:40

■evil＝「イービル」「イビル」←許せる　「エビル」←気になる

慣用的な読みが定着してる単語ならまだしも比較的新しい語彙なんだから本来の発音から遠い読みは避けようぜ…

「イーボゥ」とかでもいいけどLを「ゥ」で置き換えるのがあんまり受け入れられてない現実があるから「イービル」がベストだろう

カタカナにした時点でどれも正確な発音じゃないからおじさん「カタカナにした時点でどれも正確な発音じゃないから別に」

じゃあお前だけevilのこと「ウンチッチ」って読んでろよ

https://x.com/newsxreader/status/1795709843640332683
そう思う。昔は真にあの企業が大好きだった
しかし、エビルとなったGoogleに対しては利便性が良いので使う程度に降格した

https://x.com/Simon_Sin/status/1774758375940837723
AmazonもGoogleもTwitterもIT メガコーポはたいていｴﾋﾞﾙに堕ちるので倫理に反した行いをすると頭を締め付ける鉄輪を装備させるべきだ #ss954

https://x.com/tukiyomiiori/status/1790442499150082247
Geminiを使った検索の話をしているけど、私が唯一気になるのは、彼らがこのやり方の「どこに広告を組み込んでくるのか？」ということだけ。
今のエビルなGoogleなら、サイレントに広告を、AIのパイプラインに組み込んでくる可能性があるからね。

https://x.com/k_otogawa/status/1788203029436735496
中国のIT 企業のプロダクトは品質良いんだけど、共産党いかんで幾らでもエビルな事しそうなのが怖い。

https://x.com/2celeb/status/1797200606035402950
広告はあってもいいと思うんだけど
音を出す広告とか全画面ででかでかでる広告とかがエビルすぎるんだと思う。
あとはきちんとした記事ならがっつり広告でても気ならいないけど、
ゴミみたいなコピペ記事とかでも広告はマックス盛りみたいな風潮もつらい。

https://x.com/VVVanishing/status/1741770751836139954
おせちのエビチリ、エビルを散らすから魔よけの意味でいけない？

Permalink | 記事への反応(1) | 16:13

2024-06-07

■【大発見】　　濁音３つのみ単語、「デバグ」「土下座」の２つしかない……

他は固有名詞か略称か無理ある複合語ばっか

これ豆知識な

固有名詞、略称、無理ある複合語

バド部（バドミントン部）
ダビデ（古代イスラエル王国第二代の王）
ドバグ（ドでかいバグ）

Permalink | 記事への反応(0) | 22:56

■anond:20240607132703

OKだいたいわかった

（１．単語熟語慣用語の壁）＜Youtubeのニュース番組＜（２．ヒアリング速度の壁）＜Youtuberの番組＜（３．省略語・別の言い回しの壁）＜テレビのバラエティ番組＜（４．専門用語・ドメイン知識の壁）＜テレビの討論番組

だいたいこんな感じ。おそらく２〜３くらいで詰まっていると見た

２については聞きまくってなれるしかない。仕事で間違えられないときは録音して聞き直す。会議に出たら自分だけのために議事録を作ることも有効。別に他人に見せる必要はない。

３についてはボキャブラリを増やすしかない

４は専門の業界の中のことなので、やっぱり勉強して知識をつけるしかない

役に立てれば幸いです

Permalink | 記事への反応(1) | 13:34

■anond:20240607125621

どうだろう、会話の経験値不足ではない？

最近話題になっているところでいえば、

いわゆるテレビっ子、十分に対面コミュニケーションを積めなかったとか、

不登校でインターネット上のテキストコミュニケーションに慣れきってしまうと

そういった機能が身に付かないケースがあるらしい

例えば会話中って

inu って聞こえた時に　犬、居ぬ、戌…とかって同音異義語が思い浮かぶ（だいぶ少ない方）けど

実際に発声があって、耳へ音（振動）が伝わる前からあらゆるケースを想像しているはずなんだよね

その発声した人のバックグラウンドや、TPOや、関係性やら、色々な非言語情報から脳が勝手に推測して。

で、例えば聞こえてきた inu が犬だと特定できたのちでも、あらゆる犬に関わる派生を脳が勝手に検討してる

それこそLLMのロジックではないけれども、ある単語に対応するツリーが同時に開かれているというか…言語化むつかしい。

最近の若い子が電話が苦手だったりするのはこういうケースが多いのかなーって勝手に思っている

もちろん、こうした経験は若い時の方が効果的にシナプス？だか分かんないけど形成されやすいんだろうけど

多少歳を取ってからでもある程度までは育つのではないのかなーと勝手に思ってる

おれも小学生くらいから不登校ではないけれどMMOやネトゲにハマってて

高校大学と電話が苦手だったけど、対面コミュニケーションを増やしたことで最近はそれほど苦にはならなくなったよ

Permalink | 記事への反応(1) | 13:08

■日本語のリスニング スキルが欲しい

英語のリスニングどころか、日本語のリスニングができなくて困ってる。

日常会話はだいたい決まったパターンの繰り返しだからほぼ問題ないけど、業務上で議論の場とか口頭指示を受ける時に、簡単な内容でも聞き取れず詰んでしまう。

例えば、犬、という単語を聞き取る時、普通の人は

inu → 🐕

こんな感じで聞こえた音とイメージが直結してると思うんだけど、俺は

inu → いぬ → 犬？ → 🐕？

こんな感じで、聞こえた音をテキスト(いぬ)に変換して、それを文脈上正しいと思われる意味(犬？)に変換してやっと🐕が出てくる。(あくまで例えであって実際は犬が聞きとれないことはないけど)

英語のリスニング初級者みたいなことを日本語でやってるんだよね。

簡単な話でも口頭だと理解できないことが多いし、できたとしてもかなりの集中力が必要になる。

後から整理してこんな簡単な話だったのかと驚くまでがセット。

ちょっと前に「人の話を聞き取れない人は頭の中でテキスト化している」って話を聞いて「えっ、普通の人はテキスト化しないの！？」と大変驚いた。

たぶんAPDなのかなぁ。

根本的な解決策は無さそうで少し絶望している。

Permalink | 記事への反応(6) | 12:56

2024-06-06

■anond:20240606175009

大げさにお見合いって単語使って書いたけど官製マチアプや単発イベントを超えるレベルで出会いへの予算を裂く事自体がお見合いババアのお節介みたいなものと思ってる

やめてくれと

Permalink | 記事への反応(2) | 17:57

■

つべの動画広告で某男性アイドルの映画を見かけて

テーマ曲のタイトルに「ピュア」の単語が入ってるのを認識した瞬間

「少なくともそのうちの一人は全くピュアじゃない事をしでかしたのにそういう題の曲歌うんだ！？」

と驚いた

Permalink | 記事への反応(1) | 15:14

■anond:20240606132616

突然ですが、タイポグリセミア現象とうい言葉をご存知でかす？

タイポグリセミア現象とは、文章中の単語の文字をいつくか並べ替えても、その文章を問題なく読めるという現象のとこです。

Permalink | 記事への反応(0) | 13:48

2024-06-05

■I.GPT-4からAGIへ：OOMを数える (6)

データの壁

これらすべての重要な変動要因になりうるものがあります。つまり、より多くのスクレイピング・データでより大きな言語モデルをプリ・トレーニングするという素朴なアプローチが、まもなく深刻なボトルネックにぶつかり始める可能性があるということだ。

フロンティア・モデルはすでにインターネットの多くで訓練されている。例えば、Llama 3は15T以上のトークンで学習された。LLMのトレーニングに使用されたインターネットの多くのダンプである Common Crawlは、生で100Tトークンを超えるが、その多くはスパムや重複である（例えば、比較的単純な重複排除は30Tトークンにつながり、Llama 3はすでに基本的にすべてのデータを使用していることになる）。さらに、コードのようなより特殊な領域では、トークンの数はまだまだ少ない。例えば、公開されているgithubのリポジトリは、数兆トークンと推定されている。

データを繰り返すことである程度遠くまで行くことができるが、これに関する学術的な研究は、16エポック（16回の繰り返し）の後、リターンは非常に速く減少し、ゼロになることを発見し、繰り返しはそこまでしか得られないことを示唆している。ある時点で、より多くの（効果的な）計算を行ったとしても、データ制約のためにモデルをより良いものにすることは非常に難しくなる。私たちは、言語モデリング-プレトレーニング-パラダイムの波に乗って、スケーリングカーブに乗ってきた。大規模な投資にもかかわらず、私たちは停滞してしまうだろう。すべての研究室が、新しいアルゴリズムの改善や、これを回避するためのアプローチに大規模な研究の賭けに出ていると噂されている。研究者たちは、合成データからセルフプレー、RLアプローチまで、多くの戦略を試していると言われている。業界関係者は非常に強気のようだ：ダリオ・アモデイ（Anthropic社CEO）は最近、ポッドキャストでこう語った：「非常に素朴に考えれば、我々はデータ不足からそれほど遠くない[...]私の推測では、これが障害になることはない[...]。もちろん、これに関するいかなる研究結果も独占的なものであり、最近は公表されていない。

インサイダーが強気であることに加え、サンプル効率をはるかに向上させたモデルをトレーニングする方法（限られたデータからより多くのことを学べるようにするアルゴリズムの改良）を見つけることが可能であるはずだという強い直感的な理由があると思う。あなたや私が、本当に密度の濃い数学の教科書からどのように学ぶかを考えてみてほしい：

現代のLLMが訓練中に行うことは、基本的に、教科書を非常に素早く読み飛ばすことであり、単語はただ通り過ぎていくだけで、それに頭を使うことはあまりない。
そうではなく、あなたや私が数学の教科書を読むときは、2、3ページゆっくり読み、その内容について頭の中で独白し、何人かの勉強仲間と話し合う。
あなたや私も、もしLLMのように、密度の濃い数学の教科書をさらっと読むだけなら、そこから多くを学ぶことはできないだろう。
しかし、限られたデータからモデルがより多くのことを学べるようにするために、人間がどのように密度の高い数学の教科書を消化するかを取り入れる方法があるのかもしれない。単純化すれば、このようなこと、つまり、教材について内部で独白すること、勉強仲間と議論すること、理解できるまで問題に挑戦して失敗することが、多くの合成データ／セルフプレイ／RLアプローチがやろうとしていることなのだ。

モデルをトレーニングする昔の技術は単純で素朴なものだったが、それでうまくいっていた。今、それがより大きな制約となる可能性があるため、すべての研究室が数十億ドルと最も賢い頭脳を投入して、それを解読することを期待すべきだろう。ディープラーニングの一般的なパターンは、細部を正しく理解するためには多くの努力（そして多くの失敗プロジェクト）が必要だが、最終的には明白でシンプルなものが機能するというものだ。過去 10年間、ディープラーニングがあらゆる壁をぶち破ってきたことを考えると、ここでも同じようなことが起こるだろう。

さらに、合成データのようなアルゴリズムの賭けの1つを解くことで、モデルを劇的に改善できる可能性もある。直感的なポンプを紹介しよう。Llama 3のような現在のフロンティアモデルは、インターネット上でトレーニングされている。多くのLLMは、本当に質の高いデータ（例えば、難しい科学的問題に取り組む人々の推論チェーン）ではなく、このようながらくたにトレーニング計算の大半を費やしている。もしGPT-4レベルの計算を、完全に極めて質の高いデータに費やすことができたらと想像してみてほしい。

AlphaGo（囲碁で世界チャンピオンを破った最初のAI システム）を振り返ることは、それが可能だと考えられる何十年も前に、ここでも役に立つ。

ステップ1では、AlphaGoは熟練した人間の囲碁の対局を模倣して学習させた。これで基礎ができた。
ステップ2では、アルファ碁は自分自身と何百万もの対局を行った。イ・セドルとの対局での有名な37手目を思い出してほしい。極めて珍しい、しかし人間には決して打てない見事な手だ。

LLMのステップ2に相当するものを開発することは、データの壁を乗り越えるための重要な研究課題である（さらに言えば、最終的には人間レベルの知能を超える鍵となるだろう）。

以上のことから、データの制約は、今後数年間のAIの進歩を予測する際に、どちらに転んでも大きな誤差をもたらすと考えられる。LLMはまだインターネットと同じくらい大きな存在かもしれないが、本当にクレイジーなAGIには到達できないだろう）。しかし、私は、研究所がそれを解読し、そうすることでスケーリングカーブが維持されるだけでなく、モデルの能力が飛躍的に向上する可能性があると推測するのは妥当だと思う。

余談だが、このことは、今後数年間は現在よりも研究室間のばらつきが大きくなることを意味する。最近まで、最先端の技術は公表されていたため、基本的に誰もが同じことをやっていた。(レシピが公開されていたため、新参者やオープンソースのプロジェクトはフロンティアと容易に競合できた）。現在では、主要なアルゴリズムのアイデアはますます専有されつつある。今はフロンティアにいるように見えるラボでも、他のラボがブレークスルーを起こして先を急ぐ間に、データの壁にはまってしまうかもしれない。そして、オープンソースは競争するのがより難しくなるだろう。それは確かに物事を面白くするだろう。(そして、ある研究室がそれを解明すれば、そのブレークスルーはAGIへの鍵となり、超知能への鍵となる。）

続き I.GPT-4からAGIへ：OOMを数える(7) https://anond.hatelabo.jp/20240605210017

Permalink | 記事への反応(1) | 20:57

「単語」を含む日記

■英語という欠陥言語

■[増田のカテゴリー一覧]

■そろそろ言葉変えた方がいい単語

前向き駐車

■プリ帳出てきた