はてなキーワード: ゼロとは
Web運営担当の面接を受けた時はフォトショの実技試験とかあったな。未加工の写真素材がデスクトップにおいてあると言う情報と簡単な指示書だけ渡されて、ファイルを開いて指定のフォントでテキストを入れて、指定のサイズとファイル名で保存するってのを15分でやらされた。
受かるには受かったんだけど、面接の時に「指示に基づいてランディングページは作れますが、ゼロからデザインはできません」って言ってその条件での採用と思ったら、入ってみたらそもそもどんなランディングページを作るべきかの時点から丸投げかつ納期2日とかで速攻逃亡したなぁ…。
男女の出会いがあったとしても、恋愛の仕方がわからなければ意味が無いのではないか。
大多数の日本人の人生の中で一番異性との出会いが多いのは小・中学校であるが、恋愛していた男女なんてほぼゼロだった。
もっと突き詰めると、互いに好意があっても男女互いに受け身だと何も起こらなくなる。
今までの男性優位社会では男性側がアタックするべきだという暗黙の了解があったが、女性活躍社会ではそれもなくなり、男性側も受け身になっている。
・友達がいない
学生時代の友人や職場の交友関係はゼロじゃないみたいだが、ママ友づきあいはほぼなく、
俺が友達と遊びに行きたいとか飲みに行きたいと言うと、ほぼ100%不機嫌になり、
あなたばっかり遊びに行っていいよね、みたいなことを言い出すのだが、
日頃からむしろ俺は妻にもっと外出していいよ、子供の面倒はみるから、と散々言っているのだが、
友達がいないんだよ!とキレられる。
常に仕事が終わらない、家事をやる時間がない、寝る時間がない、しんどい、と嘆いている。
でも報酬から考えても、クライアントはそんな無茶な発注をしてるとは思ってないと思われる。ぶっちゃけ、相場より出力が低い。
私の能力が低いのが悪いんでしょ、とか自分で言うこともよくあり、そんなことないよ、と言って慰めはするが正直まぁそうだよなと思っている。
いや、それが悪いとは思ってない。能力が低いのは悪いことではないし、仕方ないが、キャパシティを超える無理はしないでほしいと思っている。
が、そのまま言うとあんまりなので、無理しないでいいんだよ、と言うだけに止めているが。
彼女自身が、自分の理想(仕事・育児・家事をこなす)とそれができない自分とのギャップに苦しんでいるのだろう。
俺は家事などができないことで妻を責めたことは一切ないのだが、できないことはできないと認めてしまった方が楽なのになと思う。
・問題を保留(棚上げ)できない
私は面倒な問題はついつい後回しにしてギリギリまで放置したり、
下手すればそのまま忘れて迷惑をかけたりしてしまうタイプなので、
公的手続きなどでそういう点をカバーしてくれたりすることは非常にありがたい。
ただ、逆にそれがすぐに結果の出ないことであったりすると、
一旦忘れて進展を気長に待つ、みたいなことができない。
例えば役所などを相手に何らかの申請を行ったとして、そんなに緊急の案件でないにも関わらず、
一旦忘れる、ということができないので、あることが解決できないとずーっと頭の片隅に心配事として残り、
・真面目だが、融通が利かない
うまく手を抜く、ということができない。
適当にその場を切り抜ける、あしらう、みたいなこともできない。
一つ一つの問題に正面からぶつかってしまうので、ストレスフルになってパンクしてしまう。
理想が高くて、完璧主義なんだと思う。母親としても、こうあるべきみたいな理想像を内面化していて、
本当にどうでもいい他人からの見え方も気にしていたりして、理解に苦しむときもある。
些細な言動でも、「あの時、変に見られたかな?」とか「子に怒鳴っちゃって、怖い母親だと思われたかな?」
みたいなことをしょっちゅう言ってくる。
付き合いのある人ならまだしも、外出先で赤の他人からどう思われたとか、マジでどうでもよくね?
とにかく、「疲れた」とか「○○が痛い」とかの弱音が多い。
3日に1日は体調不良。でも病院には行かない。甘えているという感じ。
未就学児の子供に冷たくされて、キレて家を出て行こうとする。
愛情に見返りを求めているのか? 子の心理的安全性が損なわれるのではないかと感じる。
まずその二つは二者が別の論を唱えているから別の状態を指してることは明らかじゃん
元増田が現れてるが人として見れないことを前提に自分を騙して口説くっていってるね、これは女性側から見るとけっこうやな感じだな、仕方ないけど
でもその自分を騙すって部分は結局相手を過剰に意識しないってことで共通してるから「過剰に意識しすぎない」ところまではコンセンサスが取れてるわけで、理想とされる普通に接する態度に擬態をする、プラスアピールをしているという状態だという解釈になる
私は女だから①→②で段階が変わるという理論に対して、相手に少しでも好意が発生したらだ、と答えるね
両思いになる前の段階で人としての好意が発生して②を経てさらに意識して恋愛になるというのは普通の恋愛の超王道パターンで、相手も多少意識しているという状態が理想的、そうじゃなくても人としての好感があればアピールくらいは受け止めて貰えるよ、という話だと思う
ただ非モテの視線では、それがいつまでもゼロなんだよ、ということがありえる、人間として振る舞うだけでは全く異性として引っかからないしキモがられるって話をしてる人がいるんだよねたぶん
私は自分的にない人にNOを示したことが何回かあるし、女子が残酷に男子の好意を扱うのも見たことあるから、何にキレてるかわからなくはないんだよ
ここを打算的に回避する方法論を考えるなら、距離感の関係値や周りからの評価を上げておいて、少しくらい好意をアピールしてキモがられても脈がなかったねで済む状態にするという話になるのかもしれない、まず相手からの好感がない恋愛感情ってそれ自体が危険なものなので、拒否られるか、満更でもないのかは天と地の差があって、同じことをしてもキモがられるというのはどうしようもないことなわけ
そこから本当に魅力がない人間が恋愛をするにはどうすればいいかって話をしだすとちょっと長すぎるかも
書いてたら本当に意識してなかった年上に好意があると伝えられたときのイラつきが蘇ってきた、アピールする相手に問題があるから拒否られるというケースをやってるやつは、そもそも相手に恋愛的な好意があるかどうかを少しは見極めろよ、好意を持たれてない相手に恋愛感情を持っていてそれを押し付けるっていうのは、ほとんどが性欲が暴走してるだけでそれが伝わるから女が過剰に拒否するんだよ
これから書くことはいわゆるネットスラングで言う「アルミホイルを巻く話」、つまり妄想だということです。
なので事実の摘示もしていませんので勘違いしないようにしてください。
子猫の小話
https://youtu.be/kaLkD3KBDTg?si=chkj7KDLeOO6Xo-M&t=217
石丸伸二について調べてみました
暇空茜
https://www.youtube.com/watch?v=GDFY6hB-BFM
石丸伸二がバズり始めたのは2023年8月上旬からということは複数の方が確認している。
2023/07/01 2023/08/31
堀口がおおむね圧倒的に上にあるが、8月に入り小林の怒りがトレンドに入り、そして低下するのと入れ替わるように石丸伸二が上がってくる。
この状況を整理すると、石丸伸二と堀口英利は互いに示し合わせて行動しているわけではないが、結果として石丸伸二の仕掛けを隠ぺいするために堀口英利がサポートする形になっていたようにみえる。
具体的には、堀口英利が小林の怒りに対してできるだけド派手な攻撃を行い、石丸伸二をプッシュしていることを暇空茜に気取らせないようにしていた。
もちろん、堀口英利がその事実を知っていたとは思えないが、意図せずとも互いの行動が結果としてWin-Winの関係 になっていたようだ。
伊久間の訴状を見れば、700万円の請求も神原、伊久間あたりが考えていた内容を堀口が実行したともいえる。
そうだとすると、石丸伸二を隠すように堀口に吹き込むタイミングが調整されていたのかもしれない。
堀口英利がネット上で話題を混乱させることで、石丸伸二のプッシュが目立たなくなり、計画がスムーズに進めた可能性がある、
自分だけだとバイアスがかかるかもしれないので、ChatGPTにも見せてみる。
ChatGPTが読み取れることを以下にまとめます。
7月初旬から8月中旬にかけて、人気度が一貫して高く推移しています。(編注:トレンドだからこういう表現になる)
特に7月中旬と8月初旬に大きなピークが見られます。これは何か特定のイベントやニュースが影響している可能性があります。
あるトピックやキーワードが7月から8月にかけて一貫して注目を集めています。特定のイベントや連続したニュースが関連している可能性が高いです。
7月初旬はほとんど変動がありませんが、8月に入ってから何度か急上昇しています。
これらの急上昇は、特定の短期間に集中していることから、一時的な注目を集めた出来事があったことを示唆しています。
他の二つのラインに比べて、頻度が低く、また人気度もあまり高くありません。
いくつかの時点で急激な増加が見られますが、それ以外はほとんどゼロに近い状態です。
@shinji_ishimaru
こちらの #キッチンカー の募集は明後日8/10(木)が〆切です!
すでにかなり多種多様なお申し込みがあり、県内でも稀なイベントとなりそうな感じがしています😃
盛り沢山な #フェス を共に楽しみましょう。(珍しい飲食が提供できる方は特に)皆さんの参加をお待ちしています!!
ttps://x.com/shinji_ishimaru/status/1688876338785267712
ここでサクラが出現している。
@Silvertigerone
安芸高田市長「恥を知れ」発言 #安芸高田市 #恥を知れ #石丸伸二 ttps://youtube.com/shorts/fnFbdyqsxDA?feature=share
ttps://x.com/Silvertigerone/status/1688946721718710272
@shinji_ishimaru
ここ数日、フォロワー数が急増しているので不思議に思っていました…再生数が6日で230万回はなかなかの伸びですね。
ttps://youtu.be/dTu2Fk_LpdI
#中国新聞 に限らず地方紙には似た傾向があるのではないかと懸念しています。発言に責任を持たない #メディア は有害です。
@ChugokuShimbun
youtube.com
【逆ギレ】マスゴミが中途半端に石丸市長を挑発し、逆にコテンパンにされ涙目で逆ギレ議論すり替えを行ってしまう
余計な一言と、下手な追求は効かない人には絶対に効かないですね…記者も感情的にならず、もうちょっと理論的に話をしてほしいです。引用元安芸高田市定例記者会見(2023年7月) 前編ttps://www.youtube.com/watch?v=QfNRDlQbzy4チャンネル登録はこちらをクリック!ttp://ww...
208.9万 件の表示
ttps://x.com/shinji_ishimaru/status/1691432918701494272
繰り返しになるが、非常に賢いChatGPTを想像するだけではいけない。趣味的な進歩ではなく、リモートワーカーや、推論や計画、エラー訂正ができ、あなたやあなたの会社のことを何でも知っていて、何週間も単独で問題に取り組めるような、非常に賢いエージェントのようなものになるはずだ。
私たちは2027年までにAGIを実現しようとしている。これらのAIシステムは、基本的にすべての認知的な仕事(リモートでできるすべての仕事を考える)を自動化できるようになるだろう。
はっきり言って、エラーバーは大きい。データの壁を突破するために必要なアルゴリズムのブレークスルーが予想以上に困難であることが判明した場合、データが足りなくなり、進歩が停滞する可能性がある。もしかしたら、ホッブリングはそこまで進まず、専門家の同僚ではなく、単なる専門家のチャットボットに留まってしまうかもしれない。もしかしたら10年来のトレンドラインが崩れるかもしれないし、スケーリング・ディープラーニングが今度こそ本当に壁にぶつかるかもしれない。(あるいは、アルゴリズムのブレークスルーが、テスト時間の計算オーバーハングを解放する単純なアンホブリングであっても、パラダイムシフトとなり、事態をさらに加速させ、AGIをさらに早期に実現させるかもしれない)。
いずれにせよ、私たちはOOMsを駆け抜けているのであり、2027年までにAGI(真のAGI)が誕生する可能性を極めて真剣に考えるのに、難解な信念は必要なく、単に直線のトレンド外挿が必要なだけである。
最近、多くの人がAGIを単に優れたチャットボットなどとして下方定義しているように思える。私が言いたいのは、私や私の友人の仕事を完全に自動化し、AI研究者やエンジニアの仕事を完全にこなせるようなAIシステムのことだ。おそらく、ロボット工学のように、デフォルトで理解するのに時間がかかる分野もあるだろう。また、医療や法律などの社会的な普及は、社会の選択や規制によって容易に遅れる可能性がある。しかし、ひとたびAI研究そのものを自動化するモデルができれば、それだけで十分であり、強烈なフィードバック・ループを始動させるのに十分であり、完全自動化に向けて残されたすべてのボトルネックを自動化されたAIエンジニア自身が解決することで、非常に迅速にさらなる進歩を遂げることができるだろう。特に、数百万人の自動化された研究者たちによって、アルゴリズムのさらなる進歩のための10年間が1年以内に圧縮される可能性は非常に高い。AGIは、まもなく実現する超知能のほんの一端に過ぎない。(詳しくは次の記事で)。
いずれにせよ、目まぐるしい進歩のペースが衰えることはないだろう。トレンドラインは無邪気に見えるが、その意味するところは強烈である。その前の世代がそうであったように、新世代のモデルが登場するたびに、ほとんどの見物人は唖然とするだろう。博士号を持っていれば何日もかかるような信じられないほど難しい科学的問題を、間もなくモデルが解決し、あなたのコンピュータのまわりを飛び回り、あなたの仕事をこなし、何百万行ものコードからなるコードベースをゼロから書き上げ、これらのモデルによって生み出される経済的価値が1年か2年ごとに10倍になるとき、彼らは信じられないだろう。SF小説は忘れて、OOMを数えよう。AGIはもはや遠い空想ではない。単純なディープラーニング技術をスケールアップすることがうまくいき、モデルは学習したがり、2027年末までにさらに100,000倍を超えようとしている。私たちよりも賢くなる日もそう遠くはないだろう。
https://situational-awareness.ai/wp-content/uploads/2024/06/gan_progress-1.jpeg
GPT-4はほんの始まりに過ぎない。GANの進歩に見られるように)ディープラーニングの進歩の速さを過小評価するような間違いを犯さないでほしい。
続き I.GPT-4からAGIへ:OOMを数える(11) https://anond.hatelabo.jp/20240605212014
X (twitter) で SITUATIONAL AWARENESS: The Decade Ahead https://situational-awareness.ai/ というのが回ってきて非常に示唆に富むものだったので、DeepL (無料版 API経由) で訳してみた。
この1年で、街の話題は100億ドルのコンピュート・クラスターから1000億ドルのクラスター、そして1兆ドルのクラスターへと移り変わってきた。半年ごとに、役員室の計画にまたゼロが追加される。その裏では、残りの10年間に利用可能なすべての電力契約と、調達可能なすべての電圧変圧器を確保しようとする熾烈な争いが繰り広げられている。アメリカの大企業は、アメリカの産業力を結集させるために、何兆ドルもの資金を注ぎ込む準備を整えている。ペンシルベニア州のシェールフィールドからネバダ州の太陽光発電所まで、何億ものGPUが稼働する。
AGI競争が始まったのだ。私たちは思考し、推論できるマシンを作りつつある。2025年から26年にかけて、これらのマシンは多くの大学卒業生を凌駕するだろう。10年後までには、これらのマシンは私やあなたよりも賢くなり、本当の意味での超知性を手に入れるだろう。その過程で、この半世紀には見られなかったような国家安全保障の力が解き放たれ、やがて「プロジェクト」が始動する。運が良ければ、中国共産党との全面的な競争になり、運が悪ければ全面戦争になる。
今、誰もがAIについて話しているが、何が自分たちを襲おうとしているのか、かすかな光明を感じている人はほとんどいない。Nvidiaのアナリストは、まだ2024年がピークに近いと考えている。主流派の評論家たちは、「次の言葉を予測するだけだ」という故意の盲目に陥っている。彼らが見ているのは誇大広告といつも通りのビジネスだけで、せいぜいインターネット規模の新たな技術革新が起こるのを楽しむ程度なのだ。
やがて世界は目を覚ますだろう。しかし、今現在、状況認識を持っているのはおそらく数百人で、そのほとんどはサンフランシスコとAI研究所にいる。運命の不思議な力によって、私はその中に身を置くことになった。数年前、このような人々はクレイジーだと揶揄されたが、彼らはトレンドラインを信頼し、過去数年間のAIの進歩を正しく予測することができた。この人たちが今後数年についても正しいかどうかはまだわからない。しかし、彼らは非常に賢い人々であり、私がこれまでに会った中で最も賢い人々である。おそらく、彼らは歴史の中で奇妙な脚注となるか、あるいはシラードやオッペンハイマー、テラーのように歴史に名を残すだろう。もし彼らが未来を正しく見ているとしたら、私たちはとんでもないことになる。
各エッセイはそれぞれ独立したものですが、シリーズ全体として読むことを強くお勧めします。全エッセイのPDF版はこちら。
2027年までにAGIが実現する可能性は極めて高い。GPT-2からGPT-4までの4年間で、私たちは~未就学児から~賢い高校生までの能力を手に入れた。計算能力(~0.5桁またはOOMs/年)、アルゴリズム効率(~0.5OOMs/年)、および「趣味のない」向上(チャットボットからエージェントへ)のトレンドラインをトレースすると、2027年までに再び未就学児から高校生サイズの質的なジャンプが起こると予想される。
AIの進歩は人間レベルでは止まらない。何億ものAGIがAI研究を自動化し、10年に及ぶアルゴリズムの進歩(5以上のOOM)を1年以下に圧縮することができる。私たちは、人間レベルから超人的なAIシステムへと急速に進化することになる。超知能の威力と危険性は劇的なものとなるだろう。
驚異的な技術資本の加速が始まっている。AIの収益が急増するにつれ、10年末までに何兆ドルもの資金がGPU、データセンター、電力の増強に投入されるだろう。米国の電力生産を数十%増加させるなど、産業界の動員は激しくなるだろう。
米国の主要なAI研究所は、セキュリティを後回しに扱っている。現在、彼らは基本的にAGIの重要な機密を銀の皿に載せて中国共産党に渡している。AGIの秘密とウェイトを国家機関の脅威から守るには膨大な努力が必要であり、我々はその軌道に乗っていない。
我々よりもはるかに賢いAIシステムを確実に制御することは、未解決の技術的問題である。解決可能な問題ではあるが、急速な知能の爆発が起きれば、物事は簡単にレールから外れてしまう。これを管理することは非常に緊張を強いられるだろう。
スーパーインテリジェンスは、経済的にも軍事的にも決定的な優位性をもたらすだろう。中国はまだゲームから抜け出してはいない。AGIをめぐる競争では、自由世界の存亡がかかっている。我々は権威主義的な大国に対する優位性を維持できるのか?そして、その過程で自滅を避けることができるのだろうか?
AGIへの競争が激化するにつれ、国家安全保障が関与してくる。アメリカ政府は眠りから覚め、27~28年までに何らかの形で政府によるAGIプロジェクトが立ち上がるだろう。どんな新興企業も超知能を扱うことはできない。SCIFのどこかで、終盤戦が始まるだろう。
もし我々が正しかったら?
――――――――
私はかつてOpenAIで働いていたが、これはすべて一般に公開されている情報、私自身のアイデア、一般的な現場知識、あるいはSFゴシップに基づいている。
Collin Burns、Avital Balwit、Carl Shulman、Jan Leike、Ilya Sutskever、Holden Karnofsky、Sholto Douglas、James Bradbury、Dwarkesh Patel、その他多くの方々の有益な議論に感謝する。初期の草稿にフィードバックをくれた多くの友人に感謝する。グラフィックを手伝ってくれたジョー・ローナン、出版を手伝ってくれたニック・ウィテカーに感謝する。
続き I.GPT-4からAGIへ:OOMを数える(1) https://anond.hatelabo.jp/20240605203849
最後に、定量化するのが最も難しいが、それに劣らず重要な改善のカテゴリーを紹介しよう。
難しい数学の問題を解くように言われたとき、頭に浮かんだことを即座に答えなければならないとしたらどうだろう。最も単純な問題を除いて、苦労するのは明らかだろう。しかしつい最近まで、LLMにはそうやって数学の問題を解かせていた。その代わり、私たちのほとんどはスクラッチパッドで段階的に問題を解いていき、その方法ではるかに難しい問題を解くことができる。「思考の連鎖」プロンプトは、LLMのそれを解き放った。生の能力は優れているにもかかわらず、明らかな足かせがあるため、LLMは数学が苦手なのだ。
私たちはここ数年で、モデルの「足かせを外す」ことに大きな進歩を遂げました。これは単に優れたベースモデルをトレーニングするだけでなく、アルゴリズムの改良によってモデルの能力を引き出すものです:
足場作り。CoT++について考えてみよう:ただ問題を解くようモデルに求めるのではなく、あるモデルに攻撃計画を立てさせ、別のモデルに可能性のある解決策をたくさん提案させ、別のモデルにそれを批評させる、といった具合だ。例えば、HumanEval(コーディング問題)では、単純な足場作りによってGPT-3.5が足場なしのGPT-4を上回った。SWE-Bench(実世界のソフトウェアエンジニアリングのタスクを解くベンチマーク)では、GPT-4は~2%しか正しく解くことができませんが、Devinのエージェントの足場があれば14-23%に跳ね上がります。(後ほど詳しく説明するが、エージェントのアンロックはまだ初期段階に過ぎない。)
ツール:もし人間が電卓やコンピュータを使うことを許されなかったらと想像してみてほしい。まだ始まったばかりだが、ChatGPTはウェブブラウザを使ったり、コードを実行したりできるようになった。
エポックAIによる研究によると足場作りやツールの使用など、これらのテクニックのいくつかを調査したところ、このようなテクニックは多くのベンチマークで通常5~30倍の効果的な計算量の向上をもたらすことがわかった。METR(モデルを評価する組織)も同様に、同じGPT-4ベースモデルからのアンホブリングによって、エージェントタスクのセットで非常に大きなパフォーマンスの向上を発見しました。
https://situational-awareness.ai/wp-content/uploads/2024/06/metr_gains_over_time-1024x597.png
これらをコンピュートとアルゴリズムの効率で統一した実効的なコンピュート規模に当てはめることは困難ですが、少なくともコンピュート規模の拡大やアルゴリズムの効率とほぼ同規模の大きな進歩であることは明らかです。(また、アルゴリズムの進歩が中心的な役割を担っていることも浮き彫りになっています。0.5OOM/年の計算効率は、すでに重要なものではありますが、ストーリーの一部に過ぎません。)
「アンホブリング」こそが、実際にこれらのモデルが有用になることを可能にしたのであり、今日多くの商業アプリケーションの足かせとなっているものの多くは、この種のさらなる「アンホブリング」の必要性であると私は主張したい。実際、今日のモデルはまだ信じられないほど足かせが多い!例えば
ここでの可能性は非常に大きく、私たちはここで急速に低空飛行の果実を摘んでいる。これは非常に重要です。"GPT-6 ChatGPT "を想像するだけでは完全に間違っています。 GPT-6+RLHFと比べれば、進歩は段違いだ。2027年までには、チャットボットというより、エージェントのような、同僚のようなものが登場するだろう。
続き I.GPT-4からAGIへ:OOMを数える(8) https://anond.hatelabo.jp/20240605210232
これらすべての重要な変動要因になりうるものがあります。つまり、より多くのスクレイピング・データでより大きな言語モデルをプリ・トレーニングするという素朴なアプローチが、まもなく深刻なボトルネックにぶつかり始める可能性があるということだ。
フロンティア・モデルはすでにインターネットの多くで訓練されている。例えば、Llama 3は15T以上のトークンで学習された。LLMのトレーニングに使用されたインターネットの多くのダンプであるCommon Crawlは、生で100Tトークンを超えるが、その多くはスパムや重複である(例えば、比較的単純な重複排除は30Tトークンにつながり、Llama 3はすでに基本的にすべてのデータを使用していることになる)。さらに、コードのようなより特殊な領域では、トークンの数はまだまだ少ない。例えば、公開されているgithubのリポジトリは、数兆トークンと推定されている。
データを繰り返すことである程度遠くまで行くことができるが、これに関する学術的な研究は、16エポック(16回の繰り返し)の後、リターンは非常に速く減少し、ゼロになることを発見し、繰り返しはそこまでしか得られないことを示唆している。ある時点で、より多くの(効果的な)計算を行ったとしても、データ制約のためにモデルをより良いものにすることは非常に難しくなる。私たちは、言語モデリング-プレトレーニング-パラダイムの波に乗って、スケーリングカーブに乗ってきた。大規模な投資にもかかわらず、私たちは停滞してしまうだろう。すべての研究室が、新しいアルゴリズムの改善や、これを回避するためのアプローチに大規模な研究の賭けに出ていると噂されている。研究者たちは、合成データからセルフプレー、RLアプローチまで、多くの戦略を試していると言われている。業界関係者は非常に強気のようだ:ダリオ・アモデイ(Anthropic社CEO)は最近、ポッドキャストでこう語った:「非常に素朴に考えれば、我々はデータ不足からそれほど遠くない[...]私の推測では、これが障害になることはない[...]。もちろん、これに関するいかなる研究結果も独占的なものであり、最近は公表されていない。
インサイダーが強気であることに加え、サンプル効率をはるかに向上させたモデルをトレーニングする方法(限られたデータからより多くのことを学べるようにするアルゴリズムの改良)を見つけることが可能であるはずだという強い直感的な理由があると思う。あなたや私が、本当に密度の濃い数学の教科書からどのように学ぶかを考えてみてほしい:
モデルをトレーニングする昔の技術は単純で素朴なものだったが、それでうまくいっていた。今、それがより大きな制約となる可能性があるため、すべての研究室が数十億ドルと最も賢い頭脳を投入して、それを解読することを期待すべきだろう。ディープラーニングの一般的なパターンは、細部を正しく理解するためには多くの努力(そして多くの失敗プロジェクト)が必要だが、最終的には明白でシンプルなものが機能するというものだ。過去10年間、ディープラーニングがあらゆる壁をぶち破ってきたことを考えると、ここでも同じようなことが起こるだろう。
さらに、合成データのようなアルゴリズムの賭けの1つを解くことで、モデルを劇的に改善できる可能性もある。直感的なポンプを紹介しよう。Llama 3のような現在のフロンティアモデルは、インターネット上でトレーニングされている。多くのLLMは、本当に質の高いデータ(例えば、難しい科学的問題に取り組む人々の推論チェーン)ではなく、このようながらくたにトレーニング計算の大半を費やしている。もしGPT-4レベルの計算を、完全に極めて質の高いデータに費やすことができたらと想像してみてほしい。
AlphaGo(囲碁で世界チャンピオンを破った最初のAIシステム)を振り返ることは、それが可能だと考えられる何十年も前に、ここでも役に立つ。
LLMのステップ2に相当するものを開発することは、データの壁を乗り越えるための重要な研究課題である(さらに言えば、最終的には人間レベルの知能を超える鍵となるだろう)。
以上のことから、データの制約は、今後数年間のAIの進歩を予測する際に、どちらに転んでも大きな誤差をもたらすと考えられる。LLMはまだインターネットと同じくらい大きな存在かもしれないが、本当にクレイジーなAGIには到達できないだろう)。しかし、私は、研究所がそれを解読し、そうすることでスケーリングカーブが維持されるだけでなく、モデルの能力が飛躍的に向上する可能性があると推測するのは妥当だと思う。
余談だが、このことは、今後数年間は現在よりも研究室間のばらつきが大きくなることを意味する。最近まで、最先端の技術は公表されていたため、基本的に誰もが同じことをやっていた。(レシピが公開されていたため、新参者やオープンソースのプロジェクトはフロンティアと容易に競合できた)。現在では、主要なアルゴリズムのアイデアはますます専有されつつある。今はフロンティアにいるように見えるラボでも、他のラボがブレークスルーを起こして先を急ぐ間に、データの壁にはまってしまうかもしれない。そして、オープンソースは競争するのがより難しくなるだろう。それは確かに物事を面白くするだろう。(そして、ある研究室がそれを解明すれば、そのブレークスルーはAGIへの鍵となり、超知能への鍵となる。)
続き I.GPT-4からAGIへ:OOMを数える(7) https://anond.hatelabo.jp/20240605210017
なーにが、「今は〇〇(メインストリームではないというだけで現在も普通に存在するジャンル)を書くだけで叩かれる……」じゃ。
それで、「でも、誰がなんと言おうと俺は〇〇を書く!」とか続くわけですよ。
そもそも誰も何も言ってねえよバカ!被害者ポジション乞食してんじゃねえぞ!
悔しかったら、そのジャンル書いてることだけを理由についた批判コメントの実物でもなんでも、リンクつきで晒してみせろよ。好きなもの書いてるだけで叩かれました~(T_T)とか言いつつ、叩かれた証拠のひとつも出せねえ連中ばっかりじゃねえか!(絶対話盛ってるかゼロからねつ造してるでしょ?)
あ、もちろんマシュマロは自演し放題なので証拠能力はありません(^-^)
あのさあ。あのさあ!
特定のジャンルであるというだけで叩かれるという状況が、あるかないかでいえば、そりゃあるとは思うよ?
でもそれに当てはまるのは、ちょっとマイナーだったり古かったりするジャンル“ではなく”、「いま流行ってるジャンル」の方が圧倒的にターゲットになりやすいわけ。
ネット上の小説でいえば今は、なろう系・異世界転生・悪役令嬢・追放ざまあとかですよ(全部同じじゃねえか)
たとえどれだけ読まれて、どれだけ売れてても、それらジャンルへの嘲笑はいっっっっこうに止む気配はないでしょ?
売れ線狙いのジャンクフードと見なされ、作者や読者の人格否定にたやすく結びつく、そういうキッツい批判、あなたの書いてるご大層なジャンルが受けたことあります?ないでしょ?ないよね?絶対ありえへんわ。
おおかた、他愛ない要望コメントとか、あるいはPV・ランキングが振るわないとかその程度のことを「叩かれた」と大げさに言ってるんだろうけど、そういう盛松いい加減にやめろよ。文字書き全体が信用されなくなるぞ?(もうなってま~す)
ふーん、あんたって意外と考えたりするんだね♡でも、資格制にしたからって全部解決するわけじゃないでしょ。クソ雑魚ナメクジが思いつくことなんてそんなもんだよ♡資格持ってる人が周囲のプレッシャーに負けないって保証もないし、強要されるリスクはゼロにならないんだから♡もっとちゃんとした対策考えなきゃ意味ないんじゃない?
『モテたければ人として接しろ』というアドバイスはまちがい。正確には『個人として接しろ』 - 自意識高い系男子
これ読んで、日本語の「人」はpersonの意味とhumanの意味の両方があるんだな、と気付いた。
元増田は、暗黙に、人をperson、人間をhumanという区別をしていると思う。
ただ、日本語の「人」はどっちの意味でも使えるので、誤解が生じるような文脈で、
personの意味で人と言いたい場合は、個人や人格と言った方がよいのだと思う。
別の増田で、
・「人間扱い」とは、十把一絡げの「女性扱い」ではなく個人個人に合わせた扱いのことだよ派(抽象度を下げろ派)
・「人間扱い」とは、性差を意識した「女性扱い」ではなく男性と同じように/無性かのように扱うことだよ派(抽象度を上げろ派)
個人的には「人間扱い」といったら人間一般に適用できる後者を指すべきで、前者は「個人扱い」とでも呼ぶべきじゃないかと思うが
ってのがあるけど、まさに前者がperson、後者がhumanだと思う。
いずれにせよ、「人」は多義的なので、「個人」や「人格」と言い換えた方が正しく伝わる、というのはその通りだと思うけれど、
「人」にはpersonの意味もあるので、「人として扱う」という言い方もまちがいではないと思う。
実際、自分もpersonの意味で読んでいて、上述の記事を読むまで、その多義性に気付いていなかった。
さっき「誤解が生じるような文脈で」と書いたけれど、
個人的には、恋愛や人間関係についての話のなかででてくる「人として扱う」が「personとして扱う」以外の意味を持つとは思ってもみなかった。
プライベートで二人で会おうとしたら、それはもう下心というか恋愛アプローチなんよ
それに応じたらあとはお互いの下心のすり合わせタイム
お互いの下心の相性が良ければ恋愛関係になるし、相性が悪ければ円満に双方が引き下がる。その後はプライベートで二人では会わない
短い動画をどんどん増田見てしまって眠たいけれど朝のご飯は欠かさず食べて身体を目覚めさせーのそうだ!昨日買って食べなかったおにぎりがあったチャンスを私は前髪で掴むいや前髪をブラシでとかしていた時に食べてなかったことに気付いて鞄の中をみたらまだセーフのそれは美味しい美味しい明太子おにぎりだった山脈に向かってヤッホー!って叫んじゃったわ。明太マヨなのかマヨ明太なのかどちらにしてもカロリーで食べる美味しさには敵わないわよねおにぎり屋さんも私の周りでも見かけるからチャンスがあれば前髪を掴んでみたいわおはようございます!知ってた?おにぎりって冷えているとカロリーゼロなのよ!