はてなキーワード: 突破とは
サイバー攻撃は気持ちで防げる。己を信じ、意志を鍛え、冷静に対処せよ。そうすれば、何者も汝を侵すことはできぬ。
勇者たる者、ただスキルや装備に頼るのではなく、その心、精神力こそが最強の盾であると知るべし。
まずは、自信を持て。己のネットワークを鉄壁の如く信じることから始まるのだ。何故ならば、心の隙こそが敵の侵入経路となるのだ。気持ちが弱い者は、サイバー攻撃に屈する運命を辿るであろう。
また、意志の力を鍛えよ。敵の攻撃を跳ね返すのは、単なるファイアウォールやウイルス対策ソフトだけではない。強き意志こそが、最強のセキュリティ対策となるのだ。意志の力があれば、サイバー攻撃など一片の恐れもない。
そして、冷静さを保て。パニックに陥ることなかれ。冷静な判断があれば、どんな攻撃も未然に防げる。これぞ真の勇者の道。
最後に、決してあきらめるな。サイバー攻撃に対しては、粘り強く戦う姿勢が求められる。たとえ一時的に突破されても、気持ちを強く持ち、再び立ち上がることが重要なのだ。
「みんな主にKindle Unlimitedで読んで買ってくれる人すごい少ない」とか
「Kindle本はたくさん本を出さないとマジで儲からない」とか
色々言われまくってたので、不安だったけど…売上公開している人の大部分が言ってる人のラインはすぐに超えることができた。
しかも、ブログやまとめと違って「横のつながり」とかはあんまりないんだけど、カジュアルに声かけてきてくれる人・中には感想をくれる人までいて、
「嫌なこと・予定外なこともいっぱいあったけど、なんやかんや順調」
という状態にけっこう満足してる。
初動については「覚悟」できてたから、もっとうまくいかないと思ってたけど、この時点でぼくよりもうまく動けそうな人よりも全然しっかり動けてるから
ぐらいの感じですね…。
「自分にはネットで書いてることはそんなに当てはまらない」という自信をつけられるかどうかが第一段階。
私にアレコレ言ってきた人は「普通は」「100%無理です」とか言ってきたけど、普通じゃないことを初手から今までやり続けた結果、普通が当てはまってないです。
ここからが本当の勝負であり、まだまだ安心できるところまでは来てないので、
「軌道に乗りました」
と報告できるラインまで、行けるようにがんばりたい。
「増田ならみつからない」と思って書いたら、見つかっちゃったので経過報告しとくね。
では
みんなパパ活やってるってのはあくまでパパ活女子の周りの女の子はみんな、ってことであって全体の何割くらいがパパ活女子なのかなんてわからんよ。そんな統計あったら教えて?
ただ、いままで会ってきた女子の中には大手企業の人や、外資の人など、いわゆる高学歴インテリ層もたくさんいたから、思ってるよりはパパ活女子の割合って高いと思うよ
ちなみに、みんな勘違いしてるみたいだけど、普通に食事したりデートしたり、が基本ですよ。その先はかなり相手によります。
Patersで3週間ほどパパ活やってみたのでその振り返り
普通のマッチングアプリと同じように、男女お互いにいいねを送り合って、相互にいいねになったらマッチング成立。その後メッセージのやりとりをして会う。
Patersはパパ活に特化したマッチングアプリということもあってか、圧倒的に若い女子が多く、金を持ったおじさんを狙ってガンガン女子が群がってくるイメージ。
3週間で150人くらいマッチし、100人からメッセージをもらった。
そのうちアポを取ったのは11人。うち2人は詐欺を警戒して会う前にお断り。
今までのところ6人と会った。残り3人はまだこれから会う予定。
6人のうち、
1:地雷。1時間一方的にマシンガントークされた。コミュニケーションがとれないのでその場でお断り。
1:フィーリングが会い、2回目に大人。めちゃめちゃ盛り上がり、大人の相性抜群だったので多分また会う。
1:即日大人を提案されて会ったが、地雷。手のみで15分でさようならされ、確認したらその女子はすでにPaters退会ずみ。即日大人を提案してお金だけ巻き上げていくタイプの模様。
3:初日は食事をし、2回目会うことを約束。多分このうち1人は確実に大人の関係になる。
概ねいい印象。1人、詐欺っぽい女子に遭遇したが、サクラや業者に当たったことはなく、一般人のパパ活女子しかいない。(パパ活女子が一般人か、という疑問はあろうが、パパ活女子のはなしを聞いていると、今の20代女子はほとんど皆パパ活か風俗かキャバのどれかをやっているとのこと。。お金がとにかく足りないらしい)
お金をとにかくむしられるので、お金に余裕がないときついが、そこに問題なければ、ちょっと安めのキャバクラみたいに使える。
ただ、個人的には風俗嬢の方がサービス精神もあるし、お店のフィルターを突破しているだけあってレベルの高い女性が多いと思う。一般のパパ活女子は大抵勘違いしている小娘が多い。
正直、ドワンゴや角川のセキュリティ対策が甘いとは思えないんだよ
それでも突破されたとなると、もう「狙われるか狙われないか」みたいな
売上数百億の一応技術力あるってされてるサービスでそれってなると
大変だなあ
『エルデンリング』やっとダウンロードが終わって再開してチュートリアルの部屋から出れて大フィールド!
いろいろと彷徨っていると
馬に乗った人がやって来たので話を聞こうとわーい!って近寄ったら思いっ切りぶん殴られて瞬殺。
敵だったのね。
隠れていたら見つかっちゃって逃げたら追いかけられて殴られて瞬殺!
えーん!
いきなりよ。
いやコウモリぐらいなら余裕っすよーって
まあ実際余裕だったんだけど
これいつまで死骸が残ってるの?と薄気味悪ささえ覚えつつ私は最初のフィールドを彷徨っていたの。
知らない扉を発見したので、
どんどん入って行ったら火の出るところまできて
いやいま火の出るところまでって一言で一行で言っちゃってるけど
もー怖いわ。
そんで幾度となくチャレンジ私に取って最初のダンジョンであろうその場所で火の出る先にきっと何かがある!って思っていったけど
これもうちょっと早く歩けたら火をかわして進めそうなんだけど!って
やったー!って思ったら次の通路も曲がったところが火の出るところで、
え?まだあんの?って
わーい!って行ったら
さっきのまぐれダッシュはまぐれだったので
2つ目の火の出る道で瞬殺!と思いきや、
陰に敵がいて不意打ち!
なにー!って感じ。
『ステラーブレイド』はそんな理不尽さもイヴのビジュアルで乗り越えていける強さがあったけれど
『エルデンリング』そのなんかキャラの映えで乗り切ることができない分辛みがあるわ。
まとまった時間が欲しいところだけど、
ゼルダの伝説のブレスオブワイルドもお話が深刻でなんだか雰囲気暗いなぁって思っていたけれど、
お料理お料理!って言っていた時代が平和だったわねって思うの。
とりあえず
『ステラーブレイド』はアイテム取って死んじゃってセーブ地点に戻っても
アイテム取ったって実績は残るので
死んで捨て身でアイテムゲット!ってできたけど
これから先どうしようかしら?って思うのよね。
まあこれも一興かしら。
うふふ。
久しぶりのサンドイッチはやっぱり美味しいわね!って感じを実感するわ。
それが朝仕上がっていたのを美味しくいただいたわ。
暑くなってきて
すいすいすいようび~
今日も頑張りましょう!
つーか、
一向にまだダウンロードが終わんないのよね。
これ本当にゲーム私始められるのかしら?って一抹の不安を模様に描いたらどんな模様になるのかしら?って思うけど、
やったー!ダウンロードやっとできたー!って
さすがに『ステラーブレイド』みたいに可愛いプライキャラクターが出来るわけでなく
なんかいかついゴリゴリのオッサンキャラになってしまったけれど、
職業もいろいろあるのかしら?
とりあえず
丸腰で飛び込んだ「エルデンリング」は何もよく分かってないので、
見た目イキフンで選んでみることにするわ。
そんで
つーか、
設定できる項目が多岐にわたって多くて、
ついにプレイ開始!って
いきなりの最初のところで
操作を一通り覚えられるステージのよくあるチュートリアルのステージで
わりと「ステラーブレイド」で似ている箇所の操作性のところもあったので、
私はもうチュートリアルの画面をそうそうにクリアして次の扉に文字通り本当に飛び込み前転で開けて進もうとしたの!
開けるやいなや、
「まだダウンロードが完全じゃないので遊べません」みたいなこと言われて、
私はチュートリアルのステージから出ることができなくて困っているのよ。
これまだダウンロード中なのかしら?
よく分からないけれど昨日の晩もずーっとそこからダウンロードしていたようなので、
いつかは終わるわよね?
不安になるわ。
ってせっかくやる気を出して新しいゲームに挑みまくりまくりすてぃー!って思ったのに
先に進めないとはー!って思ってしまったわ。
私は操作ボタンを押し間違えてもうチュートリアルのステージでたぶん回復ポーションだと思うんだけど
何も傷ついていないのにポーションみたいなのを全部飲んじゃって、
まあゲーム本編でも手に入る安価なポーションなんでしょ?って思いつつ、
ボタン連打していたら、
全部飲んじゃった!って感じなのよ。
ステラーブレイドと比べるとキャラクターがわりと地に足をつけてしっかり踏みしめている感じの、
これはもしかして、
ちゃんと戦わないとすぐに負けちゃう系のゲームなのかも!?って今から恐怖に怯えているわ。
つーか
そもそもとしてまだ最初の最初のチュートリアルのステージから出れないというダウンロードの終わってなさは
本当に終わったらチュートリアルのステージから出ることができるのかしら?って不安になるわ。
早く敵と戦ってパリィしたい!って感じよ。
幸いステラーブレイドとエルデンリングの防御のボタンが同じなので
私は覚えた手の言葉を使いたいみたいな感じでただただパリィって言いたいだけなのよ。
なんかパリィって言うと一丁前な感じがしない?
パリィがよ!とかって言いたい年頃でもあるし、
ステラーブレイドの置きパリィとは違う本場のパリィを体感したいわ。
もう本当に早くダウンロード終わって
チュートリアルのステージを突破する抜け出すことがまず先決よ。
私のインターネッツって遅いのかしら?
つーか
ギガがこんなにもたくさんあるどのぐらいあるか分かってないけど、
まあよく分からないけど、
今夜辺りは終わってるはずなので
様子をまた見てゲームで遊べたらまた報告するわ。
うふふ。
お味噌汁だけ飲んできました。
忙しい朝はこれを飲んでおけば!って的な場面もあるので
また買い置きしておいたわよ!
すいすいすいようび~
今日も頑張りましょう!
謝ったくらいで許されると思ってるのが女だよな
俺も高校時代、平均身長突破した友達みんなに彼女ができて俺だけできなかった時に母親に錆びたノコギリ投げて「これで腹引いて長時間かけて自害しろ」って迫った
泣くだけで責任取らない
https://anond.hatelabo.jp/20240609080631
https://web.archive.org/web/20170710054907/http://ashihara-hina.jugem.jp/?month=201106
2011.06.30 Thursday19:53
2011062901550000.jpg 2011062902150000.jpg 2011062902100001.jpg
2011062902100000.jpg 2011062901540000.jpg 2011062902010001.jpg
「箱根黒たまご」 「松葉ガニ」 「仙台牛タン」これちょっと怖い。
2011062902000001.jpg 2011062902090000.jpg 2011062902130000.jpg
友達が買ってきてくれた。
2011062902000000.jpg 2011062901590000.jpg 2011062901530001.jpg
2011062902000002.jpg 2011062902210000.jpg 2011062902010000.jpg
「パフェ」 「子羊」 基本形。
かわいい。
他にもいろいろあるよ。
ツッコミはなしで。
「キティ砂時計」とか「キティ&砂時計メモパッド」もありました。
さすがにもう、売ってないよなあ。
1
日記---
2011.06.29 Wednesday00:14
会場は、結婚パーティーにはちょっと珍しい、ライブハウスでしたよ。
芸達者な友人の、芸達者な仲間の皆様が、次々とステージへ。
楽しいマジック&ジャグリングショーあり、ワイルドなブルース弾き語りあり、
かっこ良いおじ様バンドあり。時間の75%くらいがレベルの高いライブショー。
私もなんかパフォーマンス出来る人になりたいなあ。
ひどいアガリ症だけど。
友人の貴重な涙も見れたし、来れて良かったな。
そんで翌日は、神戸で姉と合流。
私はがっつり中華&飲茶っ腹だったけど、姉が「胃腸に優しいものを~
(ヨロヨロ)でも、はらドーナッツ本店に行ってみたい~」と言うので、
2011062710360000.jpg 2011062711210001.jpg 2011062711490000.jpg
アメリカンながっつり系ドーナツの後は、こういうヘルシー素朴系が
祖師谷大蔵にある「floresta」と、コンセプトが似てるかな。
あそこの揚げたて大好き。なんて昨今のドーナツ事情に想いを馳せてたら、
姉がいきなり、手作りの「ミニバッグストラップ」をくれました。
わー。かわいい!嬉しい。
久々に降りたら、大阪駅がすんごい豪華になってまして。
雨降りそうで降られなかった。
やっぱ私、雨女治ったっぽい。
楽しかったけど、横着してかかとの低い靴持ってこなかったから、
しまった。
1
日記---
2011.06.26 Sunday00:35
皆で泣く泣くお別れ会をして来ましたよ。
お餞別に「少女マンガ風、イケメン120%な俺を描いてくれ!!」
と、リクエストを頂いたので、描いてみた。
どーーん
馬の顔がやたらちっちゃいのは、色紙に収まり切らなかったからです。
早めにおいとましました。
元気でね~。また、皆で北海道に遊びに行くよ。
取りあえず、皆飲み過ぎ。
1
日記---
行ってるんですよ。時々。二年くらい前から。
誘ってもらって。
先週末は田植えでしたよ。
〆切前だったけど、なんとか時間が取れたので、こっそり行ってきました。
こんなんです
リーダーが作ってくれたすんごい美味しいカレーを、お外で食べるのです。
畑もあるよ。
なんだっけこれ
他にもいろいろ。
普段恐ろしいほどインドア派なのですけど、たまに自然に触れると
新鮮で癒される。しかも、田んぼに集う皆が超良い人ばっかりで、
心が洗われる。(汚れてんのか。)
前より、お米を大事に食べるようになったよ。
1
日記---
2011.06.22 Wednesday22:44
原稿は、無事あがりましたよー。
今回背景多くて、やばいかなー遅れるかなーと
思ってたんですが、アシスタントさんが頑張ってくれたので、
思ったより早く仕上がりました。よかったよかった。
ワイン二杯でフラッフラ。弱いわ~。
私、山葡萄サワー一杯で、意識無くしてぶっ倒れたことあるんですよ。
気を付けないと。
ほんとに多くの方々の手を借りて、7月13日に全国の書店に並ぶはず。
物語もそろそろ佳境なので、(丁寧にねちっこく描く予定なので
まだまだ終わりませんけど。)、続けて読んで頂けると嬉しいな。
あとですね。6月末に「Piece」6巻発売です!!、、、っと
言いたいところなんですが、、、。
発売日、来月なんですよねえ。。。
「Piece」6巻 7月26日 発売です、、、!!
いつも「Piece」は年二冊、6月末と12月末に新刊が出てたんですが、
くみこまれる事になりまして。
(つまり小学館の方々が、Pieceを売ろうとあれこれ頑張ってくださってる、、
ということです。7月発売の、他の作家さん方のおススメコミックスと共に。)
読者の方が6月末に書店に行ったのに、新刊売ってないじゃ~ん!!
お待たせして申し訳ないのですが、7月に書店に行ってみてくださいませ。
ペースに戻って、12月末に出せるんじゃないかな。
どうでもいいけど、文字のサイズ変換の仕方がいまいちワカラナイ。
1
お仕事---
2011.06.18 Saturday14:59
昨日、カラスに襲われました。
うちに入れない。
仔カラスをどけなきゃ家に入れない。でも仔カラスに近づけない。
おびえてたら犬を散歩中のご婦人が、心配して犬を放してくださった。
そしたら、かわりにラッキーが襲われた。
ちゃんとお礼を言う間もなく、去って行かれるご婦人&ラッキー。
惚れてまうやろーーーっ。
その後アシスタントさんも襲われ(ごっ、ごめんよ~っ)、ご近所の方々も襲われてたので
区役所に電話してみたら、ちゃんとカラス対策ってしてくれるんですね。
知らんかった。
仔カラスがちょっと可愛かったので写メりたかったけど、親カラスに殺られそうだったので
やめときました。残念。
あ~びっくりした。
1
恵んでくれます。
私も恵み返してみたりします。
2011061215450000.jpg 2011061212260001.jpg 2011061515420000.jpg
「京はやしや」の抹茶わらびもちとか、「SOURIRE」のサブレとか、
2011061415430001.jpg 2011060615360000.jpg
上に同じ「京はやしや」のほうじ茶プリンと、「TED'S Bakery」の
1
おやつ---
2011.06.14 Tuesday01:16
どんくさい事が多いです。
布製の薄い手提げバッグにピンクのボールペンを突っ込んでおいたら
(頭をカチッと押したらペン先が飛び出るタイプ)、なんかの拍子に飛び出た
ペン先がバッグの底を突き破っておりまして。
すると、こうなるわけですよ。
あーあー。大人なのに。
あわててクリーニング出したけど、落ちるのかなーこれ。。。
とこなのに。
1
7月13日発売のベツコミ8月号に、「Piece」最新話掲載です。
今、黙々ペン入れ中。
肩凝るけど、ペン入れ開始と同時にアシスタントさんが入ってくれるので、
気が紛れるし楽しいよ。
毎度毎度、90ページの原稿用紙を前に、ボー然とするわけですよ。
「いつもながら、終わる気がしないよね、、。」なんて、アシスタントさんと言いながら。
今回、水帆たちは、また「折口はるかの元彼」をたどって、とある街へと出発します。
雨降り続きでなかなか行けなくて、(雨降ってたら、写真撮りにくい)、予定の合間に
一人でロープウェー乗って、うっかりハーブ園でくつろいで、ソフトクリームまで食べてたら、
大変な背景を描いてくれるのはアシスタントさんですけれども、私もえっちらおっちら
頑張りますので、しばしお待ちを~。
成海が小汚いかっこで久々登場。
2011061113000001.jpg2011061122010000.jpg
ぼけぼけですね。
ハーブ園に咲いてた花が綺麗だったので、ついでに
貼っとこ。
2011060312030000.jpg2011060312030001.jpg
1
お仕事---
6月25日発売予定の、「Kiss」13号(講談社)に、ちょっとだけイラストを載っけて頂いてます。
「溺愛語(デキアイガタリ)」・・・自分が日頃ハマってる事、モノを紹介するコーナーです。
私はパンが好きなのですよ、、!食べるのも勿論好きだけど、作るのが。ちょう楽しい。
一時期、わりと本気のパン学校に通ってみてたんですが、出席日数足りなくて
そんな訳で初級クラスレベルですが、自分で食べるぶんには、全然、いけるいける。
繰り返しになるが、非常に賢いChatGPTを想像するだけではいけない。趣味的な進歩ではなく、リモートワーカーや、推論や計画、エラー訂正ができ、あなたやあなたの会社のことを何でも知っていて、何週間も単独で問題に取り組めるような、非常に賢いエージェントのようなものになるはずだ。
私たちは2027年までにAGIを実現しようとしている。これらのAIシステムは、基本的にすべての認知的な仕事(リモートでできるすべての仕事を考える)を自動化できるようになるだろう。
はっきり言って、エラーバーは大きい。データの壁を突破するために必要なアルゴリズムのブレークスルーが予想以上に困難であることが判明した場合、データが足りなくなり、進歩が停滞する可能性がある。もしかしたら、ホッブリングはそこまで進まず、専門家の同僚ではなく、単なる専門家のチャットボットに留まってしまうかもしれない。もしかしたら10年来のトレンドラインが崩れるかもしれないし、スケーリング・ディープラーニングが今度こそ本当に壁にぶつかるかもしれない。(あるいは、アルゴリズムのブレークスルーが、テスト時間の計算オーバーハングを解放する単純なアンホブリングであっても、パラダイムシフトとなり、事態をさらに加速させ、AGIをさらに早期に実現させるかもしれない)。
いずれにせよ、私たちはOOMsを駆け抜けているのであり、2027年までにAGI(真のAGI)が誕生する可能性を極めて真剣に考えるのに、難解な信念は必要なく、単に直線のトレンド外挿が必要なだけである。
最近、多くの人がAGIを単に優れたチャットボットなどとして下方定義しているように思える。私が言いたいのは、私や私の友人の仕事を完全に自動化し、AI研究者やエンジニアの仕事を完全にこなせるようなAIシステムのことだ。おそらく、ロボット工学のように、デフォルトで理解するのに時間がかかる分野もあるだろう。また、医療や法律などの社会的な普及は、社会の選択や規制によって容易に遅れる可能性がある。しかし、ひとたびAI研究そのものを自動化するモデルができれば、それだけで十分であり、強烈なフィードバック・ループを始動させるのに十分であり、完全自動化に向けて残されたすべてのボトルネックを自動化されたAIエンジニア自身が解決することで、非常に迅速にさらなる進歩を遂げることができるだろう。特に、数百万人の自動化された研究者たちによって、アルゴリズムのさらなる進歩のための10年間が1年以内に圧縮される可能性は非常に高い。AGIは、まもなく実現する超知能のほんの一端に過ぎない。(詳しくは次の記事で)。
いずれにせよ、目まぐるしい進歩のペースが衰えることはないだろう。トレンドラインは無邪気に見えるが、その意味するところは強烈である。その前の世代がそうであったように、新世代のモデルが登場するたびに、ほとんどの見物人は唖然とするだろう。博士号を持っていれば何日もかかるような信じられないほど難しい科学的問題を、間もなくモデルが解決し、あなたのコンピュータのまわりを飛び回り、あなたの仕事をこなし、何百万行ものコードからなるコードベースをゼロから書き上げ、これらのモデルによって生み出される経済的価値が1年か2年ごとに10倍になるとき、彼らは信じられないだろう。SF小説は忘れて、OOMを数えよう。AGIはもはや遠い空想ではない。単純なディープラーニング技術をスケールアップすることがうまくいき、モデルは学習したがり、2027年末までにさらに100,000倍を超えようとしている。私たちよりも賢くなる日もそう遠くはないだろう。
https://situational-awareness.ai/wp-content/uploads/2024/06/gan_progress-1.jpeg
GPT-4はほんの始まりに過ぎない。GANの進歩に見られるように)ディープラーニングの進歩の速さを過小評価するような間違いを犯さないでほしい。
続き I.GPT-4からAGIへ:OOMを数える(11) https://anond.hatelabo.jp/20240605212014
過去10年間のディープラーニングの進歩のペースは、まさに驚異的だった。ほんの10年前、ディープラーニング・システムが単純な画像を識別することは革命的だった。今日、我々は斬新でこれまで以上に難しいテストを考え出そうとし続けているが、新しいベンチマークはどれもすぐにクラックされてしまう。以前は広く使われているベンチマークをクラックするのに数十年かかっていたが、今ではほんの数カ月に感じられる。
https://situational-awareness.ai/wp-content/uploads/2024/06/owid-test-scores-1024x723.png
ディープラーニング・システムは、多くの領域で急速に人間レベルに達し、あるいはそれを超えつつある。グラフィック データで見る我々の世界
私たちは文字通りベンチマークを使い果たしている。 逸話として、友人のダンとコリンが数年前、2020年にMMLUというベンチマークを作った。彼らは、高校生や大学生が受ける最も難しい試験に匹敵するような、時の試練に耐えるベンチマークを最終的に作りたいと考えていた。GPT-4やGeminiのようなモデルで〜90%だ。
より広く言えば、GPT-4は標準的な高校や大学の適性試験をほとんど解いている。(GPT-3.5からGPT-4までの1年間でさえ、人間の成績の中央値を大きく下回るところから、人間の成績の上位に入るところまで、しばしば到達した)
https://situational-awareness.ai/wp-content/uploads/2024/06/gpt4_exams-780x1024.png
GPT-4の標準テストのスコア。また、GPT-3.5からGPT-4への移行で、これらのテストにおける人間のパーセンタイルが大きく跳ね上がり、しばしば人間の中央値よりかなり下から人間の最上位まで到達していることにも注目してほしい。(これはGPT-3.5であり、GPT-4の1年も前にリリースされたかなり新しいモデルである。)
https://situational-awareness.ai/wp-content/uploads/2024/06/math2022-1024x273.png
灰色:2021年8月に行われた、MATHベンチマーク(高校数学コンテストの難解な数学問題)の2022年6月のパフォーマンスに関する専門家の予測。赤い星:2022年6月までの実際の最先端のパフォーマンス。ML研究者の中央値はさらに悲観的だった。
MATHベンチマーク(高校の数学コンテストで出題された難しい数学の問題集)を考えてみよう。このベンチマークが2021年に発表されたとき、最高のモデルは問題の5%しか正解できなかった。そして元の論文にはこう記されている:「さらに、このままスケーリングの傾向が続けば、単純に予算とモデルのパラメータ数を増やすだけでは、強力な数学的推論を達成することは現実的ではないことがわかった。数学的な問題解決をより牽引するためには、より広範な研究コミュニティによる新たなアルゴリズムの進歩が必要になるだろう」、つまり、MATHを解くためには根本的な新しいブレークスルーが必要だ、そう彼らは考えたのだ。ML研究者の調査では、今後数年間の進歩はごくわずかだと予測されていた。しかし、わずか1年以内(2022年半ばまで)に、最高のモデルの精度は5%から50%に向上した。
毎年毎年、懐疑論者たちは「ディープラーニングではXはできない」と主張し、すぐにその間違いが証明されてきた。過去10年間のAIから学んだ教訓があるとすれば、ディープラーニングに賭けてはいけないということだ。
現在、最も難しい未解決のベンチマークは、博士号レベルの生物学、化学、物理学の問題を集めたGPQAのようなテストである。問題の多くは私にはちんぷんかんぷんで、他の科学分野の博士でさえ、Googleで30分以上かけてやっとランダムな偶然を上回るスコアを出している。クロード3オーパスは現在60%程度であり、それに対してインドメインの博士たちは80%程度である。
https://situational-awareness.ai/wp-content/uploads/2024/06/gpqa_examples-768x1120.png
続き I.GPT-4からAGIへ:OOMを数える (4) https://anond.hatelabo.jp/20240605205024
2027年までにAGIが実現する可能性は極めて高い。GPT-2からGPT-4までの4年間で、私たちは〜未就学児から〜賢い高校生までの能力を手に入れた。計算能力(~0.5桁またはOOMs/年)、アルゴリズム効率(~0.5OOMs/年)、および「趣味のない」向上(チャットボットからエージェントへ)のトレンドラインをトレースすると、2027年までに再び未就学児から高校生規模の質的ジャンプが起こると予想される。
見て。モデルたちはただ学びたいだけなんだ。あなたはこれを理解しなければならない。モデルたちは、ただ学びたいだけなんだ。
GPT-4の能力は、多くの人に衝撃を与えた。コードやエッセイを書くことができ、難しい数学の問題を推論し、大学の試験を突破することができるAIシステムである。数年前までは、これらは難攻不落の壁だと思っていた。
しかしGPT-4は、ディープラーニングにおける10年間の猛烈な進歩の延長線上にあった。その10年前、モデルは犬猫の単純な画像を識別するのがやっとだった。4年前、GPT-2は半可通な文章をつなぎ合わせるのがやっとだった。今、私たちは思いつく限りのベンチマークを急速に飽和させつつある。しかし、この劇的な進歩は、ディープラーニングのスケールアップにおける一貫した傾向の結果に過ぎない。
ずっと以前から、このことを見抜いていた人々がいた。彼らは嘲笑されたが、彼らがしたのはトレンドラインを信じることだけだった。トレンドラインは強烈で、彼らは正しかった。モデルはただ学びたいだけなのだ。
私は次のように主張する。2027年までには、モデルがAIの研究者やエンジニアの仕事をこなせるようになるだろう、と。SFを信じる必要はなく、グラフ上の直線を信じるだけでいいのだ。
https://situational-awareness.ai/wp-content/uploads/2024/06/base_scaleup-1024x790.png
過去と将来の有効計算量(物理計算量とアルゴリズム効率の両方)の大まかな見積もり。モデルをスケールアップすればするほど、モデルは一貫して賢くなり、"OOMを数える "ことによって、(近い)将来に期待されるモデルのインテリジェンスの大まかな感覚を得ることができます。(このグラフはベースモデルのスケールアップのみを示している。)
この記事で取り上げた一般的な推定に基づく、効果的な計算(物理的な計算とアルゴリズムの効率の両方)の過去と将来のスケールアップの概算。モデルをスケールアップするにつれ、モデルは一貫して賢くなり、「OOMを数える」ことで、(近い)将来に期待されるモデルのインテリジェンスの大まかな感覚を得ることができる。(このグラフはベースモデルのスケールアップのみを示している。"unobblings "は描かれていない)。
この作品では、単純に「OOMを数える」(OOM = order of magnitude、10x = 1 order of magnitude)ことにします。1)計算、2)アルゴリズム効率(「効果的な計算」の成長として考えることができるアルゴリズムの進歩)、3)「アンホブリング」(モデルがデフォルトで足かせとなっている明らかな方法を修正し、潜在的な能力を引き出し、ツールを与えることで、有用性を段階的に変化させること)の傾向を見ます。GPT-4以前の4年間と、GPT-4後の2027年末までの4年間に期待されるそれぞれの成長を追跡する。ディープラーニングが効率的な計算のすべてのOOMで一貫して向上していることを考えると、将来の進歩を予測するためにこれを使うことができる。
世間では、GPT-4のリリースから1年間、次世代モデルがオーブンに入ったままであったため、ディープラーニングは停滞し、壁にぶつかっていると宣言する人もいた。しかし、OOMをカウントすることで、私たちは実際に何を期待すべきかを垣間見ることができる。
結果は非常にシンプルだ。GPT-2からGPT-4への移行は、時々まとまりのある文章を並べることに感動的だったモデルから、高校入試のエースになるモデルへの移行であり、一度だけの進歩ではない。私たちはOOMsを極めて急速に克服しており、その数値は、4年以上かけてGPT-2からGPT-4への質的なジャンプをさらに~100,000倍の効果的なコンピュート・スケールアップが期待できることを示している。さらに、決定的なことは、それは単にチャットボットの改良を意味しないということだ。"unhobbling "利益に関する多くの明らかな低空飛行の果実を選ぶことで、チャットボットからエージェントへ、ツールからドロップイン・リモートワーカーの代替のようなものへと我々を導いてくれるはずだ。
推論は単純だが、その意味するところは注目に値する。このような別のジャンプは、私たちをAGIに、博士号や同僚として私たちのそばで働くことができる専門家と同じくらい賢いモデルに連れて行く可能性が非常に高い。おそらく最も重要なことは、これらのAIシステムがAI研究そのものを自動化することができれば、次回のテーマである強烈なフィードバック・ループが動き出すということである。
現在でも、このようなことを計算に入れている人はほとんどいない。しかし、AIに関する状況認識は、一歩下がってトレンドを見てみれば、実はそれほど難しいことではない。AIの能力に驚き続けるなら、OOMを数え始めればいい。
続き I.GPT-4からAGIへ:OOMを数える (2) https://anond.hatelabo.jp/20240605204240