はてなキーワード: 研究室とは
ここ1年で初めてはてなブックマーク日毎の総合人気エントリ入りしたドメインからのホットエントリ、ブクマ数順トップ30
ブクマ数 | タイトル | ドメイン |
---|---|---|
1055 | 先住民目線で語る、Mrs. Green AppleのMV「コロンブス」問題 | ユロックの母 | www.yuroksmomlife.com |
869 | 「デザイン白書2024」を公開 | www.jidp.or.jp |
840 | デーモン閣下に関するご報告 (H.E. DEMON KAKKA | INFORMATION) | demon-kakka.jp |
815 | 株式会社ガイナックスからのお知らせに関して | www.khara.co.jp |
779 | 憎悪を増幅するプラットフォーム | blog.tenjuu.net |
713 | モバイルバッテリーが膨張した時の回収先を把握してますか? | techno-note.net |
686 | 大集合「光の戦士」1万人。「WHOから命を守る」日比谷公園の反ワクチン大会、詳報(前編) | kurodoraneko15.theletter.jp |
673 | 35年と3ヶ月間働いて、とうとう定年になりました。 区切りとして、定年エントリーを書きました。お楽しみください。 - Vengineerの妄想 | vengineer.hatenablog.com |
649 | 事例一覧|退職代行モームリ | momuri.com |
646 | 当社サービスへのサイバー攻撃に関するご報告とお詫び | 株式会社ドワンゴ | dwango.co.jp |
622 | エスカレーターの右側に乗ったらおっさんに背中押された - にげにげ日記 | nigenige110.hatenablog.jp |
580 | グローバル企業で生き抜くための英会話フレーズ集 - fu3ak1's tech days | fu3ak1.hatenablog.com |
578 | 何が事業貢献なのか分からなくなっていた伊藤直也さんが再認識したユーザーエクスペリエンスへのコミット - Findy Engineer Lab | findy-code.io |
572 | 増田へのお返事(Mrs.GREEN APPLEの『コロンブス』について) - lady_jokerのはてなブログ | lady-joker.hatenadiary.jp |
553 | 大規模クラウドインフラ設計・構築案件の歩き方(AWS-28)がインフラエンジニアに刺さりまくりな内容だった | iret.media | iret.media |
515 | 年齢は関係なくカラダを変えられる。井口裕香、本気のカラダ作りの舞台裏 | Tarzan Web(ターザンウェブ) | tarzanweb.jp |
510 | プライベートでMac使うのやめた | sosukesuzuki.dev |
500 | 名城大学理工学部応用化学科 永田研究室 | ブログ「天白で有機化学やってます。」: 「ひやっしー」に研究者はどう対応すべきか | www1.meijo-u.ac.jp |
490 | Mrs. GREEN APPLE 「コロンブス」ミュージックビデオについて | mrsgreenapple.com |
484 | Googleのはじめ方 | www.yamdas.org |
470 | 私がWEBデザイン制作の参考になりそうだと思うサイトを61個挙げてみた。 | creator.style |
452 | C言語をマスターしたい人はGCCのバージョン14を使いましょう - pyopyopyo - Linuxとかプログラミングの覚え書き - | pyopyopyo.hatenablog.com |
450 | 広告費は年間3億 「きぬた歯科」が唯一攻略できていない意外な広告 | 広告・マーケティング情報ならアドクロ | bizpa.net |
447 | Win95時代より1000倍速いはずなのにPCちっとも速くならない。。 - amlx’s blog | am635lx.hatenablog.com |
444 | LINE Payサービス終了に関するお知らせ | line-pay-info.landpress.line.me |
412 | 排水口からザー〇ンの臭いがする | www.egao-egao-egao.com |
407 | Mrs. GREEN APPLE 「コロンブス」ミュージックビデオ公開停止に関して | mrsgreenapple.com |
389 | perplexity.aiが速攻で$20払って良いと思えたくらいに情報収集を効率化してくれた件 - 理系学生日記 | kiririmode.hatenablog.jp |
382 | 生成AIで議事録が60分→2分。96%工数削減した自動生成ツールの紹介|noteエンジニアチームの技術記事 | engineerteam.note.jp |
361 | 『ドラゴンクエストへの道』再検証 - 神殿岸2 | kandatas.hatenablog.com |
学際領域の研究室いたけどプレゼンの上手さ勝負みたいな詐欺師大会になってて嫌気さしたわ
高度なことは分からないしウケないからみんなやらない、昔ウケた内容の焼き回しばかりする、表面的に見て良さそうかどうかの部分しか考えてない
大学院に行ったけど、心の余裕が無くて辛い。
自分の能力不足と言われたらそれまでだけど、後輩のメンターだったり、大学院の授業だったり、自分の研究だったり(進捗報告や原稿執筆など)とで心が休まる暇がない。
一時期女子高生にセクハラDMを送りまくっており、その件がバレて一時アカウントを消してた件について情報求む
https://x.com/akihiro_koyama/status/1803069041474482242
↓
2017年7月中旬頃(原罪先生ワシントン大学大学院時代)に東大界隈で話題になってたのはマジとのタレコミ、異様にフォロワーから慰められてる様子も
https://x.com/akihiro_koyama/status/1803076581709279308
↓
研究室で特定の女子学生とあからさまに不適切に親密な関係を示す
学会行きの飛行機で他の学生と別便で2人で行く、2人のホテルは他の学生と別など
https://x.com/akihiro_koyama/status/1803389847337574728
↓
研究室の学生の間では女子高生へのセクハラDMの件も知られており
DMの「ちゅうしたいしえっちしたい(泣)」を元ネタにした「ちゅえ(泣)」というあだなも
https://x.com/akihiro_koyama/status/1803371165555237260
↓
学生との距離感や扱いの差で毎年のようにトラブル、昨年はハラスメント相談も行われたがなあなあに
https://x.com/akihiro_koyama/status/1803091241309175881
↓
昨年アカハラ告発や学生の対立などがあったため同学年40人の学生の中では知れ渡っている
https://x.com/akihiro_koyama/status/1803105650035306589
↓
学内のハラスメント相談室も相談室の専門家が真摯に向き合ってくれる時と
学内の先生の場合もみ消しに走りがちで大学側の対応にも疑問が持たれる事態に
https://x.com/akihiro_koyama/status/1803384009894011095
https://anond.hatelabo.jp/20240619014605
本文)
キャンセルカルチャーの問題点は、「悪い・正しくない」と思う倫理が内発的なものではないことなんだろう。
どこかで知った聞きかじりの「教養」に発するものだから、キャンセルすることでなんとなく自分が「正しい側」にいることに内心満足してしまう。「正しい側」にいるというのは安全地帯なので、いくらでも無知な人を罵倒し、笑い飛ばせる。その教養は実際のところ、★のたくさんついたブコメかもしれない、その程度に知った教養でも安全地帯に入った感覚を得られる。
つまり、「いーけないんだいけないんだー、センセにいってやろ」のアレと大差ない。
その程度の教養と正義感で、MVを取り下げ、ミュージシャンを謝罪に追い込む社会なわけだね。
かつて、なだいなだが、ケシカラニズムといって、理性的な正義と感情的な正義を区別し、自分のことでもないくせに感情的な共感によって主語がでかくなるのが感情的な正義の特徴だとした。そのことで人々がプロパガンダに流されやすくなる、という趣旨のことをどこかで書いていたのを思い出す。
もうひとつ思い出したのは、2年くらい前、
のなかで、人権とかマルクス主義とか、外付けされた倫理は歯止めが効かず暴発する、ということを内田樹がいっていたこと。
コロンブスとナポレオンが他所に乗り込んでそこにいた猿を使役したり自分の文化を教え込んだりする描写になんとも思わんのかお前はw
というのがあるね。
正直、なんとも思わないね、というのが俺の感想だし、植民地主義への反省なんていっても、外付けの反省どまり。
俺の中では、このMVはたわいもなくみえている。そんな他愛のないものを批判したくなるほど自分のなかで植民地主義批判は内面化されていないわ。
そんなことをいうと、すぐにいろいろな知識を開陳して説教したくなるサヨクがぼうふらのようにわいてくるんだが。
むしろMVのなかで、不快に思ったのはそこではなくて、ナポレオンなどの人物たちが「Monkey Attack」というビデオを鑑賞するシーン。負傷していまにも死にゆくハチマキをした類人猿の兵士を抱きかかえる類人猿の兵士、その場面にビデオ鑑賞していた皆が涙する、という場面だが、このシーンは、旧日本軍の兵士を連想させられ、ビデオ鑑賞で感動ポルノを消費するという行動にはイラっとさせられた。
類人猿をベートーヴェンが指導したり、人力車にひかせたりというのには何とも思わなかったのに、このシーンだけは嫌な気分にさせられた。
そう、まさに「つまり解釈の余地があるんです。」という感じなんだな。モンキーアタックビデオへの不快感はあるものの、袋叩きにしてやり込めるほどのものではない。他愛もないMVだよ。
rna氏は、ネット上では一斉に右向け右で「文明的なコロンブスたちが野蛮な猿人たちに文明を伝え、教化し、啓蒙している」という構図が大勢を占めているようだが、そうは解釈できないと述べている。
Mrs. GREEN APPLE「コロンブス」MV 問題、マジわけわかんねぇ (追記あり) - rna fragments
もっとも俺も若い頃、20年くらい前までは、人権の歴史を教科書通りに学んで、それを教養として広めていけば、外付けされた倫理は共感を呼んで広まっていく、みたいに素朴に思っていた時期があった。
https://lady-joker.hatenadiary.jp/entry/2024/06/16/011301
みたいなことを素で思っていたというか、それこそ20年前のはてな草創期の「何とかidさんの日記」にはそういうのがあふれていた時代、、はてなにははてサと言われる人たちが多かったのだろう、そういう人ともつながった。
しかし、いつしか違和感を覚えるようになった。特に、歴史修正主義というドイツで使われた文脈の言葉を安易に日本の南京虐殺否定の文脈で使うことが一般的になり始めたころ、はてサという存在が疎ましくなっていった。
俺の違和感の正体は、結局のところ、歴史の文脈のなかで生まれた言葉には、その歴史に紐づいた反省があり、過去への抗いがあるはずなのに、いつしか「教養」として普遍化するなかで、その歴史の固有性が失われ、あたかもハンディな批判ツールになり下がることだった。
村上春樹が2009年、イスラエルの文学賞を受賞したとき、はてサは一斉に授賞式に出席しようとする村上を引き留めようとし、攻撃した。出席することは共犯を意味するとまで言った人もいた。そのとき、村上氏は自身への批判を受け、それらの情景を正論原理主義といった。パレスチナの人たちとの現実の接点をもたずに、パレスチナだ、ガザだ、人権だと漠然と騒いでいる、ごく普通のひとたち(私たち)の”寄り添い”は本当に軽いものだ。共犯という言葉も軽い。イスラエルに赴いて「高くて頑丈な壁と、それにぶつかって割れる卵の側では、私は常に卵の側に立つ」と現場で話をした村上春樹の言葉のほうがよっぽど覚悟が必要だ。それでも村上春樹を攻撃する様子をみて、俺はだんだん嫌気がさして、ブログからフェイドアウトしていった。
(追記2)なお歴史修正主義に関して、以下のブコメが目に留まった。
tick2tack ???/ 外付けの倫理の話なのに2行目で教養の話になってるのはなに。/ (歴史)修正主義という言葉は50年以上前からドイツ関係なく使われてる。
すまんが、ズレてるぞお前さん。こういうのってさ、ちょっとでもファクトチェックしてもらう手間を惜しまなければわかることなんだよ。ドイツで生まれた修正主義はその後、ソ連や中国などの共産主義社会で使われていった。イデオロギー的な対立が強い国では、ある視点や政策に「修正主義者」というレッテルを貼ることで、それを委縮させることを狙ったわけだ。
つまり信奉するイデオロギーから逸脱した奴を侮辱して叩く、こん棒として便利に使われるようになっていった、というのがお前さんのいう「50年以上前からドイツ関係なく使われてる」の実態だからな。それが90年代後半、新しい教科書問題以降、日本で使われ始め、00年代半ばには定着した、というのが俺の理解。完全にこん棒化した、っていうのが歴史修正主義の使われ方の変遷だ。「相手に対する敵意と侮蔑」そして「俺たちが正しい」以外なにも読み取れない用語になり果ててるわけ。そりゃwikipedia書き換え合戦になるわな。だから俺はこの用語が嫌いなんだよな。
(/追記2)
お前、そんなこともわからないのか、そんなことも知らないのか、といって得意げに歴史や知識を開陳する態度。
てめえだって大して現実味のないことに対して義憤を抱いてるにすぎないくせに、この尊大な態度。
サヨクに対する嫌悪感は、ここに尽きる。キャンセルカルチャーは、無力なサヨクが得意げに知識開陳して自己満足する場になってるんだよ。
言葉の軽さはどこからくるのか。ヒントになるのは、前述の内田樹の文章。
永井:それで言うと、私は本当に「人権」というものを外付けしたタイプだと思います。大学1、2年の頃、大学で平和学の授業を取ってたりしたのですが、そのときに、何が幸福なのか、他人が何を考えているのかなんてわからないと思ったんです。そして陳腐ですが、みんな正義も正しさも違うよねともやはり思いました。
じゃあ何を拠り所にしたらいいのだろうと考えた結果、「そうかそうか、人権というものがあるのか、みんな賛同してるし普遍性高いじゃん」となりました。普遍性が高いなら、「人権が著しく侵害されているのであれば、これは問題だ!」と堂々とみんなに言うことができる。そうして私は良くも悪くも人権というか権利しか見ない人になっていったわけですが、それは本当に「外付け」だったと思います。
「これは問題だ!」と深く自分のこととして考えもせずに簡単にいえてしまう、ここにこそ問題がある。
そういう義憤の正体って何だろう。
最近、朝日新聞の人生相談に回答した野沢直子に対して、それを朝日新聞記者のコメントともに、冷笑と受け取って批判している記事があった。
[B! 報道] 読者を小馬鹿にする記者の態度にビックリ…野沢直子(61)の「悩み相談」騒動に見る“朝日新聞の冷笑主義” | 文春オンライン
https://digital.asahi.com/articles/ASS5K30WGS5KUCVL02MM.html?ptoken=01J0FYBDAZQF5YH5MPNMCJH3QA
「不正義や理不尽な行動を伝える新聞報道を見るたび、怒りに燃えて困っています」とかいう50代の男性の相談。
私個人は、野沢直子の回答の感覚に近い(あ、俺はトランプ支持者じゃないけれどね)。現地に行ってみろと。行けば当事者意識を持てるから。
これは冷笑でもなんでもない。正直、野沢直子の回答を冷笑と捉える文春の批判のほうが今の時代の病を表現していると思った。
新聞で得た世界の出来事をいかに正義の言葉で嘆いても、その切実さは現場の人の感覚とは何も通じ合っていないかもしれない。
かつて、北アフリカのスーダンで、ダルフール紛争と呼ばれる、政府系の集団による虐殺が国際問題となったことがある。
日本のブロガーも反応し、かつてFinalvent氏がこの知名度の低いこの問題を何度も取り上げ、意識を高めようとするべく、記事をお書きになられていた。
最初は、自分の啓発もかねて弁当氏の言説に注目していたのだが、しかし、その後、私自身が北アフリカ地域に仕事上関与するようになってから、スーダン人とも仕事をしたし数多く知り合いになった。自分なりに関心をもって現地で情報を集めてみると、国際的に展開されているセーブ・ダルフール・キャンペーンは次第に異なる運動に映じるようになっていった。
それは当時のバシール大統領の断罪をはじめ、現地武装性組織の悪業を過剰に喧伝する国際NGO特にアメリカのNGOのキャンペーンのやり方に対する違和感だった。紛争の実態はもう終わっているにも関わらず紛争が継続しているかのような言説が多く、過剰かつ単純な演出によって集められた資金は、NGOの広告費に回っているという話まで聞いた。
正しい、とみんなに思い込まされていることでも、プロパガンダが功を奏しているだけかもしれないということだ。
弁当氏がその後、一貫してスーダンに注目していたかどうかは知らないが、やがて同氏の記事の傾向が変わり、国際問題にはほとんど言及されなくなっていった。
今、現在、スーダンの置かれている状況はというと、2023年に始まった国軍と準軍事組織「迅速支援部隊(RSF)」による内戦により、ダルフール紛争の比ではない、深刻な国内避難民が発生している。2023年末時点で国内避難民が905万2822人。これはスーダン人口の2割に相当。2003年の世界最悪レベルの人道危機と言われたダルフール紛争のときですら国内避難民は100~200万人というオーダーだったので、それをはるかにしのぐ難民が発生している今の状況がいかに危機的かがわかる。
しかし、俺は思う。当時、弁当氏のスーダン記事を読み、義憤を抱いた人の何割くらいが、現在進行形の危機を憂いているだろうかと。エジプトとトルコはスーダン国軍支援、アラブ首長国連邦はRSF支援、このように中東の中堅国らは、自分たちに好意的な顧客を武装させながらも、和平を口にする、いわば代理戦争の様相を呈している。
ただ、一方で、外付けの教養には意味がない、とは思わない。しかし、植民地主義の歴史を知るとか、外付けの倫理をいかに理解しているかという意味ではない。
普遍的な価値として、人権を外付け実装してきた日本人である自分自身がいかに受容してきたのか、それを踏まえて自分の生きる社会をどうしたいのかを知ること。
そのルールや規範の成り立ちといった背景をもう少し知る必要があると思っている。
表現の自由ひとつとってもそう。表現の自由って大切じゃないか?と少しでも思ったら、それを所与の普遍的価値だから、と思考停止しないでよくよく考えてもらいたい。
なぜアメリカの判事は歴史的な判決のなかで、空気が濁っているほうが社会は健全だといったのか。なぜフランスでは神を冒涜することが権利なのか。
なぜドイツではホロコーストの否定は表現の自由に当たらないのか。日本は公共の福祉の解釈としてそれらをどのように受容したのか。表現の自由が失われると何が恐ろしいのか、それはそれぞれの社会の文脈がある。少なくとも自分の社会ではそれは何なのか、それを知ること、それこそが教養というものだと思っているし、理性的な共感というものだと思う。
少なくとも俺が思うに、日本社会においては、冒頭のケシカラニズムが政府にとって都合よく操れる心情だろう。
表現の自由が失われることによって立ち現れる社会では、こういう感情的正義がますます膨れ上がるだろう。
表現の自由が失われることによって立ち現れる社会は、「これが正義だ!」とみせられるとすぐに無教養な人々を煽り立てることでき、簡単なプロパガンダで誘導することのできる、政府にとって都合の良い社会ということになろうかね。
MV叩いて知識開陳してマウントとってるサヨクもそれで満足ですかね。まあそういう奴はそういう時代がくれば、アカ狩りで共産党員と不倫していたことをネタに糾弾しているかもしれないし、体制寄りになってるかもしれないけどね。本格的な右派政党が台頭したらそいつらを味方につけるだろう。不謹慎厨の本質は正義の中身を大して気にしてないことだ。日本中が沖縄を踏みつけにしても気にしないが、よその国の自分とさして関わりのない先住民のことは気に掛けるふりができる。
世界中、世の中でいろいろと深刻で理不尽なことが起きているなか、そういう諸々には無関心で当事者意識もないくせに、「教養ある人」が突然ポリコレし始め、他愛もないMVの植民地主義的な傾向にかみついて、そうだそうだとみんなして一斉に同調した結果、MVの発表取り下げに至る、という構図は学級会のつるし上げそのものだ。
サヨクは知識マウントできて満足だし、日ごろのストレス発散になったことだろう。
朝日新聞に人生相談をした「不正義や理不尽な行動を伝える新聞報道を見るたび、怒りに燃えて困っています」という50代の男性も、MVをぼこぼこに叩いて満足するくちかもしれない。新聞を読んで中途半端なポリコレ意識をもてあましている、という輩に対する処方箋としては、野沢直子の回答はこれ以上ない的を射たものだと思った。
ゴジラ(1954)観た。
台詞は聞き取り辛いし、ゴジラもかっこよくないし、ミニチュア感丸出しで映像的にはしんどめだだった。
水爆が呼び寄せた(というのは作中でも推測の範疇であって、真実は分からないけど……)ゴジラをまた別の大量破壊兵器で始末するという悪循環。
目先の被害を防ぐためにオキシジェンデストロイヤーを衆目に晒して良いものか。目先といっても死んだ人にはそれが全てだし、ゴジラがいつまで暴れるのかも分からない。
研究室に籠もってる博士と違ってその目で恐ろしさを目撃した尾形達は大衆の代弁者なのかもしれないけど、兵器利用に関して強い覚悟を持つ彼にオキシジェンデストロイヤーの使用を迫るのは死ねと言ってるのと同義。芹沢博士がゴジラと設計図を自分もろとも葬るのも、美しい犠牲と呼ぶにはグロテスクな解決。
とか思ってたら直後に報道者がオキシジェンデストロイヤーの名を口にしていてズッコケそうになった。
そういうものを作ろうと思えば作れる、というのも知られたら困るだろ……
実は応用の範囲も狭くて、水中かつ生身相手限定の道具だしまあそこまで……って事だとしても、じゃあ自分を犠牲にまでした芹沢博士がバカみたいじゃないですか……
あなたのお父さんが世間話をするために会社までやって来て困っている。仕事中に何回も電話をしてくる。でも、折り返し電話をしても出てくれない。
アラフィフの従姉妹は彼女の父の会社を継いでおり、会社の中ではいわゆる偉い人。
父に話をきくと、彼女は技術系の専門知識も無いから大した仕事してない。隅っこに座ってニコニコしてるだけだから暇だろ。遊びにいってやってるんだ!と。
私が大学で研究室に配属された時、あんなに喜んでくれていた父が……働く女性を見下す言動をとっているのを見て涙目になってしまった。
娘の私がメンタルやられて大学中退して、パートで食いつないでる状況になってしまったから『女なんて役に立たない』って考えになってしまったんだろうな
https://news.tv-asahi.co.jp/news_economy/articles/000352769.html
とりあえず、先生の名前と研究室でしらべたところ、東北大学の寄付講座とのこと。
寄付講座は企業や団体などがお金を出すから、大学の施設と名前を貸してねという講座。
そこの業績の欄に、歯科の商業雑誌への論文があり、手元にあったので、読んでみた。
装置の概要は、歯石を取るときに使う、超音波スケーラー(ピーッという音がして、金属で歯石を割りながら剥がす機械)の改良版。
論文には出てくる光の殺菌作用()と、特別な害がないこと(これは重要)が書いてあった。
結論として、これで歯周病が治るわけではない。あくまでも、歯石や歯垢をを取りながら、光で薬品を活性化させて殺菌をする装置。これまでも、水ではなく薬品を出しながら歯石歯垢を取る機器は多数あるので、それの類と考えて良い。
光はあくまでも補助的な部分と思われるので、その光と薬品に害がなければ、医療機器の認証が出るのも納得できる。(歯石、歯垢をとることは歯周病治療にとても有効。)
光で殺菌という考えも新しいわけではないが、効果が限定的なのもわかっている。バイオフィルムという細菌が作る塊の性状がその理由だが、簡単に書くと、うんこの内部を光と振動で殺菌することはできないということと同じだ。
口腔内では最近の餌と必要な温度と湿度は常に与えられるので、住みやすい環境(深い歯周ポケット、歯石、歯根の形態)があれば、少し残った細菌がすぐに増えて、元のようになる。
だから、この治療が普及すれば、歯周病から解放されるとか、そういうモノではなさそう。でも、マユツバな治療機器ではないから、少しでも治療が進歩するといいと思う。
高校は文芸部で、大学は理系だけど研究室が論文の誤字脱字に厳しいところだったので、まともな教育を受けた人間は校正に厳しいのが当たり前だと思ってる。
旧ツイッターなどは書いたら訂正できないシステムなので、ギリギリまで一文字一文字を見直すけど、それでもミスったら仕方ないと諦めていた。
だけど、増田みたいに何度でも訂正できるところで、「てにをは」レベルの、少し読みなおせば違和感を持つようなところをいくつも間違えたまま放置している奴は、それだけでバカに見えるし、いい加減でやる気がないのが伝わってくるからそもそも読もうとも思わない。
たまに仕事でもそのレベルの文書を恥ずかしげもなく出してくる奴がいると、ヤバいのに当たったなという気持ちで混乱する。
日本の(特に理系の)教育はまったく文章を書かせないので、官公庁クラスの書類でもこんなのありかと思うような酷いものが存在する。
自分はたまたま論文力を鍛えてくれる研究室で「どこまで細かくなるべきか」を身体で覚えさせて貰ったけど、日本の技術者は計算や図面が完璧でも、ドキュメントの日本語になると「てにをは」はおろか酷い誤変換やタイポを放置しまくるような人もいて、こんなことやってると信用を失くすぞと心配になってくる。
文章の粗さは知識の抜けや態度の不安定さと同じくらい他人の信用を損なう問題だということを、少なくとも自分がちゃんとした教育を受けたと証明したいならもうちょっと意識した方が良いよという話。
(※ちなみにこの文章だと、読みなおして「馬鹿」と「バカ」の表記の揺らぎが気になるくらいの躾け方をされた。今回はあえて気づいた上で放置しておくけど。)
これらすべての重要な変動要因になりうるものがあります。つまり、より多くのスクレイピング・データでより大きな言語モデルをプリ・トレーニングするという素朴なアプローチが、まもなく深刻なボトルネックにぶつかり始める可能性があるということだ。
フロンティア・モデルはすでにインターネットの多くで訓練されている。例えば、Llama 3は15T以上のトークンで学習された。LLMのトレーニングに使用されたインターネットの多くのダンプであるCommon Crawlは、生で100Tトークンを超えるが、その多くはスパムや重複である(例えば、比較的単純な重複排除は30Tトークンにつながり、Llama 3はすでに基本的にすべてのデータを使用していることになる)。さらに、コードのようなより特殊な領域では、トークンの数はまだまだ少ない。例えば、公開されているgithubのリポジトリは、数兆トークンと推定されている。
データを繰り返すことである程度遠くまで行くことができるが、これに関する学術的な研究は、16エポック(16回の繰り返し)の後、リターンは非常に速く減少し、ゼロになることを発見し、繰り返しはそこまでしか得られないことを示唆している。ある時点で、より多くの(効果的な)計算を行ったとしても、データ制約のためにモデルをより良いものにすることは非常に難しくなる。私たちは、言語モデリング-プレトレーニング-パラダイムの波に乗って、スケーリングカーブに乗ってきた。大規模な投資にもかかわらず、私たちは停滞してしまうだろう。すべての研究室が、新しいアルゴリズムの改善や、これを回避するためのアプローチに大規模な研究の賭けに出ていると噂されている。研究者たちは、合成データからセルフプレー、RLアプローチまで、多くの戦略を試していると言われている。業界関係者は非常に強気のようだ:ダリオ・アモデイ(Anthropic社CEO)は最近、ポッドキャストでこう語った:「非常に素朴に考えれば、我々はデータ不足からそれほど遠くない[...]私の推測では、これが障害になることはない[...]。もちろん、これに関するいかなる研究結果も独占的なものであり、最近は公表されていない。
インサイダーが強気であることに加え、サンプル効率をはるかに向上させたモデルをトレーニングする方法(限られたデータからより多くのことを学べるようにするアルゴリズムの改良)を見つけることが可能であるはずだという強い直感的な理由があると思う。あなたや私が、本当に密度の濃い数学の教科書からどのように学ぶかを考えてみてほしい:
モデルをトレーニングする昔の技術は単純で素朴なものだったが、それでうまくいっていた。今、それがより大きな制約となる可能性があるため、すべての研究室が数十億ドルと最も賢い頭脳を投入して、それを解読することを期待すべきだろう。ディープラーニングの一般的なパターンは、細部を正しく理解するためには多くの努力(そして多くの失敗プロジェクト)が必要だが、最終的には明白でシンプルなものが機能するというものだ。過去10年間、ディープラーニングがあらゆる壁をぶち破ってきたことを考えると、ここでも同じようなことが起こるだろう。
さらに、合成データのようなアルゴリズムの賭けの1つを解くことで、モデルを劇的に改善できる可能性もある。直感的なポンプを紹介しよう。Llama 3のような現在のフロンティアモデルは、インターネット上でトレーニングされている。多くのLLMは、本当に質の高いデータ(例えば、難しい科学的問題に取り組む人々の推論チェーン)ではなく、このようながらくたにトレーニング計算の大半を費やしている。もしGPT-4レベルの計算を、完全に極めて質の高いデータに費やすことができたらと想像してみてほしい。
AlphaGo(囲碁で世界チャンピオンを破った最初のAIシステム)を振り返ることは、それが可能だと考えられる何十年も前に、ここでも役に立つ。
LLMのステップ2に相当するものを開発することは、データの壁を乗り越えるための重要な研究課題である(さらに言えば、最終的には人間レベルの知能を超える鍵となるだろう)。
以上のことから、データの制約は、今後数年間のAIの進歩を予測する際に、どちらに転んでも大きな誤差をもたらすと考えられる。LLMはまだインターネットと同じくらい大きな存在かもしれないが、本当にクレイジーなAGIには到達できないだろう)。しかし、私は、研究所がそれを解読し、そうすることでスケーリングカーブが維持されるだけでなく、モデルの能力が飛躍的に向上する可能性があると推測するのは妥当だと思う。
余談だが、このことは、今後数年間は現在よりも研究室間のばらつきが大きくなることを意味する。最近まで、最先端の技術は公表されていたため、基本的に誰もが同じことをやっていた。(レシピが公開されていたため、新参者やオープンソースのプロジェクトはフロンティアと容易に競合できた)。現在では、主要なアルゴリズムのアイデアはますます専有されつつある。今はフロンティアにいるように見えるラボでも、他のラボがブレークスルーを起こして先を急ぐ間に、データの壁にはまってしまうかもしれない。そして、オープンソースは競争するのがより難しくなるだろう。それは確かに物事を面白くするだろう。(そして、ある研究室がそれを解明すれば、そのブレークスルーはAGIへの鍵となり、超知能への鍵となる。)
続き I.GPT-4からAGIへ:OOMを数える(7) https://anond.hatelabo.jp/20240605210017
コンピュートへの大規模な投資が注目される一方で、アルゴリズムの進歩も同様に重要な進歩の原動力であると思われる(そして、これまで劇的に過小評価されてきた)。
アルゴリズムの進歩がどれほど大きな意味を持つかを理解するために、MATHベンチマーク(高校生の競技用数学)において、わずか2年間で~50%の精度を達成するために必要な価格が下がったことを示す次の図を考えてみてください。(比較のために、数学が特に好きではないコンピュータサイエンスの博士課程の学生が40%のスコアを出したので、これはすでにかなり良いことです)。推論効率は2年足らずで3OOMs-1,000倍近く向上した。
https://situational-awareness.ai/wp-content/uploads/2024/06/math_inference_cost-1024x819.png
これは推論効率だけの数字だが(公開データから推論するのが難しいトレーニング効率の向上と一致するかどうかはわからない)、アルゴリズムの進歩は非常に大きく、また実際に起こっている。
この記事では、アルゴリズムの進歩を2種類に分けて説明します。まず、「パラダイム内」でのアルゴリズムの改良を取り上げることにしま す。例えば、より優れたアルゴリズムによって、同じパフォーマンスを達成しながら、トレーニングの計算量を10倍減らすことができるかもしれません。その結果、有効計算量は10倍(1OOM)になります。(後ほど「アンホブリング」を取り上げますが、これはベースモデルの能力を解き放つ「パラダイム拡張/アプリケーション拡張」的なアルゴリズムの進歩と考えることができます)。
一歩下がって長期的な傾向を見ると、私たちはかなり一貫した割合で新しいアルゴリズムの改良を発見しているようです。しかし、長期的なトレンドラインは予測可能であり、グラフ上の直線である。トレンドラインを信じよう。
アルゴリズム研究がほとんど公開されており、10年前にさかのぼるデータがある)ImageNetでは、2012年から2021年までの9年間で、計算効率が一貫して約0.5OOM/年向上しています。
アルゴリズムの進歩を測定することができます。同じ性能のモデルを訓練するために必要な計算量は、2012年と比較して2021年にはどれくらい少なくなっているのでしょうか?その結果、アルゴリズムの効率は年間0.5 OOMs/年程度向上していることがわかります。出典Erdil and Besiroglu 2022.
これは非常に大きなことです。つまり、4年後には、~100倍少ない計算量で同じ性能を達成できるということです(同時に、同じ計算量ではるかに高い性能も達成できます!)。
残念ながら、研究室はこれに関する内部データを公表していないため、過去4年間のフロンティアLLMのアルゴリズムの進歩を測定することは難しい。EpochAIは、言語モデリングに関するImageNetの結果を再現した新しい研究を行っており、2012年から2023年までのLLMのアルゴリズム効率のトレンドは、同様に~0.5OOM/年であると推定しています。(しかし、これはエラーバーが広く、また、主要なラボがアルゴリズム効率の公表を停止しているため、最近の上昇を捕捉していません)。
https://situational-awareness.ai/wp-content/uploads/2024/06/llm_efficiency_epoch-1-1024x711.png
Epoch AIによる言語モデリングにおけるアルゴリズム効率の推定。この試算によると、私たちは8年間で~4OOMの効率向上を達成したことになります。
より直接的に過去4年間を見ると、GPT-2からGPT-3は基本的に単純なスケールアップでした(論文によると)が、GPT-3以降、公に知られ、公に干渉可能な多くの利益がありました:
最近リリースされたGemini 1.5 Flashは、"GPT-3.75レベル "とGPT-4レベルの間の性能を提供する一方で、オリジナルのGPT-4よりも85倍/57倍(入力/出力)安い(驚異的な利益!)。
公開されている情報を総合すると、GPT-2からGPT-4へのジャンプには、1-2 OOMのアルゴリズム効率向上が含まれていたことになります。
https://situational-awareness.ai/wp-content/uploads/2024/06/stacked_compute_algos-1024x866.png
GPT-4に続く4年間はこの傾向が続くと予想され、2027年までに平均0.5OOMs/年の計算効率、つまりGPT-4と比較して~2OOMsの向上が見込まれます。計算効率の向上は、低空飛行の果実を摘み取るようになるにつれて難しくなる一方、新たなアルゴリズムの改良を見出すためのAIラボの資金と人材への投資は急速に増加しています。 (少なくとも、公開されている推論コストの効率化は、まったく減速していないようだ)。ハイエンドでは、より根本的な、トランスフォーマーのようなブレークスルーが起こり、さらに大きな利益が得られる可能性さえある。
これらをまとめると、2027年末までには(GPT-4と比較して)1~3OOMのアルゴリズム効率向上が期待できることになります。
続き I.GPT-4からAGIへ:OOMを数える(6) https://anond.hatelabo.jp/20240605205754
端的にいうと指導教官に不幸を願う言葉を投げかけられたことがある。
研究をしたくて大学へ進学した。しかし、研究室に所属している数年間で持病が悪化して以前のようにバリバリ実験をするどころか毎日登校することもできなくなった。詳しい経緯は靄がかかったように思い出すことができないけれど話の流れで、あなたが就職して普通に働いていたら(院では何も出来ていないから)ちょっとね、ということを面と向かって言われた。泣き言ばかりで結果を出さない私にイライラしていたのだろうけれど、どんな意図で当人である私に言ったのかが全く推測できない。他にも、持病について伝えてあるにも関わらずその症状が迷惑をかけていると言われたこともある。意図はやはり推測もできない。
今はどうにか卒業してなんとか社会人をしている。未来の不幸を呪われるという経験はそうそうないので放出させていただきたい。
追加