  |
はてなキーワード: 連鎖とは
https://arxiv.org/pdf/2305.00833.pdf
Learning to Reason and Memorize with Self-Notes
大規模な言語モデルは、限られたコンテキスト メモリと多段階の推論に苦労することが示されています。
モデルが自己メモを取ることを可能にすることにより、これらの問題の両方を解決するための簡単な方法を提案します。
最近のスクラッチパッド アプローチとは異なり、モデルはいつでも入力コンテキストから逸脱して明示的に考えることができます。
これにより、モデルはコンテキストを読み取りながら情報を想起し、オンザフライで推論を実行できるため、メモリが拡張され、複数ステップの推論が可能になります。
複数のタスクに関する私たちの実験は、推論時に自己メモを取ることにより、トレーニング設定からより長く複雑なインスタンスに私たちの方法がうまく一般化できることを示しています.
1. イントロダクション
Transformers (Vaswani et al., 2017) および同様のバリアントは、シーケンスベースのタスクで印象的な結果を示しています
特に、GPT-3 (Brown et al., 2020) などの大規模な言語モデル (LM) はトランスフォーマーを使用し、質問応答 (QA) などのさまざまな NLP タスクを解決できます。
LM を QA タスクに使用すると、図 1 (上) に示すように、事実情報と質問を含むコンテキスト プロンプトが与えられ、モデルが直接回答を生成します。 ただし、この自己回帰の「ワンステップ」アプローチは、複数ステップの推論タスクと格闘します (Austin et al., 2021; Press et al., 2022a; Creswell et al., 2023)。 これは、バニラ LM が各トークンに対して固定された計算を行い、現在のコンテキストに応じてさらに「考える」オプションがないという事実から生じると主張します。 (2021) 図 1 (中央) に示すように、モデルが質問に答える前に推論トークンを生成できるようにするスクラッチパッドの使用を提案しましたが、完全なコンテキストと質問を読み取った後です。 同様に、一連の思考を促す方法 (Wei et al., 2022; Zelikman*Equal Contributor 1Meta AI. への対応: JackLanchantin <jacklanchantin@meta.com>, Sainbayar Sukhbaatar<sainbar@meta.com>.et al., 2022; Huang et al., 2022) は、モデルをプッシュして、一度に 1 ステップずつ答えを説明し、より首尾一貫した最終的な答えに導きます。 非線形タスク (Fan et al., 2020)、LSTM (Hochreiter and Schmidhuber, 1997) などの再帰型先行モデルが十分に備えられているもの。 Fan et al., 2020; Ju et al., 2022; Hutchins et al., 2022)、しかし、それでも与えられたプロンプトに対して一定量の計算を使用します。 推論と状態追跡メモリがより扱いやすくなります。 私たちの方法である「Self-Notes」により、LM はオンザフライでコンテキスト プロンプトから逸脱し、明示的な推論トークンを生成できます。 図 1 (下) に示すように、スクラッチパッドとは異なり、モデルは生成されたトークンを入力コンテキストとインターリーブできます。 このようなセルフ ノートは、明示的な中間推論ステップと状態追跡用のメモリの両方として機能します。 具体的には、推論ステップで 2 つの事実を組み合わせる必要がある場合、結果として得られる推論をセルフ ノートに書き込んで、将来の推論に使用することができます。したがって、中間推論ステップとして機能します。 たとえば、「アリスは箱を持っています」と「アリスは公園にいます」が与えられた場合、「箱は公園にある」と推測してそれを自己メモに書き、将来のステートメント「鍵は in the box」で「鍵は公園にある」と結論付ける。 さらに、コンテキストをトラバースしながらモデルがエンティティの最新の状態を新しいトークンとして書き込むことができるため、SelfNote はワーキング メモリの形式として機能できます。 たとえば、プログラミング環境では、最初に x=5 を想定し、次に x を 1 ずつ増やします。モデルが x=6 をセルフ ノートとして正しく記述していると仮定すると、元の x=5 ステートメントをそのコンテキストから安全に削除できます。 モデルが x の値について問い合わせられた場合、モデルは既に答えを持っています。
私たちの提案した方法と、スクラッチパッド (Nye et al., 2021)、思考の連鎖 (Wei et al., 2022)、または内部独白 (Huang et al., 2022) などの以前の研究との主な違いは、モデルを許可することです。 各コンテキストステートメントを順番に読み取るときに、複数のメモを明示的に書き出す。 InarXiv:2305.00833v1 [cs.LG] 2023 年 5 月 1 日図 1: (上) ベースライン バニラ LM は、コンテキスト (C) と質問 (Q) が与えられると、回答 (A) を直接生成します。 (中央)スクラッチパッドを使用すると、モデルは質問に答える前に中間推論トークンを生成できますが、コンテキストが表示された後です。 (下) 私たちの Self-Notes メソッドにより、モデルはいつでも推論してメモを取るために入力コンテキストから逸脱することができます。言い換えれば、私たちのアプローチは、将来の推論に役立つ可能性のある情報でコンテキストを補強するスクラッチパッドのインライン形式です。 私たちはこれを、人間が読む方法と同様に、明示的に述べられていない情報を推測するための行間の読み取り (および書き込み) の形式と見なします (van den Broek et al., 2009)。 以前の方法では、モデルが完全なコンテキストを読み取った後に反芻することができ、読み取っている間ではなく、最後に大量の推論を行うように強制されます。
さらに、そのようなポストコンテキスト推論は、推論が開始される前に以前のコンテキストトークンがモデルのコンテキストウィンドウからすでに出ている可能性があるため、メモリとして機能できません。 たとえば、数週間または数か月の対話履歴を持つインテリジェント エージェントを考えてみましょう。 直観的には、最初から考え直すことなく、以前の対話で行った推論ステップを使用できることは理にかなっています。自己メモを生成するようにモデルに教えるために、トレーニング中に、入力の一部としてグラウンド トゥルース自己メモを言語モデルに提供することを検討します。 コンテクスト。 推論中に、トレーニング中に学習した特別なトークンを生成する場合、モデルはコンテキストから逸脱し、SelfNote を生成できます。モデルが Self-Note の生成を完了すると、元のコンテキスト トークンが引き続き供給されます。 これにより、モデルは最後だけでなく、入力トークンの処理中にメモリを推論および作成できます。 また、Self-Notes をトレーニングするための半教師ありおよび教師なしの方法も提案します。多段階の推論と状態追跡を評価するように設計された 5 つのテキスト データセットでこの方法をテストします。 , 2020; Anil et al., 2022)、および 2 つの現実世界のチェス ゲーム タスク (Toshniwal et al., 2022)。 私たちの方法は、明示的なメモ取りを行わない微調整された言語モデルとスクラッチパッドのベースラインの両方よりも優れています.2. 方法シーケンス内の次のトークンを予測する自己回帰変換モデル M を考えてみましょう
元増田の文章を読む限り、元増田は妹への虐待を野放しにしていたようにしか見えないから、
正義面して偉そうなことを言っても妹は「どの面下げてそういうことを言っているんだ？！」って思うと思う。
妹がいないという状況でその件についてどうしても何か話したいとしたら、元増田が妹に謝罪したいと思うという話をするだけだろうな。
他の家族がどうするかは他の家族次第だし、傍観者であった元増田が偉そうなことを言える立場ではないと思う。
ちなみに、兄弟間の性虐待事案はそう珍しいことではないと思うし、
性被害の場合、被害者が転じて加害者になることも多々あるので、兄を断罪して終わりってわけじゃないと思う。
実は子供同士のグループに性被害を受けた児童がいると性被害が連鎖するから、
性教育を適切に行って連鎖を起こさないようにするのが大事という話もあるんだな。
姪のことを気にするなら、物騒な事件もいろいろとあるのでと、CAP的な知識を子供に持たせることの重要性を語るくらいだろうな。
核分裂と核融合は、原子核が変換されることでエネルギーを生み出す反応ですが、その違いは何でしょうか？
核分裂は、質量数が大きい原子核が中性子に衝突されて二つ以上の小さな原子核に分裂する反応です。このとき、大量の中性子や放射線が放出されます。
これらの中性子や放射線は、周囲の物質に損傷を与えたり、放射性物質を生成したりします。
また、核分裂反応は連鎖的に起こるので、制御が難しく、暴走した場合には大きな爆発やメルトダウンを引き起こす危険性があります 。
一方、核融合は、質量数が小さい原子核が高温高圧の状態で衝突して一つの大きな原子核に融合する反応です。
これらの中性子やヘリウムは、核分裂反応に比べて放射性物質を生成する量が少なく、周囲の物質に与える影響も小さいです。
また、核融合反応は非常に高い条件を必要とするので、自然に止まる性質があります。
以上のように、核分裂と核融合は、原子核の変換時に放出されるエネルギーや粒子の種類や量が異なります。
「悪循環」という単語は循環と無関係な場合でも使われることが多い。
循環するところまで説明しないのであれば「負の連鎖」とでも呼ぶべきだが、「負の連鎖」というフレーズが思いつかないと、循環してもいないのに「悪循環」と言ってしまう。
数日前、Twitterでスープストックが新たに打ち出した施策に対する大きな反響があった。
内容を要約すると「独身女の安らぎの場というコンセプトを投げ捨て子持ち主婦にターゲットを変え収益体系を見直した」というものだが、詳しくはこちらを見てほしい。https://www.soup-stock-tokyo.com/story/sst.babyfood202107/
それに対して独身子なし女が「無銭乞食主婦共に安息の地を奪われる」だの「赤子とかいう爆音泣き騒音汚染テロリストに店を占拠されたくない」だの「回転率が下がるからやめろ（なお本人は長居する）」だのまぁ世のお母様方とお子様に対して非難轟々。極めつけには「わざわざ"ライフステージが変わったお客様へ"って書くことはそれを変えないことを敢えて選んだ私たちは客じゃねぇのか」などとファビョる始末。
そもそも運営側が0歳から100歳までご利用いただける場所つってんのに独身喪女がメインターゲットだと思い込むのが傲慢だと思わんかね。働いてようが彼氏はいようが趣味に生きてようがそんな考えしてる時点でてめぇ1ミリも偉くねぇから。
そんなんだから膣無事無惨様とか子供部屋未使用おばさんとかクロワッサン症候群患者とか言われんだよ。
所詮大衆向けチェーン店で独り身女の居場所があるとか思ってる方が間違ってる。あ、男にとっての吉野家や二郎系ラーメンは別な。男は永遠に独り身だろうが寄生しないと生きていけない非力なノミ虫女とは違って問題なく生きられるし誰かしら捕まえて種撒いとけば繁殖の義務は果たせるので。
そうだよ。人間がいくら文化的な動物だろうが価値観の多様化が進もうが腐っても生物なんだ。哺乳類という生き物である以上オスとメスで子を殖やして種を保存するのが使命なんだ。
なのにお前らみたいな態度だけでかい独身クソ女はなんなんだ？何が自由だ？何が仕事一筋のバリキャリだ？何が性の固定観念からの解放だ？笑わせるな。
生き物としての責任を果たさずに羊水腐らせてるような老婆なんかより適齢期にしっかり子供産んで育ててる女の方がよっぽど偉いに決まってんだろ。
店側だって、生き物として正しい生き方をしてる客の方を優先するに決まってる。お前らみたいに歪んだ自由を謳歌してる奴なんか結局少数派で取るに足らないんだよ。大多数の正しい方に照準合わせるのは当たり前だろうが社会のゴミカスが。ニッチな客層に媚びるよりもそっちの方が儲かるからな。
仕事してれば偉いとか思ってんじゃねぇぞドブ虫。
ここまで色々言ってきたが、私も結婚出産は絶対にしない選択をしている。
何故なら咄嗟に言葉がうまく喋れず自分の思い通りにならないと殴って無理やり言うことを聞かせるから。
何故なら子宮が人より小さくてうまく機能してないとのことだから。
何故なら結婚することによる不幸を味わうくらいなら一生一人でいたいから。
上記の問題点を抱えている時点で既に遺伝子ガチャには失敗してるんだから、早く淘汰されるべきだよね？
子ができないのには理由があるんだよ。劣等遺伝子を残されたところで、社会にはなんのメリットもない。
遺伝子が劣ってる人間が未婚子なしになるのは当然だし、そんな奴らにも人権が与えられるなんてことはあってはならない。
スープストックを安息の地とか言ってるような毒女は遺伝子ガチャでハズレを引いてるんだから、早く店から、社会から、この世から出ていけ。
生物の義務を果たさない劣等遺伝クソアマは、30までに見込みがなければとっとと殺してしまえばいいのに。
育てなくていい。ってかできないだろうそんな矮小な脳みそじゃ。
スープストックの無料離乳食ごときで、なぜこんなに大騒ぎするのだろうか？
子供が嫌いな独身女性は、別な店に行けば良い。子供のいる女性は、心置きなく無料離乳食を使えば良い。そんなに争う必要があるだろうか？どちらか一方に加担したり、貶めたりする必要があるのだろうか。
もしかしたら、我々が知らないところで、社会の分断はもっと深刻に進んでいるのかも知れない。手を取り合うことができないほどに、社会の亀裂は広がっているのかもしれない。
子あり女性/独身女性、高齢者/若者、資産家/労働者など、あらゆる分断がゆっくりと確実に進んでいるように思う。こういう話をすると、データ的にはどうこうと言われるので、ただのポエムとして聞いて欲しい。
分断が進むというのはつまり
限られたパイを奪い合っているが故に起きていることではないか。パイが余るほどあれば、争いも分断も起こり得ないはずだ。
食料が足りないから、食料を奪い合い戦争が起きる。十分にあれば、争いが起きないどころか、助け合うのではないか。「人は自分に迷惑がかからない程度に親切にしたいものだ」と夏目漱石が言ったように。
日本を覆う停滞感。いや停滞感ではない。停滞しているのだ。新しい産業も生まれず、経済成長もストップした。分け合うパイもない。いつしか限られたパイを奪い合うようになってしまった。
つまり、独身女性も子持ち女性も居場所がないのだ。限られた資源を奪い合っているだけなんだ。正確には全員が居場所がないんだ、居場所がない人がどんどん生まれてるんだ。そしてその人たちを無敵の人と括って、分断の連鎖はもっと深刻に深く深く進んでいく。そして分断を止める術なんて、誰も持ち合わせてないんだよ。
元総理が暗殺されたのは元総理を死んでも構わないほどの悪だと決めつけ悪魔化する論調を作り上げた者共だから取り除きましょうね！ってならないって確信してるわけだ
甘え切ってるとしか思えないな
もうなんでも受け止めてくれた巨悪パパは死んじゃったんだぞ
いつまで甘えているんだ
誰から見た「本当の原因」なのか制御できると思い込んでるんだな
飛行機事故の「本当の原因」みたいな科学技術的な、理系的真実じゃないんだぞこれは
https://anond.hatelabo.jp/20230417120220
私は山上徹也に同情する。つまり情状酌量の余地があると思っている。
『テロリストの主張に沿った物言いをすることがテロ容認だ』や『目的の正しさは手段を正当化しない』というコメントを目にしたが、山上のやったことが正しいことだとは思っていない。
手段は誤っており、殺人で、有罪である。しかし情状酌量の余地がある。この２つは両立する。
「同情する」という感情は私だけのものではなく普遍的に存在する。しかし社会の大きな枠組みとして存在するわけではなく、個人の意思に委ねられるので、消すのは難しい。というか無理である。
例として、ある会社で社員の不注意により事故が起こった。今後事故を起こさないようにするにはどうすればよいかを考える。「もっと注意する」は効果が薄い。人間のミスは無くせないから。根本的原因を解決するか、事故が起こっても大事に至らない方法を考えるのが正しい。
これと同じように「犯人に同情する」という消せないものを消すことに力を注ぐのは何かずれてるなという気がする。そんなことでこの負の連鎖は解決しない。
次に、『テロの背景を知るとか原因に対策するとかという議論がナンセンス。テロの主張にスポットを当てること自体が、次のテロの原因になる。テロを起こせば言い分を聞いてもらえる社会なら、テロがなくなる訳ない。』という意見。
「テロ」とは「政治的目的を達成するために殺害など苛酷な手段で、敵対する当事者さらには無関係な一般市民などを攻撃し、そこで生ずる心理的威圧や恐怖心を通して譲歩や抑圧などを図るもの」とされている。
無差別殺人テロであれば私だって「情状酌量の余地なし」と思うけど、山上は「安倍元総理の隣の人に当たらないくらいの距離まで近づいた」と言っている。正直なところその他の殺人事件被害者1人との量刑差を見いだせない。
今回のテロであれば敵対対象が明確な分恐れもない。知らないうちに国に巣くってるカルトの方が怖い。
一部ではあるが『いかなるテロも容認できない』と主張する方々の中には一方で『いかなる差別(実際には区別)も絶対的な悪だと決めつけてしまうと、自分は悪ではないので差別しない→自分がしているのは差別(区別)では全くないという誤った認識に陥ってしまう。ある程度の"区別"は社会に必要だよ。』なんてブコメしている人もいる。都合がいい物差しじゃないか。そして根拠薄弱の自覚があるのか自らの主張を「民主主義に対する脅威」として権威付けする。
個人ではなく国として「テロ犯の要求は聞かない」という方針はありだとは思うけど、だからって自民党議員の半数近くが教会と接点を持つような脅威とカルトを放っておくのはなしでしょ。結果的にそれが山上の主張に沿う形になったとしても対応すべきだよ。
何より山上からすると旧統一教会のせいで家族が崩壊した中で、国に頼ろうにも政権与党が「政治的な正しさや国民の苦しみよりカルトとの癒着による議席の確保が大事」だとしてきたわけで「ではこちらも正しさなど知ったことではない。」と山上に言われたら返す言葉ないじゃん。
これって「テロを起こせば言い分を聞いてもらえる社会」だからではなく「テロでも起こさないと言い分を聞いてもらえない社会」だったからだよね。（岸田首相襲撃の木村容疑者に関しては何も分かっていないため今判断しても的外れになるので書かない。）
お前ら全員男児のちんこペロペロしゃぶしゃぶしまくってた爺のこと尊敬してるんだよな？
Twitterでジャニーさんジャニーさん持て囃してるもんな？
あいつらの中では男児には性的虐待してもいいことになってんだからな
あーキモ
自分以外がみんな成功しているようにみえて、今更どう頑張っても無駄だろうなみたいな気持ちになるときがある。多分、綺麗な上澄みだけを見ているだけで、誰しも本人にとって辛いことがあったのだと思うけど。隣の芝生は青いの連鎖。
人と比べなければ、そこそこ幸せ。そしてその子が持っている幸せが欲しいわけではないしな。
でも学費を親が払ってくれてたり、家庭円満だったり、頑張りたい時にバックアップがある部分は羨まし過ぎる。自分にはないって毎回諦めて、その上で乗り越えようとしてきたけど、あるに越したことはない…その子が楽してるとか親ガチャ成功とかが言いたいわけではなく、スタートラインに経つまでの時間と労力の差が勿体無いなと悲しくなってしまうだけ。
本当にみんなよく頑張ってるね…
この増田の内容を見てそう思った。
あなたが買っている日本製、海外製含めた製品の多くは発展途上国の労働力を不当に搾取した結果完成したものだ。
そういった影響があって、人生がぐちゃぐちゃになってしまった結果、不幸の連鎖が続いている。
あなたたちは、直接発展途上国の人間を傷つけたわけじゃないのは分かるけど、先進国で暮らすこと自体が加害じゃない、俺は関係ないって思考を持つことはやめてほしい。
直接の加害者ではなくても、ただ生きてること自体が、そうした弱者を食い物にする社会システムへ加担しているという意識は持って欲しいと思う。
もちろん商品もそう。売ってるのが悪い、俺は買ってるだけだって人は多いと思うけど、相手のどのような人生を経てその仕事をしているのかの想像力を持って欲しい。その上で、そうした営為、経済サイクルに加担することが、間接的にあらゆる人間への加害になってることは意識してほしいと思う。
加害者なんだから反省しろ、とまでは言わない。本当は反省して欲しいけど。まずは、自分も加害者の一人なんだという意識を持つことから始めて欲しい。そして、こうした女性の人生について、俺はただのユーザーであって無関係なんだ、という考えは改めるようにして欲しい。
AIについては詳しくないが色んなメディアを通じてChatGPTが社会にもたらすだろうメリットやデメリットの話をよく見かけるようになり、あれだよあれ、ネトゲのツーラー使いの是々非々の議論と似ている。外部ツールの仕様は規約的にアウトだけど使ってないやつは完全にバカだろってあれよね。外部ツールに頼らなければまともにプレイできないから結局ツールの利用を完全に止められず時々BAN祭りが発生はするが今日に至り、利用を辞めさせたいなら外部ツールの仕様パクれよバカ運営クソだりーんだよ無能オブthe無能つかお前らも使ってんじゃん（憶測）みたいな古式ゆかしい伝統味溢れる阿鼻叫喚。その規約と快適感の駆け引きみたいなグレーな地獄の空気みたいなの、やっぱ凄い似てるわー、いやというかいろんな分野で似た揉め事が連鎖しそうきそうだわ。ネトゲだのソシャゲだのはしょせんゲームだからで済むけどもっとひどい摩擦も起きるとしたらめっさだるい…そういう法（慣習）と利便性追及の危険なラインダンスみたいな世界が今後は実社会でも世界規模で広がっていくのかという予感がひしひしとする。俺の予感さんちょっとネガティブすぎるだろ。もっと頑張れよ予感さん。とりあえずだいたいこの手のオチとしては「運営は死ね」で〆るのがお約束だろうから、ともすれば世間全般でもAIによる自動文章生成技術に関してはAI利用による先行利食い成功をキメていくデジタル廃人組が圧倒的なアドバンテージを乱獲しながら、プレイヤーもとい各国における国民間の二極化をさらに加速させる過程で運営会社や政府など管理側に対して非難が殺到しながらサイバー格差社会・第二章みたいな新イベントが開幕してしまったのかもしれない。せめてログイン勢にも優しい神イベントたらんことを、などとお祈り代わりに駄文を投げておく。
これ本気で思うで書いてんの？
やはり推し活って悪じゃん
お友達が出来ない人にとって "推し" は人権無視出来る "神聖な偶像"、
推しのおかげで『誰かとお話し出来る』『誰かとお出かけできる』
モンペムーブではなくて現実でマジで毒親だったり子を持ったら毒親になるのが推し活オタク
https://anond.hatelabo.jp/20200304103252
引きこもり男性のような、あからさまに態度がヤバくて入り口で拒否されるパターンではなく、
数か月した頃に「こいつ、うまく言えないけど、なんかイラつくな…」みたいになるから言語化・可視化しづらく厄介というか。
こういう子は、最初はみんな愛想よくしてくれたのに、数か月するとみんな冷たくなるという経験を何度も味わっている。
そのせいで、子供を欲しがるんだよね。子供は母親から逃げていかないから。
同世代からするとイラッとくるような人でも、子供はママしか頼れないし、ママ、ママとなつく。
女性の弱者は初対面で好意的に接してもらえた成功体験があるのか、男性よりも孤独への耐性がなくて我慢できないのか、
人懐っこい態度や、縋りつくような態度をとることが多い。（媚びや縋りつきと同時に不快な言動もある…）
モラルがある男女からは「居心地悪そうな苦笑い」と「そっと距離置き」、
モラルない女性からは「イジメ」、モラルない男性からは「ヤリ捨て」「孕ませ捨て」をされる。
そして「悲しい」という気持ちでいっぱいになってしまって、食べ物・アイドルやアニメなどの力で悲しみを乗り越えて……
……同じことを繰り返す。
おう、そうだな。でもその認識で子育てすると欧米なら親権停止だから気をつけような
まぁここは子どもの人権と児童福祉に敵対的なブクマカさんが大手を振るう日本だから
| 日本 | 米国 | 中国 | 韓国 | |
|---|---|---|---|---|
| 親(保護者)をとても尊敬している | 37.1% | 70.9%⭐️ | 59.7% | 44.6% |
| どんなことをしてでも自分で親の世話をしたい | 37.9% | 51.9% | 87.7%⭐️ | 57.2% |
| 親の経済的な支援をするが、世話は家族や他人に頼みたい | 21.3%⭐️ | 19.3% | 6.3% | 7.3% |
| 体の不自由な人、お年寄りなどの手助けをしたことがある | 53.5% | 78.7% | 78.8%⭐️ | 60.8% |
| 弱い者いじめやケンカをやめさせたり、注意したことがある | 27.2% | 63.2%⭐️ | 54.2% | 50.5% |
| 私は人並みの能力があると思う | 55.7% | 88.5% | 90.6%⭐️ | 67.8% |
| 自分はダメな人間だと思うことがある | 72.5%⭐️ | 45.1% | 56.4% | 35.2% |
