2023-12-02

anond:20231202144923

OpenAI関係ででてくるアライメントは、人間意図した安全な開発目標と、実際にAIが達成した目標安全であることを一致させるという意味なんだよ。

安全なつもりでAIを作ったら、危険AIが出来てしまった…みたいなことを避けたいのがアライメントの目的

サツキバー氏が最近、熱心に取り組んでいたのがAI安全性だ。オープンAI2023年7月に、サツキバー氏を共同リーダーとする「スーパーアライメント(Superalignment)」チームを創設したことを発表している。AIにおけるアライメントとは、人間意図した目標と、AIが達成する目標とを一致(アライメント)させることを意味する。

 オープンAIは、人間よりもはるかに賢いスーパーインテリジェンス(Superintelligence、超知能)が今後10年以内に実現すると考えている。スーパーインテリジェンスのアライメントなので、スーパーアライメントと呼んでいるわけだ。AI安全使用する上で、アライメントは欠かせない技術だ。

 もっとも、人間よりも賢いAI人間監督するのはもはや不可能であるともいう。そこでサツキバー氏率いるスーパーアライメントチームは、今後4年間、オープンAIが確保したコンピューターリソース20%を投じて、AI自動的にアライメントできる技術を開発するとした。

記事への反応 -
  • alignmentとは 意味・読み方・使い方 意味・対訳 一直線にすること、一直線、提携、提携したグループ https://ejje.weblio.jp/content/alignment サイズが64ビットになることはさすがに認識してい...

    • サイズ見積もりミスの原因がアラインメントの考慮漏れではないかって話だから サイズ見積もりミスと表現するのは別に間違ってないけど、視点が違う もっとミクロな視点

      • だからアラインメントって何だよ!!!!!!!!

        • ここでいうアラインメントとは、キャッシュメモリのラインに合わせてメモリを割り当てることだよ。 配列が複数のスレッドが動作するようにパーティション化されている場合、 サブ配...

          • 教えてくれてどうも有り難う・・・ OpenAIのサムアルトマン解任騒動で出てきた「アラインメント」は全く関係ないのか・・・ 紛らわし過ぎる・・・

            • OpenAI関係ででてくるアライメントは、人間の意図した安全な開発目標と、実際にAIが達成した目標が安全であることを一致させるという意味なんだよ。 サツキバー氏が最近、熱心に取...

          • https://gihyo.jp/article/2023/12/zengin-nttdata なんか違うくない??? まあAI関連と違うってコトだけわかったらいいけどさ

    • ガチエンジニアやがこういうので出てくるエンジニア風の顔してるやつ99%わかってないで 32から64にするなら2倍であって小学1年生でもわかるからな

      • Twitterで専門家を装ってる人、ツイートを調べてみるとSES勤めだったりして「ふーん」ってなる。

        • 俺もセルフプロデュース頑張んなきゃなとは思うけど内容はほぼ完全問題外だね

    • 😷ワイはアライメントは聞くけどアラインメントは全然聞かないやで

      • 確かに、 ●●のアライさんは聞くけど、アラインさんは聞いたこと無いな

記事への反応(ブックマークコメント)

ログイン ユーザー登録
ようこそ ゲスト さん