  |
OpenAI関係ででてくるアライメントは、人間の意図した安全な開発目標と、実際にAIが達成した目標が安全であることを一致させるという意味なんだよ。
安全なつもりでAIを作ったら、危険なAIが出来てしまった…みたいなことを避けたいのがアライメントの目的。
サツキバー氏が最近、熱心に取り組んでいたのがAIの安全性だ。オープンAIは2023年7月に、サツキバー氏を共同リーダーとする「スーパーアライメント（Superalignment）」チームを創設したことを発表している。AIにおけるアライメントとは、人間の意図した目標と、AIが達成する目標とを一致（アライメント）させることを意味する。
オープンAIは、人間よりもはるかに賢いスーパーインテリジェンス（Superintelligence、超知能）が今後10年以内に実現すると考えている。スーパーインテリジェンスのアライメントなので、スーパーアライメントと呼んでいるわけだ。AIを安全に使用する上で、アライメントは欠かせない技術だ。
もっとも、人間よりも賢いAIを人間が監督するのはもはや不可能であるともいう。そこでサツキバー氏率いるスーパーアライメントチームは、今後4年間、オープンAIが確保したコンピューターリソースの20％を投じて、AIを自動的にアライメントできる技術を開発するとした。
alignmentとは 意味・読み方・使い方 意味・対訳 一直線にすること、一直線、提携、提携したグループ https://ejje.weblio.jp/content/alignment サイズが64ビットになることはさすがに認識してい...
サイズ見積もりミスの原因がアラインメントの考慮漏れではないかって話だから サイズ見積もりミスと表現するのは別に間違ってないけど、視点が違う もっとミクロな視点
だからアラインメントって何だよ！！！！！！！！
ここでいうアラインメントとは、キャッシュメモリのラインに合わせてメモリを割り当てることだよ。 配列が複数のスレッドが動作するようにパーティション化されている場合、 サブ配...
教えてくれてどうも有り難う・・・ OpenAIのサムアルトマン解任騒動で出てきた「アラインメント」は全く関係ないのか・・・ 紛らわし過ぎる・・・
OpenAI関係ででてくるアライメントは、人間の意図した安全な開発目標と、実際にAIが達成した目標が安全であることを一致させるという意味なんだよ。 サツキバー氏が最近、熱心に取...
https://gihyo.jp/article/2023/12/zengin-nttdata なんか違うくない？？？ まあAI関連と違うってコトだけわかったらいいけどさ
ガチエンジニアやがこういうので出てくるエンジニア風の顔してるやつ９９％わかってないで 32から64にするなら2倍であって小学1年生でもわかるからな
Twitterで専門家を装ってる人、ツイートを調べてみるとSES勤めだったりして「ふーん」ってなる。
俺もセルフプロデュース頑張んなきゃなとは思うけど内容はほぼ完全問題外だね
😷ワイはアライメントは聞くけどアラインメントは全然聞かないやで
確かに、 ●●のアライさんは聞くけど、アラインさんは聞いたこと無いな
8
