■

生成ＡＩ悪用、知識なしでもウイルス作成…容疑の男「楽に稼ごうと」

https://news.livedoor.com/article/detail/26489808/

米オープンＡＩが「チャットＧＰＴ」の無料公開を始めたのは２０２２年１１月末だ。男はこの時期にニュースを見て生成ＡＩに関心を持つようになり、以前から興味があったというランサムウェアの作成を思いついたと説明しているという。

悪用されたのは「チャットＧＰＴ」などの大手サービスではなく、作成者が不明な状態でインターネット上に公開されていた複数の対話型ＡＩだったとみられる。

新井氏によると、こうした自主規制に目をつけたサイバー犯罪者グループなどが、無制限で質問に回答する「悪の生成ＡＩ」を開発し、公開を始めた。米インディアナ大の論文によると、２３年２～９月、違法情報などをはき出す生成ＡＩが２１２確認されたという。

AI悪用の抑止力として公開処刑された例

そして生成AIが人間の創造性を刺激し強化した例でもある

今のAI使ってこんだけ実践できるなら、そこらへんで手に入る違法ツールを組み合わせて作る能力は持ち合わせているわけでな

この男はツールを探して集めて作るほどの好奇心はなかったが、複数の脱獄AIを探し対話を繰り返し作り上げることには力を注げた

Permalink | 記事への反応(1) | 10:25

ツイートシェア