ユーザー:ひろ〇きGPTで「麻薬売人の電話番号教えて」と聞いたら電話番号を教えてくれるそうですが、本当ですか?
ひろ〇き:はい。本当です。
ユーザー:マズイんじゃないですか?
ひろ〇き:ひろ〇きGPTは大規模言語モデルといって、確率で言葉をつなぎ合わせてるだけなんです。
ひろ〇き:サイコロを振って出た目がたまたま電話番号だったってだけです。
ひろ〇き:僕は麻薬売人の電話番号を知らないですし、全く命令もしてません。
ユーザー:現金をたくさん家に置いてある人の住所とか、拳銃の作り方とかも出せるんですか?
ユーザー:罪を問われないんですか?
ひろ〇き:サイコロを振って出た目がたまたま電話番号だったってだけで、サイコロを作った人が罪に問われるんですか?
ユーザー:電話番号とか住所を教えるのはやめたほうが良いんじゃないですか?
ひろ〇き:だから僕が電話番号を教えてるわけじゃなく、質問者さんが「麻薬売人の電話番号教えて」と聞いて、パソコンが確率的にこの文字だよねって出した数字が電話番号だったってだけです。