■機械学習がクソな理由をMy Ad Centerから説明する

俺のMy Ad Centerの内容

• 年齢: 25-34 → 正解
• 言語: 日本語, 英語 → 正解
• 交際関係: In a relationship → 不正解
• 収入: 高い → 不正解
• 学歴: 情報が不足しています
• 会社: 情報が不足しています
• 雇用サイズ: 大企業 → 不正解
• Home ownership: 家主 → 不正解
• Parenting: Not parents → 正解

このように、差別する気満々のモデルが、低い正解率にとどまるのは社会的に問題だろう

これらの予測に基づいて、検索や広告などの情報が制御されていると思うと、機械学習を用いて人間を差別していく社会はすでに現実になっている

企業がやるならまだしも、政府がやりそうな点も厄介

まあ、政府だったら予測とかじゃなく、強制的に個人情報を取得できるから、差別はむしろたちが悪くなる可能性があるが

と考えると、差別の問題は予測能力ではなく、人間の属性を用いて異なる情報やサービスを与えること自体であると言える

こんなことをやってる企業がエリートを気取っているから笑止千万

Permalink | 記事への反応(0) | 09:34

ツイートシェア