2018-10-12

やっとはてなーAIに疑問を持ってくれたよ

AmazonAI人材採用システム女性差別的だったというニュースを見て、ようやく。

http://b.hatena.ne.jp/entry/s/jp.reuters.com/article/idJPKCN1ML0DN

私のイメージでははてな村民AIに対する認識というのは、

AIすげえ。超すげえ。

AIこそが社会を救う。

AI活用こそが最もイケてる

AI理解しない奴は老害。滅べ。

AI仕事を奪うかもしれんがその分BIが捗る

・俺もAI勉強して勝ち組に勝つる!AI王に俺はなる!!ドン

・でもAI勉強難しくてよくわからいかいつかきっとやる(やるとは言ってない)

というような感じで、当然はてなーにもいろいろいるが、基本AIは称賛メインだったと言っても主語はさほどデカくはなかろう。

とにかくAIに対して楽観的で無邪気で、AIさえ発展すれば将来バラ色くらいの単純な発想の人が多くて見ててハラハラしてた。

ところが、AIが思ったような結果を出さないどころか、自分たちにとって不愉快挙動を示すこともあるという現実にぶち当たったようだ。

しかもその気づきを得るきっかけがポリティカル・コレクトネスだったというところでいかにもはてなーっぽいなと苦笑した。

データ差別的」って言葉、なかなかはてな的でいいわー。

これを機に、もっとAIに対する疑問をはてなーは持った方がいいよ。

AIの仕組み自体人間能力を遥かに超えたものかもしれないし、それによって社会利便性を更に向上させるものであるかもしれないけれど、そのAIを設定するのは人間だということ。

その人間男性優位社会で育ってくれば当然男性優位AI爆誕するんだし、

AIを扱う人間競争を勝ち抜いた一握りのエリートばかりだったら、

当然AIは一握りのエリートに偏ったエリート優位AIになるのだから

AI資本家権力者資本権力集中・独占を更に加速させる悪魔装置になる可能性の方が遥かに高いでしょ。

ラッダイト運動しろとまでは言わないけれど、AIはむしろ弱者にとって超危険存在になる、という危惧はしっかりと持った上でAI希望を託さなきゃ。

  • anond:20181012093212

    ブクマカアホすぎわろた

  • anond:20181012093212

    基本AIは称賛メインだったと言っても主語はさほどデカくはなかろう。 いやデカいだろ。 そりゃAIの成果に対する記事には称賛一色になるが、 (近年のAI研究には何の成果もないとま...

  • anond:20181012093212

    政治がきちんとしないとAIは危険。 政治がきちんとしないと原子力は危険。 政治がきちんとしないと医療は危険。 政治がきちんとしないと車社会は危険。 何か問題が? AIの問題...

  • anond:20181012093212

    AIを扱う人間じゃなくて、AIを訓練するためのサンプルの偏りに依存してるという方が適当かと。 バリデーションが不十分な予測モデルをいきなり実運用したところ、予測結果が偏ったと...

    • anond:20181012121150

      サンプルのチョイスで結果に偏りを作れるってことで、運用する人間の政治に利用される運命だにゃー その点、アマゾンがこの情報を公開した事は啓蒙的と言えるかもな。

      • anond:20181012122517

        意図的に学習サンプルの偏りを入れたモデルは作れるけど、少なくともアマゾンのは想定していなかった結果でしょ。

        • anond:20181012122800

          うむ、彼らも想定外だったと思うにゃん。 私企業の内部システムだから、公表せず or もっとお為ごかしの公表という選択肢もあったと思うのだ。 だってAIをバブらせたい人が沢山いる昨...

          • anond:20181012125141

            良心的ではあるね。 うがった見方をすれば、AIの誤った運用を抑制するための教育的配慮にも見える。

            • anond:20181012125627

              というか何を「誤った運用」と判断するかという話にもなってくるな。 完全に世界の意見を正しくサンプリングできているデータが男性優位の偏見を内在しているとしたら、それを食わ...

              • anond:20181012161835

                最終的な審級は人間にあるのだと、もっと啓蒙されてほしい。

              • anond:20181012161835

                運用が正しいかどうかは当初の目的を遂行できているかどうかで決まる。 Amazonが取りやめたのもそういう理由。

    • anond:20181012121150

      人種や家系と企業のフィット、差別の合理性があって、但し必ずしも文明とは相容れないってだけじゃないの 「正しい」統計処理をすれば望ましい結果以外あり得ないと言ってるみたい...

      • anond:20181012130515

        意図としては、予測モデルが有効に機能するにはテストデータと訓練データとの乖離があってはならない、というごく当たり前の話をしたまで。 「正しい」統計処理以前の話。

        • anond:20181012185219

          有効に機能していなかったという話なんだっけ? 推論とイデオロギーが整合しないので利用を中止したという話じゃなかったっけ?

          • anond:20181012212120

            元記事は予測結果が偏ったということであって、予測結果がイデオロギーとか採用ポリシーと整合しなかったとは書いてない。 https://jp.reuters.com/article/amazon-jobs-ai-analysis-idJPKCN1ML0DN

            • anond:20181012214601

              現実と整合した推論が不都合と読めるんだが これはコンピューターモデルに10年間にわたって提出された履歴書のパターンを学習させたためだ。つまり技術職のほとんどが男性から...

              • anond:20181012224310

                AIによるスコアリングに偏りがあったこと、それが採用担当者による評価と整合しなかった以上のことは言えないでしょ。 イデオロギー的に不都合というなら深読みしすぎかと。ブコメ...

                • anond:20181012230901

                  採用担当者による評価と整合しなかったとどこに書いてある? 全く逆だと思うんだが。 採用者と不採用者を与えてクラスタ分析させたら、被差別階級を不採用者と正しく分類し、不都合...

                  • anond:20181013025625

                    正解。 この10年間の採用者のキャリアとスキルなどレジュメから読み取れるデータを、性別はブラインドした状態で学習データとして与えたと。 そこに女性のデータの与えて、採否を判...

  • anond:20181012093212

    ほんともう、みんなもっとSF読めよ。

  • anond:20181012093212

    男を優先するようになったのは応募者が男性ばかりだったからって理由が書かれてるのに これが差別的だと言うのなら応募受付をかならず男女交互にしろとでも言うのか

    • anond:20181012132203

      男のデータを削って男女同数にするくらいはしてるはずで、Amazonですら性別で低評価されやすいのが現実なんだろう

  • anond:20181012093212

    はてなーは一昔前Web2.0とかいってネットが社会を良くするなんて妄想を真に受けてたやつらだぜ…

  • anond:20181012093212

    違うな。我々はてなーが望むAIに、現実のAIが着いてこれていないのだよ。

  • anond:20181012093212

    まあ一理あるかも こういうinputに対してこういうoutputが出るように〜って予め期待する結果があって、 それに沿うように調整されるから結局いじる人によるのは確かにそうかもしれん ...

  • anond:20181012093212

    何でもイラレで片付けようとする人って困るよね

  • anond:20181012093212

    既存のデータを組み合わせるだけの機能しかまだ無いのに素晴らしい頭脳があると思ってるのがマジモンのガイジ

  • anond:20181012093212

    これは技術が追いついてないだけじゃん 定性的な評価は将来的にはAIがすることになるよ

    • anond:20181012205413

      その定性的な評価とやらに対してポリコレ社会がNOを突きつける未来の一端が垣間見えているという話では

      • anond:20181013011421

        はてサとして補足するとスコープの違いだと思う 社会的正しさは十年百年スパンの人類の繁栄のためなので四半期単位の行動戦略との整合が保証されないんだと思ってる

  • anond:20181012093212

    生理というものがあるから女は毎日全力を出せない 体力という概念がある時点で男の方が優秀 最上位学力だって男の方が圧倒的に多い 全体を見れば、女が男に勝てる日は来ない

  • anond:20181012093212

    AIもだけど自動運転車に対して脳死で絶賛してる人が多い印象

  • anond:20181012093212

    NNとか言われてもAIと統計的手法の区別が付かない勢なので、学習データの問題だよなー、としか思えない ほんと何が違うんだろ

    • anond:20181012231428

      都合のいい結論を導くためのデータセットも用意できるけど それって人工知能ではないからね…

      • anond:20181012231720

        人工知能て何だろうか悩む

        • anond:20181012233202

          お前みたいな無学で学ぶ気もない奴が気にする必要はない もう寝ろ お前の知らないうちに全て変わる

        • anond:20181012233202

          広義の人工知能は数理論理学用語で書き下した生物のおもしろ機構 狭義のディープラーニングは都合よくフィットさせた多対多の写像

          • anond:20181013121620

            あー、写像か なるほど

            • anond:20181013121903

              単位換算表みたいなもんだよ。 サンプル入力、サンプル出力、白紙の換算表の形を与えて、入力を表に沿って換算した結果がサンプルと最も近くなるように計算機に表を埋めさせるのが...

  • 機械学習は、まるで理解されていない

    anond:20181012093212 AIの仕組み自体は人間の能力を遥かに超えたものかもしれないし、それによって社会の利便性を更に向上させるものであるかもしれないけれど、そのAIを設定するのは人...

    • anond:20181012235158

      AIをみんな自分勝手に都合の良い存在・概念に捉えてるんじゃね、という意味では元増田の趣旨と何ら変わりはないと思うが、 まあ結局AIも「人間様のお気持ち」には絶対に勝てないって...

    • anond:20181012235158

      やっぱり今のAIは統計的手法との区別付かないなー 奈倉と柏木のどちらの文章か判別するAIは作れても、奈倉または柏木の書きそうな文章を作るのはまだ難しい 昔行った勉強会で聞いた...

      • anond:20181013070430

        付かないというか、流行りのディープラーニングは「統計ツールを画像に使ってみた」なので実際に統計。

    • anond:20181012235158

      今まで男が技術革新をしてきたのだから男が優位にされて当たり前じゃねーの

    • anond:20181012235158

      もともと男女の応募数の割合と採用数の割合それぞれに環境的あるいは社の採用ポリシーによるジェンダーバイアスがあって、 予測モデルがそのとおりにスコアリングしたなら、結果的...

    • anond:20181012235158

      >>> 活躍する社員に男性が優位になる傾向があったということ。 <<< 「活躍できるポジション」がきちんと実力主義で男女平等に割り振られてれば成立するけど、 評価するの...

      • anond:20181013095310

        データだけじゃなく、実際の社風が不平等なんでしょ。AIは王様の写真を撮ってしまった。

    • anond:20181012235158

      いや、性別という特徴量と女子なんとか部長は別の情報だろ。 お前カグル何メダル?

    • anond:20181012235158

      要は「今まで人力で高く評価してきた人を機械に高く評価させる」だけだからバイアスはそのままだし、革新的な人材も見付けられないんだよなあ

    • anond:20181012235158

      つまり増田はAIが出した男の方が優秀という答えが真実だと言いたいの? 馬鹿か。ただのよくある学習データが使えない問題だろうが

    • 人材採用AIは男女差別AI 説。

      https://anond.hatelabo.jp/20181012235158 https://jp.reuters.com/article/amazon-jobs-ai-analysis-idJPKCN1ML0DN プログラミングもAIも素人知識なんだけど 増田やブコメの流れに違和感が有るので。    予想イ: Amaz...

      • anond:20181013231644

        文章がへたでよく分からなかったけど どういった基準で人を採用しようとしたかが分からないとなんともいえないよ 「肉体的にタフで休みが少ない」みたいな条件があったらそりゃ男性...

  • anond:20181012093212

    AIの究極は人間やからな プログラマブルなyes/noから偏るからAI 日本特有の「勝手なアホ概念」で語るからおかしくなる

  • anond:20181012093212

    AIはアルゴリズム次第でいか様にもなる。 所詮は機械を使った統計処理に過ぎない。 Amazonの作ったAIがポンコツだっただけ。

記事への反応(ブックマークコメント)

アーカイブ ヘルプ
ログイン ユーザー登録
ようこそ ゲスト さん