2024-08-04

anond:20240804124434

画像だけの問題じゃねーのよ

医療的なことにAIを使うのは安易にやると問題があるの。

例えば「AIでガン診断、あなたのガンを見つけるAI」ってのがあったとして

「診断ではガンじゃなかった」と安心した人が実は癌で放置したら手遅れ、なんてことも起こりうる。

自閉症、顔の傾向だけで当てられるのか、確率はどれぐらいか、それをツールとして公開することの是非、

自閉症顔」というカテゴリを作る危険性…などなど、いくらでも倫理的医療問題がありうるのに

AIすごい!自閉症顔の検知AI作ってみました!」と素人安易に公開したからぶっ叩かれてるんだよ。

  • そこだよね 診断はそもそも資格持ちがやることで、医療機関向けに売り込むならまだしも、一般公開するなよっていう

  • すでに画像診断にAI取り入れられてるけど 画像診断みたいに一般向けじゃなくて医療者向けにしたら良いだけやん 学校の集団検診とかで生徒の顔データを医師が読み込ませてスクリーニ...

    • それはそうなんだけどそこに需要が無いからな。 求められてもいない自閉症診断に、診断基準と無関係な相貌判定装置なんてもんを、わざわざカメラ持ち込んでまで使う医者は居らんよ...

      • 顔だけじゃなくておっぱいの画像との組み合わせで自閉症診断できるようになれば健診に使おうという需要が出てくる気がする。 まず顔+おっぱいで、顔だけよりも自閉症診断の精度が上...

      • 求められてないのは医者が注意深く診断するコストが高いからだ。 診断基準も人間の意思を前提に作られている。 AIを導入すれば状況は逆転しうる。 システムをひっくり返すのが強力な...

    • 「99.99%」とかのデカそうなベンチスコアに一億人とかのデカい数字を掛けてみろって話

  • なに言ってんの。こういう浅い想像力で新技術を批判しちゃうのがが一番ダメ。 AIは補助的に使うんだよ。人間の判断に見落としや判断ミスがないかな。 見落としの確率が下がるんなら...

    • プロフィールを明かせない匿名の場所で、研究倫理がないなどと詰ってもなんの説得力も生まれない。 それをするなら、まず自分がどれだけ倫理に詳しいかをアピールしないと意味がな...

      • 本題は前半3行なんだからそっちに反応してくれよ。 なんで、おまけの1行に噛みついてるんだよ。 自分だって研究倫理の基準がどう決められるかなんて全然詳しくないよ。でもさ、卒...

  • 絵は「学習は合法だ」」 「嫌がるほうがおかしい」の大連呼でマスピ顔というカテゴリが作られてしまい 特定の絵柄の価値を毀損したんだけどな 別の絵柄を描けばいいじゃんって思う...

    • 面白い指摘だが、絵柄の価値の毀損というよりは自由市場競争で価値が下がったように思える。 私は、お絵描きAIという強力な絵描きが参入したことで、絵の進化自体が加速してると見...

      • 手書きの絵はべつに進化しないと思うけどな。 現状は、3Dで例えるならほとんどの人がMMDやらコイカツやらを使いこなせるようになった状態に近いと思う。 2Dの生成絵も結局のところ、MM...

  • 「AIで恋愛診断、あなたの結婚相手を見つけるAI」を作ったとして。 「診断では結婚相手はみつからなかった」と落胆した人が自殺してしまい手遅れ、なんてことも起こりうる。 みたい...

    • ポリコレと同じで、よくよく考えれば正当性は不明だけど世界的に忌避されるカテゴリの話なんだよな 特に障害系の判定はすげーセンシティブな話題ではあって、当たり前に避けるべき...

      • ガリレオ・ガリレイと天動説もそうでしょう。 科学の外にある宗教が理由で凝り固まった状況を、勇気で打開しようとした。 アメリカではいまトランスジェンダーに若いうちから思春期...

        • 革命って居心地悪い 常識を否定されるから

        • 喜び勇んですぐこういうこと書く人たちいるけどさ、全然違う話だろ どっちかというと核弾頭持たないようにしようねとかクラスター爆弾とか生物兵器を使用しないようにしようねって...

  • ぶっ叩くとかいう、集団リンチのいじめをする人たちの気が知れない。 批判の長文を書けばいいだろうに、なぜ多人数という絶対安全圏からパワハラするのか。

    • クラスでいじめが流行ってたのは、それが楽しいからだろうさ。 社会性と支配欲を同時に満たせるじゃん。 だけどオトナになっても、いじめを卒業できない人たちがいる衝撃。

  • リスクの見積もりは曖昧で、件のエンジニアがどれだけ考えたかも知らずに安易と決めつけていて、自閉症AI診断の社会的効能は全く考えない、というのはフェアじゃない気がする。 ...

    • 炎上というイジメを選ぶ人々の語る「倫理」「モラル」の虚しさ 例えばエンジニアが落ち込んでしまう恐れは無視でいいのか? たった1人なら傷ついてもいいのか。大の大人が寄って...

  • そりゃAIには誤診断のリスクあるけど,膨大なCTスキャン画像とかから「これ怪しくね?」ってピックアップしてくれるだけで,お医者さんだいぶ助かるので全体としての利益は大きいと...

  • 医療系自体素人が踏み入れるべきではない。 線虫がん検査が精度86%で炎上したのは記憶に新しい

  • これはヒトが診ても同じだけどな 定期検診受けろという話にしかならん 「診断ではガンじゃなかった」と安心した人が実は癌で放置したら手遅れ、なんてことも起こりうる。

  • 医師にとって癌隠しの暗殺バイトがなくなったら おまんまの食い上げ

記事への反応(ブックマークコメント)

ログイン ユーザー登録
ようこそ ゲスト さん