2019-11-13

クラウド上のエロ画像が消される仕組み

Googleドライブエロ画像が消された

https://anond.hatelabo.jp/20191113003537

これを見てると勘違いしてる人が多いので解説する。

私はGoogle社員ではないがレンタルサーバー系の会社で働いており、監視の仕組みは似たようなものだと推測する。

  

基本的にはプログラムが決められたルールに則って判断して自動で凍結をしているだけで、人間が中身を目視しているわけではない。

判断基準の中で最も重視されているのは「すでにアウトな画像と同一か」である

まりネット上で拾ったアウト画像はほぼ100%アウトだと判断される。

Google画像検索で同一画像を探してくれる仕組みと同じだと考えればわかりやすいと思う。

  

逆に自撮りなど自分自身しか持っていないものはアウト判断されづらい。

ただし閾値があって、アウト画像との一致率が高い画像はアウト判断されやすい。

自撮りだとしてもアウト画像と非常に似た構図だったりするとアウトになる場合はある。

こちらもGoogle画像検索で近似画像を探してくれる仕組みと同じだと考えればわかりやすいと思う。

  

野菜とか関係ない画像がアウト判断されたというのは色などでも区別しているかである

これもプログラム判断しているので画像バイナリデータが近かったのだろう。人間が見ているわけではない。

機械学習が進み判断精度が上がればこういったミスは無くなるが、その分見逃しもなくなる。

あと圧縮すれば大丈夫と書いている人もいるが、zipとかだと圧縮ファイルの中身だけ消したりは普通にできる。

  

現時点で消されてないと言っている人はその画像がアウトかセーフかではなく、

単に監視プログラムが見てないだけの可能性もある。

サイクルはわからないが順繰り順繰りやっているので、

例えば昨日監視プログラムが回ってきたばかりの人が今日アウト画像を置いたとすると、

次に回ってくるまでの間は消されないということが起きる。

記事への反応 -
  • 何が消されたかはわからない。 ただ消したとだけ書かれたメールがGoogleから来た。 性的なコンテンツだったのが駄目らしい。 でも俺二次エロしか入れてなかったのに! 嘘でしょそんな...

    • Googleドライブのエロ画像が消された https://anond.hatelabo.jp/20191113003537 これを見てると勘違いしてる人が多いので解説する。 私はGoogle社員ではないがレンタルサーバー系の会社で働いており...

      • あれだな、適当にROTしとけば解除簡単だしgoogleも1つの画像に時間掛けるわけにもいかないし、いけそう

      • 自分で描いた同人誌のデータも消されちゃうかもなの? 困るよぉ〜

      • 今度から暗号化ZIPにするかぁ。 あと、プラットフォーマーが中身を閲覧するのは、そういう規約があるってことね?

      • クラウドにエロを置くな、で終わりでは

      • つまりやっぱりゴミ以下サービスってことだろ

      • 画像のバイナリデータが近かいってなんだ?

    • むしろGoogleドライブは非公開でも逮捕者出てたはず 逮捕されなかっただけラッキーだと思うしか

    • へえ 個人のファイルまで確認してるんだな どうせ児童ポルノに引っ掛かるような内容だったんだろうけど

    • マジゴミ以下サービスじゃん

    • これをきっかけに足がついて捕まるよ君

    • ◇米グーグル、児童ポルノ所持の利用者を通報(2014年8月5日) https://www.afpbb.com/articles/-/3022321 上はGmailだけど画像ハッシュが一致したんじゃないかな。 まあ、垢を分けておくのと暗号化す...

    • え、ハメ撮りごっつ入ってるんだけど停止になったことないで

      • 未成年じゃないからセーフ

      • 欧米には恐らくエロさの尺度が無く「エロ過ぎる」という概念はないと思う 和フェミもオタクもほぼ理解してないけど

    • オンラインストレージなど信用してはならぬ。大事なデータはHDDに保存してBDにバックアップするのじゃ。

    • アカウントごと消されないでよかったな。 自分は、gmailとgoogle driveにめっちゃ依存してるから、アカウント事消されたって話を聞くとビビるわ。

    • 海外のサービスに二次エロ入れるとか 手帳持ちガイジやろ

    • Google……

    • そっかー、クラウドストレージは検閲されてるのか。 言われてみれば当たり前かもしれんが、困るね。 別にまずいものは持ってないけど。

    • 仕事のファイルを外注者と共有するのに使ってるのだが、ゲームの仕事だとカード絵なんかもあるから、肌色多いと誤判定で消されそう。 業務妨害されたらかなわんので、他のサービス...

    •   必ず バックアップは 自分のHDDとかDVD-Rとかに 記録しておかないと                                              ...

    • 非公開プライベートでも検閲削除ってどういう理屈なんかな バスとかの危険物持ち込み禁止と同じ理屈なんだろうか

    • エロ漫画を電子化する仕事でデータのやり取りに使ってたけど消されなかったなあ。 相手方は法人契約してたけどこっちは個人アカウント。基準がよく分からんね。

    • 目視で人間が確認してるってことだよな…使うのやめよ

    • 運営はアメリカだし、サーバーはあちこちにあるから基準は記事しくて当たり前だわなあ。逮捕されなかっただけましだよね。

    • 圧縮するなり暗号化するなりしてれば消されんよ。生のまま入れたらいかん。百度云なんか色即斬だからなあ。

    • パス付き二重圧縮しろ

    • あなたついてるよ。ネットでは自動的に保存されていたエロ画像のせいでアカウントごと消されて紐付いたサービスが全滅で大変な事になった人の話が載っていた。 エロ画像削除で済ん...

      • エロ画像じゃなくて「自分の実の娘が庭で半裸で浮き輪持ってる画像」とかじゃなかったっけ

    • OneDriveに昔買ったのを自炊したLOとか成年コミックとか同人誌とかめちゃくちゃ保管しているんだが、これもやばいのかな…

    • 腐女子学級会で3年前に告知されてたよ 今更か、やっぱり男はゾーニングが迫ってきても見えないふりして けされていい程度の関わりしかできないんだなあ

      • BLがなぜか男性向けより激しく弾圧されるって聞いて要は欧米のお気持ちマンガヘイトなんやなあって

    • 無能

    • こういうことがあるということは、 政権批判的な文書をチェックすることも十分可能だよね。 少なくとも「していないことを証明する」ことはできないよね。

      • アメリカやロシアは当然やってるだろうけど日本はどうなんだろうねえ…

    • 使用頻度が高くて生データのまま扱いたいファイルなら諦めるしかないが、 いわゆるバックアップ用として、いざという時にだけ使えればいいのなら 簡単な暗号化ソフトで暗号化した...

    • 順位 全体順位 ブクマ数 タイトル 日付 備考 1 12 1550 エクスプローラ周り重い人向け覚書 11/16 2 29 1194 クソ簡単にgitの...

    • アダルトコンテンツ(画像,動画)というのはネット上で見ているといつ削除されてしまうか分からない.昨今もPornhubでそのようなことがあって話題になったのは記憶に新しい. そのよう...

記事への反応(ブックマークコメント)

ログイン ユーザー登録
ようこそ ゲスト さん