2019-11-13

クラウド上のエロ画像が消される仕組み

Googleドライブエロ画像が消された

https://anond.hatelabo.jp/20191113003537

これを見てると勘違いしてる人が多いので解説する。

私はGoogle社員ではないがレンタルサーバー系の会社で働いており、監視の仕組みは似たようなものだと推測する。

  

基本的にはプログラムが決められたルールに則って判断して自動で凍結をしているだけで、人間が中身を目視しているわけではない。

判断基準の中で最も重視されているのは「すでにアウトな画像と同一か」である

まりネット上で拾ったアウト画像はほぼ100%アウトだと判断される。

Google画像検索で同一画像を探してくれる仕組みと同じだと考えればわかりやすいと思う。

  

逆に自撮りなど自分自身しか持っていないものはアウト判断されづらい。

ただし閾値があって、アウト画像との一致率が高い画像はアウト判断されやすい。

自撮りだとしてもアウト画像と非常に似た構図だったりするとアウトになる場合はある。

こちらもGoogle画像検索で近似画像を探してくれる仕組みと同じだと考えればわかりやすいと思う。

  

野菜とか関係ない画像がアウト判断されたというのは色などでも区別しているかである

これもプログラム判断しているので画像バイナリデータが近かったのだろう。人間が見ているわけではない。

機械学習が進み判断精度が上がればこういったミスは無くなるが、その分見逃しもなくなる。

あと圧縮すれば大丈夫と書いている人もいるが、zipとかだと圧縮ファイルの中身だけ消したりは普通にできる。

  

現時点で消されてないと言っている人はその画像がアウトかセーフかではなく、

単に監視プログラムが見てないだけの可能性もある。

サイクルはわからないが順繰り順繰りやっているので、

例えば昨日監視プログラムが回ってきたばかりの人が今日アウト画像を置いたとすると、

次に回ってくるまでの間は消されないということが起きる。

記事への反応 -
  • Googleドライブのエロ画像が消された

    何が消されたかはわからない。 ただ消したとだけ書かれたメールがGoogleから来た。 性的なコンテンツだったのが駄目らしい。 でも俺二次エロしか入れてなかったのに! 嘘でしょそんな...

    • クラウド上のエロ画像が消される仕組み

      Googleドライブのエロ画像が消された https://anond.hatelabo.jp/20191113003537 これを見てると勘違いしてる人が多いので解説する。 私はGoogle社員ではないがレンタルサーバー系の会社で働いており...

      • anond:20191113161046

        あれだな、適当にROTしとけば解除簡単だしgoogleも1つの画像に時間掛けるわけにもいかないし、いけそう

      • anond:20191113161046

        自分で描いた同人誌のデータも消されちゃうかもなの? 困るよぉ〜

      • anond:20191113161046

        今度から暗号化ZIPにするかぁ。 あと、プラットフォーマーが中身を閲覧するのは、そういう規約があるってことね?

        • anond:20191113161446

          それは当たり前。あくまで場所を借りてるだけなので。

        • anond:20191113161446

          既存の駄目画像と同じかどうかはハッシュ値で判断するから暗号化zipも駄目だよ zipは暗号化しても中のファイル名とファイルのCRC32は見えるのでそれでチェックされる 7zipでファイル名も...

      • anond:20191113161046

        クラウドにエロを置くな、で終わりでは

      • anond:20191113161046

        つまりやっぱりゴミ以下サービスってことだろ

      • anond:20191113161046

        画像のバイナリデータが近かいってなんだ?

    • anond:20191113003537

      むしろGoogleドライブは非公開でも逮捕者出てたはず 逮捕されなかっただけラッキーだと思うしか

    • anond:20191113003537

      へえ 個人のファイルまで確認してるんだな どうせ児童ポルノに引っ掛かるような内容だったんだろうけど

      • anond:20191113003759

        2Dは児ポじゃねーぞ

        • anond:20191113104242

          キリスト教徒的には含まれることになってる

        • anond:20191113104242

          検察「でもトレスした奴は2Dでも児ポだよ?」

          • anond:20191113104530

            トレスでも下手くそがやってオリジナルと大きく異なってたら無罪なんだろ? 一致率は誰が計算して何パーセント以上は有罪ってしないといかんね

            • anond:20191113104937

              まあそのボーダーを定められることはないだろうな。 わいせつ物と同じく判断基準を曖昧にしてボーダーを攻めさせない(ので、逆に真にボーダーとするものが低く留まる)って扱いに...

            • anond:20191113104937

              トレスで児ポ扱いでしょっぴかれるのは実際に起こったことなんだよ。

        • anond:20191113104242

          欧米基準だとエロくなくても「児ポ」だったり意味が分からん ポルノとは何だったのか

          • anond:20191113181651

            でも幼女が上半身裸で普通に遊んでるのはポルノじゃないんだよな

            • anond:20191113181757

              その辺含めて日本基準と違いすぎて理解不能

            • anond:20191113181757

              これからはなりますよ

            • anond:20191113181757

              控えめに言って収集してますが、最近はかなりYouTubeに削除されますね 最近公開された削除方針、お金になる動画だけ優先する、というのもあって、自称YouTuberの幼女の動画よりも親が編...

        • anond:20191113104242

          だってアメリカのサービスだぜ?

    • anond:20191113003537

      マジゴミ以下サービスじゃん

    • anond:20191113003537

      これをきっかけに足がついて捕まるよ君

    • anond:20191113003537

      ◇米グーグル、児童ポルノ所持の利用者を通報(2014年8月5日) https://www.afpbb.com/articles/-/3022321 上はGmailだけど画像ハッシュが一致したんじゃないかな。 まあ、垢を分けておくのと暗号化す...

    • anond:20191113003537

      え、ハメ撮りごっつ入ってるんだけど停止になったことないで

    • anond:20191113003537

      プライム入ってるからグーグルと同じ画像入れてるわ

    • anond:20191113003537

      オンラインストレージなど信用してはならぬ。大事なデータはHDDに保存してBDにバックアップするのじゃ。

    • anond:20191113003537

      アカウントごと消されないでよかったな。 自分は、gmailとgoogle driveにめっちゃ依存してるから、アカウント事消されたって話を聞くとビビるわ。

    • anond:20191113003537

      海外のサービスに二次エロ入れるとか 手帳持ちガイジやろ

    • anond:20191113003537

      GoogleがSNSで絶対覇権がとれない理由やね。

      • anond:20191113110939

        既にキリスト教徒が覇権取ってるから問題なく取れるやで

    • anond:20191113003537

      Google……

    • anond:20191113003537

      そっかー、クラウドストレージは検閲されてるのか。 言われてみれば当たり前かもしれんが、困るね。 別にまずいものは持ってないけど。

    • anond:20191113003537

      仕事のファイルを外注者と共有するのに使ってるのだが、ゲームの仕事だとカード絵なんかもあるから、肌色多いと誤判定で消されそう。 業務妨害されたらかなわんので、他のサービス...

    • 真面目な資料でも クラウドサービスとか 信用したらだめだよ

        必ず バックアップは 自分のHDDとかDVD-Rとかに 記録しておかないと                                              ...

    • anond:20191113003537

      非公開プライベートでも検閲削除ってどういう理屈なんかな バスとかの危険物持ち込み禁止と同じ理屈なんだろうか

    • anond:20191113003537

      エロ漫画を電子化する仕事でデータのやり取りに使ってたけど消されなかったなあ。 相手方は法人契約してたけどこっちは個人アカウント。基準がよく分からんね。

    • anond:20191113003537

      目視で人間が確認してるってことだよな…使うのやめよ

    • anond:20191113003537

      運営はアメリカだし、サーバーはあちこちにあるから基準は記事しくて当たり前だわなあ。逮捕されなかっただけましだよね。

    • anond:20191113003537

      圧縮するなり暗号化するなりしてれば消されんよ。生のまま入れたらいかん。百度云なんか色即斬だからなあ。

    • anond:20191113003537

      それならそれでもいいけど 消す前に警告と期限言い渡しぐらいして欲しいよな 〔今回は許すから何月何日までに対処しろ」みたいにさ

      • anond:20191113140414

        欧米的には「一部の危険人物しか見ない画像だからどうでもいい」扱いなんやろなあ アジア人差別だろ

    • anond:20191113003537

      パス付き二重圧縮しろ

      • anond:20191113141359

        普通にAirExplorerとかで暗号化しながらアップすればええやん

    • anond:20191113003537

      あなたついてるよ。ネットでは自動的に保存されていたエロ画像のせいでアカウントごと消されて紐付いたサービスが全滅で大変な事になった人の話が載っていた。 エロ画像削除で済ん...

      • anond:20191113145402

        その話聞いて以来Googleのストレージ関係は一切使ってない

        • anond:20191113164716

          androidスマホを使ってて自動的に撮った写真やネット上にあってダウンロードした画像なんかが、意識しないうちにgoogle photo(≒google drive)に保存されちゃうのは良くあって、そこで簡単に...

          • anond:20191113174557

            別トラバの増田の言が正しいなら、画像クローラの誤認識でBAN食らって私的記録や下手したらビジネス基盤まで破壊される(なお抗議は無視される模様)とか恐ろしすぎる。 なんでもかん...

            • anond:20191113185336

              店内のBGMとかラジオから聞こえた楽曲を認識して、著作権違反で停止になるとこもあるらしいので

      • anond:20191113145402

        グーグルアカウントでログインって奴やったことないわ よくあんな恐ろしい事するわな FBもTWも他サービスのアカウントでログインとかアホかと思う

        • anond:20191113165011

          もしかしてサービスAに、サービスBのアカウントでログインすると、 サービスBのログインに利用したIDとパスワードが、サービスAにも知られると勘違いしているのか?

          • anond:20191113165932

            アホかよ そんな仕組みならグーグルが使わせるわけないだろ どっかのセキュリティが破られたら連鎖的に全てログインされてしまうのに1アカウントで全部連携するのがアホだと言って...

        • anond:20191113165011

          いちいちアカウント作るの面倒だからやっちゃってる まあ無くても困らないサイトばっかりだけど

        • anond:20191113165011

          ブラウザでGmail使ってると強制的にGoogleアカウントで入ってる扱いになる

      • anond:20191113145402

        エロ画像じゃなくて「自分の実の娘が庭で半裸で浮き輪持ってる画像」とかじゃなかったっけ

    • anond:20191113003537

      OneDriveに昔買ったのを自炊したLOとか成年コミックとか同人誌とかめちゃくちゃ保管しているんだが、これもやばいのかな…

    • anond:20191113003537

      腐女子学級会で3年前に告知されてたよ 今更か、やっぱり男はゾーニングが迫ってきても見えないふりして けされていい程度の関わりしかできないんだなあ

      • anond:20191113164637

        BLがなぜか男性向けより激しく弾圧されるって聞いて要は欧米のお気持ちマンガヘイトなんやなあって

        • anond:20191113182216

          お気持ちマンガヘイトって車だん吉とか出てきそうなネーミングだな(老害)

    • anond:20191113003537

      無能

    • anond:20191113003537

      こういうことがあるということは、 政権批判的な文書をチェックすることも十分可能だよね。 少なくとも「していないことを証明する」ことはできないよね。

    • anond:20191113003537

      使用頻度が高くて生データのまま扱いたいファイルなら諦めるしかないが、 いわゆるバックアップ用として、いざという時にだけ使えればいいのなら 簡単な暗号化ソフトで暗号化した...

記事への反応(ブックマークコメント)

アーカイブ ヘルプ
ログイン ユーザー登録
ようこそ ゲスト さん