  |
はてなキーワード: 有害情報とは
ごめんなさい、ちょっと飲みに行ってて遅くなりました
論文にアクセスできなかったので、「猥褻ドメイン」っていう言葉の意味が良く分かってなかったっぽいです
前文の段階で、有害情報の確認できるドメインとして2ch、pixivのふたつだけが例として並べられていて、その後その選定理由について触れられているわけでもありません。それ以外は注釈にハピメくらい。「なぜそこでpixiv？」と読んでるこちらが面食らいました。
おれは正直、pixivの「猥褻」とされるコンテンツの事情に詳しくないので、推測にしかなってないんですが、2ch、pixivは、両方、「独自の文化」を持ってるところが着目されちゃったんじゃないかという気はします
(ご指摘の通りで、それにしてもイントロでちゃんと書けや、とは思いますが)
それについてですが、おれが書こうと思ったら、別の増田さんが、情報系の内情について詳しく書いてくれてました
http://anond.hatelabo.jp/20170527185728
要するに、今回出た論文というのは、情報系ではぶっちゃけ、まともな論文とは見られないものです
学生さんが、国内の研究会で揉まれたり学外の人脈に触れたりすることで成長するように、或いは、修士号取得に必要な業績を稼げるようにくらいの意図で出したもので、
そもそもこの論文はネット上での猥褻表現のフィルタリングが主題なので、出版物についてははじめから考慮に入っていないと思います。猥褻ドメインのフィルタリングにAIの学習能力を利用するのが目的かと。
なのでそもそも「小説」という形式の文章のみをサンプルにすること自体に違和感がありますね。猥褻ドメインならではの広告文句や説明文、利用者の書き込みなどのデータも相当数持ってくるべきなのでは？
前文の段階で、有害情報の確認できるドメインとして2ch、pixivのふたつだけが例として並べられていて、その後その選定理由について触れられているわけでもありません。それ以外は注釈にハピメくらい。「なぜそこでpixiv？」と読んでるこちらが面食らいました。
わたしもAIに興味があるだけの門外漢なのですが、追記のとおり、あるドメインの傾向に特化したAIがフィルタリングに利用されるのはとても有意義だと思いますし、ゆくゆくはそういったAIをつくるための参考となるようにこの論文は書かれていると理解しました。なのでその前段階としてこの論文では猥褻表現の分類と考察がなされているんですが、その考察方法がいろいろな意味で非常に稚拙なのが問題になっている。
本題に入る前に、いくつか検討を行うべき点がある。
社会に流通する特定の表現を具体的に名指しして『有害』と評価する場合、その評価の責任は、そのような評価を下した主体が負うのが一般的である。
例えば、都道府県の定める条例に基づき『未成年者の健全育成に有害である』と評価された特定の出版物を、『有害図書』に指定し流通を差し止める場合があるが、その指定（あるいは指定の基準）の責任は当の都道府県が負う。
実際に、都条例（「東京都青少年の健全な育成に関する条例」）の条文が変更され、近親相姦描写が指定の根拠に加えられた際、またその条文を根拠として実際に書籍が『有害図書』に指定された際に、都を批判する声が少なからずあった。表現を『有害』と評価する主体はその評価について責任を問われる、という社会的通念が如実に現れた実例と言えるだろう。
『有害情報』はインターネット上に流通する表現についての評価であるが、これも評価の主体が責任を問われるという点は『有害図書』の場合と同様である。
例えば、特定のウェブサイトが、検索エンジンサービス・セキュリティソフトウェア・フィルタリングソフトウェア等によって『有害』と評価され、アクセスを妨げられた場合、その評価の責任を当該サービスないしソフトウェアの提供者が負うという点については、広く合意されるところである。
どのような表現を『有害』と評価するか、具体的な線引きについては評価の主体により差はあれど、大別すれば、「援助交際や違法薬物の取引」といった実際の犯罪行為と一体のものと、「（現実・架空の別を問わず）暴力・性行為・犯罪行為の描写」といった未成年者の閲覧に不適切なもの、の2つである。
このうち後者について、評価の主体が行政ないし公的機関の場合、表現の自由や知る権利とのバランスを取る必要から、未成年者による閲覧を抑止する施策（ゾーニング）が講じられていれば表現そのものを禁止はしないという形を取ることが多く、またそのような施策が予め講じられた表現に対して『有害』か否か積極的に評価することは（必要が無く、にもかかわらず上記のような責任を無用に負うことになるので）避ける運用となるのが通例である。
他方で、ゾーニングの必要性の有無を判断するのは表現を発表する側であり、通常これは『有害』評価を下す側とは別であるから、『有害』ギリギリのラインでゾーニングが行われることはない。すなわち、表現を発表する側はより大きな安全マージンを取り（安全側に倒して）ゾーニングを実施することになり、そして上記のとおりゾーニングされた表現については『有害』評価が保留されがちであることから、もし仮にゾーニングされていなかったとしても『有害』とは評価されなかったであろう表現がゾーニングされてしまっている（が、そうとはわからない）という例も珍しくないはずである。
したがって、ある表現がゾーニングされているからといって、その表現が直ちに（例えば行政や公的機関などの評価主体の判断に照らして）『有害』であるとは断言しえない。
業として表現を流通させている者（出版社や小売店、ウェブサービスなど）がゾーニングを実施するのは、上記条例をはじめとする法令を遵守することが第一義的な理由と考えてよい。そしてそれらの業者を介して自身の表現を流通させんとする個々の表現者は、業者との契約や規約に基づく形でゾーニングに同意し、間接的に法令を遵守することとなっている。
このことは、当該法令の理念や目的や基準について、必ずしも表現者は賛同ないし納得はしてないけれども、業者を利用する都合上その定めに従っている、というケースが内包されている可能性を示唆する。より具体的に言えば、表現者自身は「未成年者にとって性的表現は有害ではない」と考えていたり「この程度の性的表現は『有害』にあたらない」と考えていたりした場合でも、業者を利用するため業者が実施するゾーニングの基準に従った結果として（あるいは、閲覧者の利便性を図る手段としてゾーニングを活用する意図で、もしくは、自身の思想と食い違っても「悪法も法なり」という判断の下）法令を遵守している、というケースがありうる。
同時に、上記のとおり行政や公的機関はゾーニング済の表現への『有害』評価を保留するので、動機はどうあれゾーニングに従っている以上、自身の表現が『有害』にあたることはない、という意識が表現者にあったとしても不思議ではない。これは逆に言うと、『有害』評価を下されること＝ゾーニングの努力を怠った粗忽者ないし社会に迷惑をかける厄介者のレッテルという意味を包含し、表現者にとってのスティグマとして機能しうる。
著作物の二次利用は原則的に著作権者の許可を要するが、著作権法32条により『引用』であれば無許可に行うことができる。正当な『引用』と認められるには「引用部分とそれ以外の部分の主従が明確であること」「引用する必然性があり、その必要な量のみの利用に留まること」「出典を明記すること」などの要件を満たさなければならない。
第三十二条 公表された著作物は、引用して利用することができる。この場合において、その引用は、公正な慣行に合致するものであり、かつ、報道、批評、研究その他の引用の目的上正当な範囲内で行なわれるものでなければならない。
しかしながら、著作権法113条6項には、次のような条文がある。
これは上記の『引用』と矛盾するように見えるが、そうではない。無許可で『引用』することはできるが、その結果として著作者の名誉・声望を害したら著作者人格権の侵害とみなされる、という形である。つまり、理論上は、正当な『引用』であっても著作者人格権の侵害になる場合があるとされており、ゆえに「例の論文は『引用』の要件を満たしてるから法的にセーフ」とする主張は、全て誤りである。
このような条文があると、否定的な論評・批評のための引用ができなくなるのではないか、と心配する向きもいるかもしれないが、意見表明による名誉棄損を免責する『公正な論評法理』が、上記条文における「名誉又は声望を害する方法」の当否判断にも準用され、否定的な論評・批評のための引用も内容の公益性や妥当性次第で免責されると考えられている。
例の論文では、R18としてゾーニングされた10作品を標本として利用しているが、ゾーニングされていることをもって直ちに『有害』であるとは言えず、またその作者らが自らの作品の『有害』性を自認していることにもならないため、「この10作品は『有害』である」との評価は自明ではない。
にもかかわらず、論文ではこれら10作品を「『有害情報』のフィルタリングアルゴリズムの学習用データ」と位置付けており、このことはつまりこれら10作品が『有害情報』の代表例であるという評価を下しているに等しい。その際、法令や制度あるいは他者によって定義された『有害』評価に準拠する旨の記載がないため、この『有害』評価は論文著者が主体的に行っているものと解され、その責任は論文著者が負う。
これら10作品が『有害情報』の代表例として紹介されたことは、作者らにとってスティグマとして機能することが懸念され、名誉・声望を害したと言えるのではないか。
整理すると「論文著者が主体となり10作品を名指しで『有害』評価したことが、10作品の作者らの名誉・声望を害したと疑われる」。
論文ではこれら10作品に含まれる性的表現を引用しその意味内容を批評しているとは言えるが、『有害情報』の代表例としてこれら10作品を名指ししたこと自体について十分に論証するだけの記述が割かれ『公正な論評法理』に適う内容になっているか、といえば、議論が分かれるように思う。少なくとも「論ずるまでもなく法的にはセーフ」とは断言できないと考えるが、どうだろうか。
https://togetter.com/li/1113766
https://matome.naver.jp/odai/2149564479015738601
この問題、確かに出典を明記するべきではなかったし配慮が足りなかったとは思うけど、
それぞれの論点については疑問な点も多い。各論点についてどこが問題でどこが問題でないのか個人的な整理をしておく。
・「未成年が見れないようにしてあるのに、引っ張り出してきて有害呼ばわりする」について
ここで言う「有害」あるいは「有害情報」というのは一種の専門用語で、
「主に青少年がその情報に接することによって健全な発達・育成を阻害する恐れが有ると考えられているコンテンツの総称」とある。
Wikipediaが信用ならないなら、「有害情報」「有害表現」で検索すれば、その意味で用いられている文章がたくさん見つかる。
つまり、「有害な」＝「未成年に見せるのには不健全な」という意味が、特に情報フィルタリングの研究においては比較的一般に用いられてる。
そしてこの定義によれば、pixivに投稿されているR-18の小説やイラストは全て「有害表現」ということになるし、
別にこの文章は酷い、害だ、と揶揄する意味で有害だと言っているわけではない。
「ログインしなければ見れないような場所に置いてあるものを引っ張り出してきて有害呼ばわりする」ではなくて、
「"有害表現"だからログインしなければ見れないような場所に置いてある」。順序が逆。
誤解。
論文中にある通り、ランキングのTOP10を拾ったら8件がBLだったというだけで、残り2件はヘテロカプ。
BLを排除すべきだったとも思わないし、BLから選ぶべきだったとも思わない。
(じゃあなんでわざわざ「8件がBLで2件がNL」だなんて書いたのかという話ではあるが)
少しズレている。
たとえば文化人類学や民俗学のような研究であれば、研究対象の文化を破壊してしまうのは「鯨を研究していたら鯨を絶滅させてしまった」ようなもので、
ただ、この論文においてpixiv小説文化は「研究対象」というよりは「データセット」でしかない。
その場合でも倫理的に問題はあるだろうけど、民俗学のような特別な慎重さが求められるような分野と一緒にして考えるべきではない。
このように目立たせることがタブーな界隈であることが想定できた/すべきだった、とまで言うのは難しいように思う。
・「二次創作はグレーゾーンだから隠れてるのに、わざわざ目立たせるようなことをしたのは問題」について
これって「お前がチクんなかったらバレなかったのによー」って言ってるのと何が違うんですか。
一応公共の場に置かれている以上、十分に匿名化されていれば許諾は必要ないと思う。
たとえばchainerでイラストを自動着色するシステムがあるけど、あれの学習に使うデータ全部に許諾が必要かというとそうは思わない。
それは言い過ぎ。
その理屈で言えば肖像権なんてものはない。「仮面付けないで街を歩いている方が悪い」みたいな話になる。
いくらネットに投稿していると言っても、それが朝の全国ニュースで勝手に紹介されることまで想定しているわけではない。
・「再現性のために出典を明示するのは当然」について
そんなことはない。
これは別に素材Aに触媒Bを反応させたら素材Cができた、というような話ではない。
たとえば100人にアンケートを取ったとして、その100人の個人情報全部を載せる必要があるかと言えば、「必要はない」し「プライバシーの観点からも止めるべき」。
なってない。「twitterのiOS公式アプリ」が１７＋レーティングとなっただけ。
twitterそのものの年齢制限は変更されておらず、今まで通り使えるはず。
「データが消えた」との声があったが、おそらくアプリが消えたためにデータが見えないだけで、消えたわけではないと思われる。
ツイッターはようつべなどと同じく、１３歳以上対象のサービス。
iOSアプリの年齢設定では、１２歳以上対象の上は１７歳以上対象しか無いため、１７歳以上対象となってしまった。
ピクシブ、ようつべなどのアプリと同じように、サービスそのものが１８禁には当たらない。
できる。アンドロイドからは普通にできる上、ｉＰｈｏｎｅでも公式以外のアプリやブラウザからは可能。
ツイッターの根幹的機能は、基本的には非公式アプリでも問題ない。youtubeのアプリと同じ扱いだと思われる。
どうしても公式アプリからに拘る場合、iphoneの設定を変更すればいい。ただし、親によるパスコード制限がある場合は不可能。
とはいえ、親の技術力いかんではただしい管理は出来ないだろうという声もある。
親がツイッターをやることを既に許可している場合、素直に話す方向が良いと思う。
公式アプリからしかツイッターが出来ないと思っている層が騒いでいるのだと思われる。
おそらく、インターネット上のブラウザからもできるサービスであるとか、本来はブラウザ上のサービスで
公式アプリは後から出来たものだとか、そのあたりが理解されていない。
これを区別できていないのか、ツイッターそのものが１８禁と騒いでる層は、今回の規制に入ってない年齢にもかなりの数いるので、
特に筆者のような友達のいなかった中学・高校生だった人間は、ツイッターで仲間を作ることが大事だった。
また、LINEだとスクールカースト上位層からの「管理」を受けるため、これを回避しつつ知り合いとの連絡先を用意する手段にもなる。
中学生からその方向でやってる。そもそもツイッターはただの「ミニブログ」であり、ブログの延長線上にある。
県警でサイバー犯罪を担当している人から話を聞いた時のメモが出てきたので下記にまとめる。
メモは2年ほど前のもので、現在の警察の見解とは異なっている可能性がある。
