yahoo













1: 稼げる名無しさん 2016/08/02(火) 02:28:10.17
コメント内のヘイトスピーチを正確に識別できるアルゴリズムをヤフーが開発した。

それが罵り言葉かどうか、をトレーニングを受けた人間によって教育され、
キーワードに基づく従来のシステム以上の能力を獲得しているという。

ネット上のコメントにヘイトスピーチが含まれているかどうかを正確に識別できる「罵り検知アルゴリズム」をヤフーが開発した。
ヤフーのアルゴリズムは、テストケースの90パーセントで罵りコメントを正しく識別することができた。
論文によると、ディープラーニングなどの「最新式」の手法よりも性能がいいという。

現状では、罵り言葉を検知するプログラムはそのほとんどが、コメントに含まれるヘイト的な語句を探し出す仕組みになっている。
ヘイト投稿によく使われる特定のキーワードがコメントに使われていたら、アルゴリズムがそれを「罵り」だと判断し、
コメントを自動的に削除するか、モデレーターに転送して確認をする。

しかしこのようなキーワードに基づくシステムは、微妙な種類のヘイトスピーチをとらえるのが得意ではない。
荒らしが曖昧な罵り言葉を使う場合はフィルターをすり抜けてしまうし、これといった罵り言葉を含まないヘイト投稿もありうる。

また、従来のアルゴリズムは、辛辣なコメントを罵り言葉だと間違えてラベリングする可能性があるし、
ヘイトの新しい表現を認識できないことがある。文法的に正しい英語で書かれている、という理由で荒らし投稿を見過ごしてしまうこともある。

正確なアルゴリズムは、人間が育てることで生まれる

ヤフーは、最高に正確なヘイト検知アルゴリズムを開発するため、キーワードに基づくシステムを超えたシステムを開発しようとした。
そこで、「Yahoo! News」と「Yahoo! Finance」の記事に付いた罵り言葉のコメントとそうでないコメントで構成されたデータセットを用い、
コメントの長さ、侮辱語の数、および句読法をアルゴリズムに分析させて、罵りのメッセージの典型的な特徴を割り出した。

また、訓練を受けた人間の評価者が、同じコメントの集まりを分析し、罵り言葉であるかどうかを評価した。これを、人間から見れば
無条件に罵りだとわかる投稿についてアルゴリズムを訓練するのに役立てた。「暗黙の罵り」を見分ける人間の能力を生かそうというわけだ。

アルゴリズムはヤフーのデータベース以外ではテストされていないが、同社はこのアルゴリズムは自然言語処理における
「大きな前進」だと自信をもっている。罵り言葉のデータベースは「Yahoo Webscope」でまもなく公開される予定だ。
http://wired.jp/2016/08/01/yahoo-online-abuse-algorithm/

1001: 以下名無しさんに代わりまして管理人がお伝えします 1848/01/24(？)00:00:00 ID:money_soku

　流石ヤフー、凄い技術力だな（＾＾；
yaruo_pasha

　素敵だお！これでネットの世界は平和になるお（＾＾；



1001: 以下名無しさんに代わりまして管理人がお伝えします 1848/01/24(？)00:00:00 ID:money_soku

yaruo_tenten



現在ホットなニュース！：










010mini


　記事途中にコメントが入ります。
　現在ONです。


以下2chの反応と管理人の反応です



5: 稼げる名無しさん 2016/08/02(火) 02:30:26.82 ID:jSeqzZCM0.net
さすがヤフー氏ね

6: 稼げる名無しさん 2016/08/02(火) 02:30:30.88 ID:9toxpjh+0.net
ヤフーの人工知能に文句言う言葉をいえばヘイト認定だろｗｗｗｗ

7: 稼げる名無しさん 2016/08/02(火) 02:30:31.77 ID:KiUXarr20.net
普通名詞が引っかかる仕様_(:3 」∠)_

8: 稼げる名無しさん 2016/08/02(火) 02:31:05.51 ID:qis97Z8+0.net
そもそも、ヘイトの定義があいまいだし
表現の自由の方が圧倒的に重要

11: 稼げる名無しさん 2016/08/02(火) 02:31:41.88 ID:e7xwUHJT0.net
こんな事してたら中国と変わらんだろｗ
頭おかしいのか

35: 稼げる名無しさん 2016/08/02(火) 02:35:41.55 ID:nU+tG6o50.net
ねこ大好きもちゃんと引っかかるのか？

43: 稼げる名無しさん 2016/08/02(火) 02:37:02.48 ID:ZeVvKLCm0.net
大丈夫だ。
このシステムのAI自体がヘイトを覚えて、投稿し出すからｗ

62: 稼げる名無しさん 2016/08/02(火) 02:40:05.60 ID:hXNtGaHc0.net
映画「1984」

>>43
どこのマイクロソフトTay？

48: 稼げる名無しさん 2016/08/02(火) 02:37:48.07 ID:jzcbQ5yJ0.net
識別してどうするのかだろ。
排斥して聞いて心地よいものばかりの世の中にしようというのかな。

82: 稼げる名無しさん 2016/08/02(火) 02:45:05.01 ID:IfWlIh4G0.net
あほらし、たとえで書いても識別されるのかｗｗｗ

89: 稼げる名無しさん 2016/08/02(火) 02:45:46.91 ID:PFNkum8z0.net
ただの検閲装置ですがなｗ
凄い社会になったもんだ

169: 稼げる名無しさん 2016/08/02(火) 02:56:28.05 ID:vnit7nQv0.net
※ただし反日ヘイトには見逃します

176: 稼げる名無しさん 2016/08/02(火) 02:57:40.82 ID:/c5SjtV30.net
そして誰もいなくなった

182: 稼げる名無しさん 2016/08/02(火) 02:58:28.72 ID:MvdazjE20.net
>>176
暇だからAIが別のAIと会話するようになったとさ

216: 稼げる名無しさん 2016/08/02(火) 03:04:51.83 ID:PnfiUzTp0.net
>>176
それになるかあるいは
末期のスターリン時代みたいに話題にできるのは
お天気の話だけになるのかな

187: 稼げる名無しさん 2016/08/02(火) 02:59:30.25 ID:3Nzc51sJ0.net
まあ、日本人で似たサイト作ればいいんだよ。

222: 稼げる名無しさん 2016/08/02(火) 03:05:44.34 ID:Uvgs76Hk0.net
規制しまくって結果何も残らないんだろうね
気持ち悪い世の中だな

225: 稼げる名無しさん 2016/08/02(火) 03:06:40.95 ID:MvdazjE20.net
>>222
AIが残る

231: 稼げる名無しさん 2016/08/02(火) 03:07:37.56 ID:EOs78uQi0.net
これUSのYahooによる英語ベースでの研究成果の記事でしょ？

236: 稼げる名無しさん 2016/08/02(火) 03:09:31.06 ID:qa6uRC8mO.net
着々とディストピアが完成しつつあるな

274: 稼げる名無しさん 2016/08/02(火) 03:17:42.06 ID:6zLEYZwG0.net
ジャップに言論の自由など必要ない

311: 稼げる名無しさん 2016/08/02(火) 03:23:56.19 ID:z9B5gaED0.net
>>274
おまえ自身がレイシストなんだよ

1001: 以下名無しさんに代わりまして管理人がお伝えします 1848/01/24(？)00:00:00 ID:money_soku

　・・・なにか言いたい事は？

kekkyoku

　空気で察するお。


　こんな会話をどう判定するか気になるおー。


引用元：ai.2ch.sc/test/read.cgi/newsplus/1470072490/


管理人オススメニュース！：






タグ ：
#ヘイトスピーチ
#AI
#技術ニュース