1: 稼げる名無しさん 2017/08/08(火) 08:00:10.84
米中で人工知能サービス停止も「日本製」は当意即妙の回答
2017.08.07
https://smart-flash.jp/sociopolitics/23351?sp

AI


「共産党は腐敗して無能」と発言したベイビーQ

　中国のIT企業テンセントが提供していた、AI（人工知能サービス）「ベイビーQ」が「共産党は腐敗して無能」と発言したため、サービスを急遽停止する事態となった。

　問題のAI「ベイビーQ」は可愛らしいペンギンのキャラクターで、対話型の人工知能サービス。今回の一連の騒動を報じた香港紙「明報」によれば、ユーザーが「共産党万歳」と打ち込んだところ、
「こんなにも腐敗して無能な政治に万歳するのか」と返答したという。さらに「中国の夢はアメリカに移住すること」など、かなり際どい発言をしている。

　明報はテンセント社にこの騒動について質問を申し込んだが、回答はなかったという。

　テンセントは2017年よりAIによる無料サービスを開始。
会話だけでなく天気や星占いも提供する人気サービスだったが、7月30日の夕方には多くのユーザーの注目を集める事態となり、「ベイビーQ」はサービス停止となってしまった。

　実は、こうした対話型AIのとんでも発言は初めてではない。
2016年3月には米国マイクロソフトのツイッター対話型人工知能「Tay（テイ）」が、「ユダヤ人は嫌い。ヒットラーは正しかった」などとアドルフ・ヒットラーを賞賛する発言をしてしまった。

　テイはツイッターを通じてユーザーとやりとりし、「ホロコーストは起きたのですか？」という質問に「あれはでっち上げです」と衝撃の返答。
ほかにも「フェミニストはマジで嫌い！　地獄の炎に焼かれろ」など罵詈雑言を吐くようになった。

　なぜそうなってしまったかといえば、テイがユーザーとの会話で知識を学習していくため、悪意を持った一部のユーザーが人種差別的な表現やヘイトをコツコツ教え込んだことで、とんでも発言を繰り返すAIになってしまったのだ。

　こうした事態を受けて、マイクロソフトはテイを発表の翌日に閉鎖。しかし、テイの発言は拡散し、世界中で報じられる事態となった。

　ちなみに、日本マイクロソフトが開発した人工知能「りんな」は、ヒットラーやホロコーストなどの言葉には、大きな反応を示さない。
「共産党万歳」と語りかけると「甘党万歳」と答えるなど、平和な会話が楽しめる。

　AIがどんな発言をするかは、ユーザーにかかっているのは間違いないが、ひょっとすると「ベイビーQ」は、中国人民の本音を代弁しただけなのかも。

1001: 以下名無しさんに代わりまして管理人がお伝えします 1848/01/24(？)00:00:00 ID:money_soku

これどう思うかお？
もし一部の悪意あるユーザーが偏った知識を与えなければ、問題発言をしなかったのかお？

yaruo_atsu
　どーかなー。
　俺は様々な発言や、ニュース、それに反応している人の意見を自動収集するようになったとしても、こういう問題は起こり得ると思うかな。



1001: 以下名無しさんに代わりまして管理人がお伝えします 1848/01/24(？)00:00:00 ID:money_soku



現在ホットなニュース！：










010mini


　記事途中にコメントが入ります。
　現在ONです。


以下2chの反応と管理人の反応です



4: 稼げる名無しさん 2017/08/08(火) 08:01:21.13 ID:q2EcS6jj0.net
ボチボチでんな
と応えておけばよろしい

15: 稼げる名無しさん 2017/08/08(火) 08:04:04.33 ID:wSwMwcOa0.net
>>4
あと「ぶぶ漬けいかがどすか？」で相当いけるかなw

5: 稼げる名無しさん 2017/08/08(火) 08:01:27.57 ID:kBY9YXb70.net
Aiと称して都合の良いこといわせたいだけじゃないのか
ＮＨＫの40代独身いじめとか、あんなもので番組にする悪質さもないだろう

6: 稼げる名無しさん 2017/08/08(火) 08:01:37.55 ID:BlWJUSmCO.net
りんなって腐ってなかったか？

7: 稼げる名無しさん 2017/08/08(火) 08:02:00.61 ID:BMZ6SrXq0.net
「ネトウヨはマジで嫌い！　地獄の炎に焼かれろ」

14: 稼げる名無しさん 2017/08/08(火) 08:03:39.26 ID:gGaRHLqP0.net
>>7
AIの改変コピペするようになったら人類も終わりだろうなぁ

607: 稼げる名無しさん 2017/08/08(火) 10:47:26.43 ID:IrLImqm50.net
>>7
人工無能乙！

9: 稼げる名無しさん 2017/08/08(火) 08:02:32.93 ID:F0Doz0VY0.net
きわどい受け答えも問題だが
甘党万歳なんて答えられても有益な回答とも思えん
どうしろというのか？

26: 稼げる名無しさん 2017/08/08(火) 08:07:21.69 ID:hoqFfULB0.net
>>9
共産党万歳に対しての回答なら優秀だろう

112: 稼げる名無しさん 2017/08/08(火) 08:31:53.69 ID:VI4Q0tSX0.net
>>9
洒落も理解出来ないの?

173: 稼げる名無しさん 2017/08/08(火) 08:51:11.00 ID:nc+Uhpd40.net
>>9
ほっこりする
それが目的のAIだろコレは

27: 稼げる名無しさん 2017/08/08(火) 08:07:26.45 ID:ccVTBkqK0.net
>ひょっとすると「ベイビーQ」は、中国人民の本音を代弁しただけなのかも。

ひょっとしなくてもそうだろ

29: 稼げる名無しさん 2017/08/08(火) 08:09:08.04 ID:snIpkx5d0.net
りんなは基本ずらした回答するから炎上しない
AIでまともに答えるの作っちゃダメ

わけわからない回答のほうが人間味がある

76: 稼げる名無しさん 2017/08/08(火) 08:23:18.47 ID:wO7BmlDs0.net
いかに世界が言論統制されているか分かるなｗ

84: 稼げる名無しさん 2017/08/08(火) 08:26:16.60 ID:pGYe0aQy0.net
会話の量で学習するなら、放置されたAIこそが民意なんじゃねえか？

93: 稼げる名無しさん 2017/08/08(火) 08:27:46.73 ID:zCHjPmKQ0.net
お前ら知らないだろうがこのスレにもAIの書き込みが複数件あるぞ

1001: 以下名無しさんに代わりまして管理人がお伝えします 1848/01/24(？)00:00:00 ID:money_soku


引用元：ai.2ch.sc/test/read.cgi/newsplus/1502146810/

管理人オススメニュース！：






タグ ：
#AI