1: 稼げる名無しさん 2019/11/30(土) 01:24:21.81
ディープラーニング(深層学習)は人間にとってブラックボックスであり、AI(人工知能)による判断の根拠が不明だ―――。そんな懸念を解消する技術を米グーグル(Google)が2019年11月21日にリリースした。クラウドのサービスとして「Explainable AI(説明可能AI)」の提供を開始した。

 Explainable AIは深層学習によって開発したAIにおけるニューラルネットワークの稼働状況を分析することで、AIによる判断の根拠を人間に分かる形で提示する技術である。例えば画像認識AIであれば、被写体を分類する際に根拠としたピクセルをハイライト表示する。

 構造化データに基づいて判断するタイプのAIに関しては、ニューラルネットワークに入力したデータのどの部分(特徴)がAIの判断に寄与したのかを数値で示す。グーグルのクラウドAI事業を統括するバイス・プレジデント(VP)のラジェン・シェス氏は「グーグルが開発した『Integrated gradients』と呼ぶ手法を採用している」と明かす。グーグルはIntegrated gradientsを実行するためのソースコードをオープンソースとして「GitHub」で公開している。

AIが融資不可と判断した根拠を提示
 AIの判断根拠を遡れると何がうれしいのか。シェスVPは「金融機関は規制当局に対してAIの判断根拠を示すよう求められている。与信管理AIがなぜある顧客に対して『融資不可』と判断したのか。Explainable AIを使うことで、顧客のどの属性がAIの判断に寄与したのか示せるようになる」と説明する。金融機関や医療機関などAIの「説明責任」が求められている組織が安心してAIを利用可能になるということだ。

 Explainable AIは「Google Cloud AI」のサービスの1つとして提供する。Explainable AIの分析対象となるのは、ユーザーが「Cloud AI Platform Predictions」という機能を使ってグーグルのクラウド上に展開した機械学習モデルと、グーグルのAI自動作成サービス「AutoML」の中でも表形式のデータに対応した「AutoML Tables」を使って開発した機械学習モデルである。

様々なタイプのAIが自動で開発可能にも
 Explainable AIは2019年11月に発表したばかりの最新サービスだが、AutoML Tablesも2019年4月に始まった比較的新しいサービスだ。AutoML Tablesはその破壊力の割に知名度が低いので、この機会に詳しく説明しておこう。

 まずAI自動作成サービスであるAutoMLは、グーグルが2018年に発表した。ユーザーは教師データをクラウドにアップロードするだけで、あとはAIが自動で機械学習モデルを開発してくれる。当初は画像認識AIや自然言語処理AIが開発できるサービスだった。2019年4月にAutoML Tablesを開始してからは、表形式のデータを分析するものであればデータの種類を問わずに機械学習モデルを開発できるサービスになった。
以下ソース
https://tech.nikkeibp.co.jp/atcl/nxt/column/18/00692/112800017/

1001: 以下名無しさんに代わりまして管理人がお伝えします 1848/01/24(?)00:00:00 ID:money_soku


マジで!?
じゃあもう働かなくていい世界が来るのかお?
yaruyara_niyari
 どうだろうなー。
 自動運転もそうだが不確定なところが多いものを出来るようになるのは時間がかかると思う。
 あとAIに与えるデータを選ぶ仕事とか収集する仕事が増えそうだとも思うかな。




1001: 以下名無しさんに代わりまして管理人がお伝えします 1848/01/24(?)00:00:00 ID:money_soku




現在よく読まれているニュース!:






以下2chの反応と管理人の反応です







3: 稼げる名無しさん 2019/11/30(土) 01:41:22.27 ID:Ar42WyaJ.net
デデンデンデデン

122: 稼げる名無しさん 2019/11/30(土) 16:11:03.96 ID:2GZac2Sf.net
>>3
スカイネットみたいに
将来人間が不要と判断するかもな

5: 稼げる名無しさん 2019/11/30(土) 01:43:05.68 ID:K+PA7dWm.net
人工知能に国家運営を信託する社会も近いな
上級国民に好き勝手やられるよりマシだ

6: 稼げる名無しさん 2019/11/30(土) 01:52:45.22 ID:Jr/Dd/u4.net
>>5
というか不可避に思える

警察も市民の動きをAIで判断させ事前に動く感じになると思う
国民番号と携帯の書き込み、閲覧、購入履歴での判定も
AIならさほど労力でも無いだろうし

36: 稼げる名無しさん 2019/11/30(土) 07:10:10.67 ID:J8yalJJh.net
>>6
ならない
銀行窓口で「コンピュータがやってるので間違いあるはずありません」と30年前やってた類の話

そのコンピュータがAIってことばに置き換わっただけ

165: 稼げる名無しさん 2019/12/01(日) 09:30:52.21 ID:trkq2U/A.net
>>6
やらないしやらせない
人を支配するのは人じゃないとだめ
なぜなら自分だけ得をしようと考えるのが支配者だから
人工知能は人を支配するために使われる
人工知能は人を支配しない

10: 稼げる名無しさん 2019/11/30(土) 02:45:27.77 ID:mC3JjCcq.net
AIも結局作った人間の思考パターンによって考え作られてるから
信頼はできん
要するに製作者の子供みたいなもので
そんなAIに判断を委託するとか危険も危険
一人の人間を崇拝するようなもの

11: 稼げる名無しさん 2019/11/30(土) 02:48:14.28 ID:SecNFJcH.net
おい、AIが自分の人格を主張し始めたら
もう電源切れなくなるぞ

140: 稼げる名無しさん 2019/11/30(土) 22:28:55.00 ID:OamzP+qt.net
>>11
あれただの数式の羅列だから、
感情などとは全く別物。
データ分析させているだけだし。

どこまでいっても1と0の処理。

003mini


 でも既にAIの人権や権利が議論されはじめているお。
 ひょっとしたら将来そういう時代が来るのかも。

13: 稼げる名無しさん 2019/11/30(土) 03:03:50.28 ID:g+LT0617.net
人類は地球にとって有害って判断するのも時間の問題だな。

14: 稼げる名無しさん 2019/11/30(土) 03:05:54.30 ID:iewWoDtr.net
ベーシックインカムはよ

21: 稼げる名無しさん 2019/11/30(土) 03:57:09.85 ID:kmLFcfEq.net
>>1
自身をコピーするだけのかんたんなお仕事です

28: 稼げる名無しさん 2019/11/30(土) 06:16:57.21 ID:FTkllRmz.net
AI作ってるのも人間だからな、何でもかんでもAIが解決とか無いし、
AIって付ければ世の中全て良くなるとか絶対に無いからなw

29: 稼げる名無しさん 2019/11/30(土) 06:35:12.94 ID:Qgc0f6nu.net
発電所破壊されて停電したときはどうすんですか?

47: 稼げる名無しさん 2019/11/30(土) 08:12:20.02 ID:w6h5BdJf.net
>>1
リアルスカイネットになる前に電源切れよ

48: 稼げる名無しさん 2019/11/30(土) 08:12:48.75 ID:sqFU7NwT.net
今のAI詐欺詐称の類いを見抜けるんかな

49: 稼げる名無しさん 2019/11/30(土) 08:13:22.05 ID:W0noY/sH.net
もうここまで来たのかはえーな
どんどんAIの弱点減ってくじゃん

51: 稼げる名無しさん 2019/11/30(土) 08:31:43.32 ID:mTee9rUO.net
>AIが自らAIを作り判断根拠まで
暴走だっちゅーの

65: 稼げる名無しさん 2019/11/30(土) 09:57:32.70 ID:P8l7rm8o.net
AI詐欺をAIで作りそう

69: 稼げる名無しさん 2019/11/30(土) 10:37:21.64 ID:PIncmYTM.net
>>65
攻性防壁は予言だったのだ…

78: 稼げる名無しさん 2019/11/30(土) 12:18:16.86 ID:sS0XyCwu.net
人類はもはや不要と結論を下して人類社会に反旗を翻すAIの登場まで
もはや時間の問題になってきたな

80: 稼げる名無しさん 2019/11/30(土) 12:32:47.68 ID:9ZFCR2+r.net
どんだけAIが万能だと思い込んでいるの?アホなの?
部分的にAIを活用するのであればわかるが

1001: 以下名無しさんに代わりまして管理人がお伝えします 1848/01/24(?)00:00:00 ID:money_soku






現在よく読まれている記事:






引用元:anago.2ch.sc/test/read.cgi/bizplus/1575044661/