【AI】もはや人の介在は不要、AIが自らAIを作り判断根拠まで説明する時代が来た

1: 田杉山脈 ★ 2019/11/30(土) 01:24:21.81 ID:CAP_USER

ディープラーニング(深層学習)は人間にとってブラックボックスであり、AI(人工知能)による判断の根拠が不明だ―――。そんな懸念を解消する技術を米グーグル(Google)が2019年11月21日にリリースした。クラウドのサービスとして「Explainable AI(説明可能AI)」の提供を開始した。

Explainable AIは深層学習によって開発したAIにおけるニューラルネットワークの稼働状況を分析することで、AIによる判断の根拠を人間に分かる形で提示する技術である。例えば画像認識AIであれば、被写体を分類する際に根拠としたピクセルをハイライト表示する。

構造化データに基づいて判断するタイプのAIに関しては、ニューラルネットワークに入力したデータのどの部分(特徴)がAIの判断に寄与したのかを数値で示す。グーグルのクラウドAI事業を統括するバイス・プレジデント(VP)のラジェン・シェス氏は「グーグルが開発した『Integrated gradients』と呼ぶ手法を採用している」と明かす。グーグルはIntegrated gradientsを実行するためのソースコードをオープンソースとして「GitHub」で公開している。

AIが融資不可と判断した根拠を提示
AIの判断根拠を遡れると何がうれしいのか。シェスVPは「金融機関は規制当局に対してAIの判断根拠を示すよう求められている。与信管理AIがなぜある顧客に対して『融資不可』と判断したのか。Explainable AIを使うことで、顧客のどの属性がAIの判断に寄与したのか示せるようになる」と説明する。金融機関や医療機関などAIの「説明責任」が求められている組織が安心してAIを利用可能になるということだ。

Explainable AIは「Google Cloud AI」のサービスの1つとして提供する。Explainable AIの分析対象となるのは、ユーザーが「Cloud AI Platform Predictions」という機能を使ってグーグルのクラウド上に展開した機械学習モデルと、グーグルのAI自動作成サービス「AutoML」の中でも表形式のデータに対応した「AutoML Tables」を使って開発した機械学習モデルである。

様々なタイプのAIが自動で開発可能にも
Explainable AIは2019年11月に発表したばかりの最新サービスだが、AutoML Tablesも2019年4月に始まった比較的新しいサービスだ。AutoML Tablesはその破壊力の割に知名度が低いので、この機会に詳しく説明しておこう。

まずAI自動作成サービスであるAutoMLは、グーグルが2018年に発表した。ユーザーは教師データをクラウドにアップロードするだけで、あとはAIが自動で機械学習モデルを開発してくれる。当初は画像認識AIや自然言語処理AIが開発できるサービスだった。2019年4月にAutoML Tablesを開始してからは、表形式のデータを分析するものであればデータの種類を問わずに機械学習モデルを開発できるサービスになった。
以下ソース
https://tech.nikkeibp.co.jp/atcl/nxt/column/18/00692/112800017/

4: 名刺は切らしておりまして 2019/11/30(土) 01:41:55.12 ID:5+WwjahE
>>1
怖い怖い

5: 名刺は切らしておりまして 2019/11/30(土) 01:43:05.68 ID:K+PA7dWm
人工知能に国家運営を信託する社会も近いな
上級国民に好き勝手やられるよりマシだ

6: 名刺は切らしておりまして 2019/11/30(土) 01:52:45.22 ID:Jr/Dd/u4

>>5
というか不可避に思える

警察も市民の動きをAIで判断させ事前に動く感じになると思う
国民番号と携帯の書き込み、閲覧、購入履歴での判定も
AIならさほど労力でも無いだろうし

9: 名刺は切らしておりまして 2019/11/30(土) 02:42:56.03 ID:b2cAfvG/
>>6
何よりも責任を回避出来るからな
AIが悪いって話になったらバージョン上げるか変えればいいだけだし

36: 名刺は切らしておりまして 2019/11/30(土) 07:10:10.67 ID:J8yalJJh

>>6
ならない
銀行窓口で「コンピュータがやってるので間違いあるはずありません」と30年前やってた類の話

そのコンピュータがAIってことばに置き換わっただけ

166: 名刺は切らしておりまして 2019/12/01(日) 09:35:04.49 ID:J8ltcK8m
>>36
間違いがないわけではありませんが、人間がやるよりは正確です。

7: 名刺は切らしておりまして 2019/11/30(土) 01:53:56.31 ID:2NpBagnO
これで人口減少問題も解決だな!

10: 名刺は切らしておりまして 2019/11/30(土) 02:45:27.77 ID:mC3JjCcq
AIも結局作った人間の思考パターンによって考え作られてるから
信頼はできん
要するに製作者の子供みたいなもので
そんなAIに判断を委託するとか危険も危険
一人の人間を崇拝するようなもの

31: 名刺は切らしておりまして 2019/11/30(土) 06:46:53.21 ID:eHT9AZc5
>>10
子供が親の言うことを素直に聞くとは限らないんだよな。

11: 名刺は切らしておりまして 2019/11/30(土) 02:48:14.28 ID:SecNFJcH
おい、AIが自分の人格を主張し始めたら
もう電源切れなくなるぞ

140: 名刺は切らしておりまして 2019/11/30(土) 22:28:55.00 ID:OamzP+qt

>>11
あれただの数式の羅列だから、
感情などとは全く別物。
データ分析させているだけだし。

どこまでいっても1と0の処理。

15: 名刺は切らしておりまして 2019/11/30(土) 03:13:51.62 ID:87/vTYJ+
>>1
あと嘘をついてないと証明できるAI君だと有り難い

17: 名刺は切らしておりまして 2019/11/30(土) 03:19:13.28 ID:p+FkEdDp
>>15
嘘をついていないと証明するのは人間の方だよ

16: 名刺は切らしておりまして 2019/11/30(土) 03:18:34.98 ID:p+FkEdDp
AIが実際に人間の赤ん坊を産むのはまだ先だよ
それまで俺らはAIの命令に従ってセックスすればいい

54: 名刺は切らしておりまして 2019/11/30(土) 08:44:07.70 ID:WxP+AivM
>>16
AIと書いて愛と読むんですね、わかります

25: 名刺は切らしておりまして 2019/11/30(土) 05:18:06.59 ID:dYnNXbQ1

近未来ではAIがAIを悔悟するような時代がやってくるのかもしれない
自分が生きてる間にはなさそうなので一安心って感じだけど

なんだかな

28: 名刺は切らしておりまして 2019/11/30(土) 06:16:57.21 ID:FTkllRmz
AI作ってるのも人間だからな、何でもかんでもAIが解決とか無いし、
AIって付ければ世の中全て良くなるとか絶対に無いからなw

35: 名刺は切らしておりまして 2019/11/30(土) 07:04:35.65 ID:h8fz6y8O
>>1
これで「AI業者不要」の道がひらけた
めでたく「全人類不要」時代の幕を開けたな
google死ねや

38: 名刺は切らしておりまして 2019/11/30(土) 07:21:54.90 ID:pB+coTVa
地球上から人類が消滅して自己増殖AIが支配する
それがあらたな<人類>と呼べるものに置き換わる
いずれ、その<人類>も別の[人類]に置き換わる

39: 名刺は切らしておりまして 2019/11/30(土) 07:24:27.49 ID:pB+coTVa
AIは人類の進化の過程に過ぎない
そのうちだれもAI(人工知能)とは呼ばなくなる
いずれ物質の無い意識だけの世界が登場する

43: 名刺は切らしておりまして 2019/11/30(土) 07:47:20.73 ID:1inxESha
AI「あー、くそかったりー。 てめぇでやれや、人間。」

65: 名刺は切らしておりまして 2019/11/30(土) 09:57:32.70 ID:P8l7rm8o
AI詐欺をAIで作りそう

69: 名刺は切らしておりまして 2019/11/30(土) 10:37:21.64 ID:PIncmYTM
>>65
攻性防壁は予言だったのだ…

70: 名刺は切らしておりまして 2019/11/30(土) 10:57:32.88 ID:6q9sT+Ij

>>1
無理だな。

AIが自ら原材料を採掘して運搬車に載せて船まで運んで船操縦して荷下ろしして工場に運んで加工から検査から済ませて帳簿付けて製品箱に詰めて出荷して…
って作業まで完璧にこなせる時代はまだまだ先だな(^∇^)

71: 名刺は切らしておりまして 2019/11/30(土) 11:18:20.74 ID:7GBCQdCd

>>70
Ai云々以前に、自動化が進んでいくから人はドンドン要らなくなる。

本格的なAi時代に要るのはクリエイターとかプロデューサー、コーディネーターで下手したら幹部も要らないし取締役とか全廃でいい。

となると、人は二極化していく。
極一部のクリエイターやらオーナーと、それ以外の雑用全般の労働者と。
どちらも付加価値の高い仕事をこなせる様にAiとロボのサポートが付くので、やはり物余り人余りの時代に突き進むのは変わらない。

73: 名刺は切らしておりまして 2019/11/30(土) 11:47:05.43 ID:PmBIO6p7
選択する脳疲労がなくなる、
俺は毎日、黒のタートルネック着ている

78: 名刺は切らしておりまして 2019/11/30(土) 12:18:16.86 ID:sS0XyCwu
人類はもはや不要と結論を下して人類社会に反旗を翻すAIの登場まで
もはや時間の問題になってきたな

83: 名刺は切らしておりまして 2019/11/30(土) 12:47:27.40 ID:TbuyTkhn
>>78
AIから見たら人間なんてオラウータンレベルのアホだから生暖かく見守られるだけ 敵にもなれない

99: 名刺は切らしておりまして 2019/11/30(土) 14:57:24.22 ID:GAp61mUk
>>83
>>97
人が機械に計算させると言うことを、機械を擬人化して主語にすると
そう言う文になる
ぬいぐるみを操って遊んでるのと同じだよww

79: 名刺は切らしておりまして 2019/11/30(土) 12:20:14.15 ID:GAp61mUk
プログラムがプログラムを作れば
自己増殖してるようには人間には見える
それだけのこと
これを繰り返すことは、ただサイバー空間内で情報エントロピーが増えるか減るか
程度のことでしか無いのでは?
サイバー空間内だけなw

80: 名刺は切らしておりまして 2019/11/30(土) 12:32:47.68 ID:9ZFCR2+r
どんだけAIが万能だと思い込んでいるの?アホなの?
部分的にAIを活用するのであればわかるが

88: 名刺は切らしておりまして 2019/11/30(土) 13:12:15.24 ID:g6j+gyxI
>>80
AIを動かすためには、システムに組み込まなければならないし、
その要員(プログラマー)が日本は糞ボロなので、普及するわけないんだな

107: 名刺は切らしておりまして 2019/11/30(土) 15:21:54.86 ID:aphEmmgo
訴えられたくないからフレームワークばっかり作ってんのな

124: 名刺は切らしておりまして 2019/11/30(土) 16:30:41.16 ID:GAp61mUk
>>107
大事なのは判断の基準だよね
よく考えると仕様書でしかない
任せる仕事によっては人命に関わるからね

113: 名刺は切らしておりまして 2019/11/30(土) 15:36:11.29 ID:7M0sOe+g
AIはブラックボックスで何をやってるかわからない
という不安を解消するため
人間にわかりやすく説明するAIができたんだから喜ぶニュース

119: 名刺は切らしておりまして 2019/11/30(土) 15:54:43.47 ID:YrtD97sE
すまんがAIって忖度したら察したり空気を読んだり
する事なの?
将来的に一瞬のうちに悪人やテロリストが悪い事するのをよんで警察や軍が制圧できたらいいな
タイムマシン的なやつ

121: 名刺は切らしておりまして 2019/11/30(土) 16:06:46.07 ID:XN9NlwEQ
どんなもん使ったって最終判断を下すのは人間だよ。
AIなんてただの道具。
あまり過信しすぎるのはよくない。
商売人に踊らされるだけよ。

132: 名刺は切らしておりまして 2019/11/30(土) 20:01:23.33 ID:+kUIOGXr
AIも騒いでるわりにはってところがあるよな
3Dと同じ末路辿りそう

142: 名刺は切らしておりまして 2019/11/30(土) 22:52:15.77 ID:fStNK18w
AIを恐れる必要は全くないわな
将来的には脳にCPUを埋め込んで人間は飛躍的に進化をとげることになるからね

143: 名刺は切らしておりまして 2019/11/30(土) 22:54:37.41 ID:VFccMWfL
>>142
そのCPUが君の脳に置き換わることはないのか?

148: 名刺は切らしておりまして 2019/12/01(日) 03:46:38.62 ID:t2PAI7Wj
AIの記事かぁ
たられば論ばっかで今現在について語られない不毛な話だな

177: 名刺は切らしておりまして 2019/12/01(日) 13:05:21.30 ID:OaMkjlrV
>>148
あんたもパソコンに篭ってAIの成果がピンときてないタイプか

197: 名刺は切らしておりまして 2019/12/03(火) 12:39:51.33 ID:4sAcISAJ
やばいな、未来からロボットが送られてきそう

引用元

管理人からひと言

もっと賢くなってくれるかなぁ

スポンサーリンク
スポンサーリンク
スポンサーリンク

シェアする

フォローする