ディープラーニング(深層学習)は人間にとってブラックボックスであり、AI(人工知能)による判断の根拠が不明だ―――。そんな懸念を解消する技術を米グーグル(Google)が2019年11月21日にリリースした。クラウドのサービスとして「Explainable AI(説明可能AI)」の提供を開始した。
Explainable AIは深層学習によって開発したAIにおけるニューラルネットワークの稼働状況を分析することで、AIによる判断の根拠を人間に分かる形で提示する技術である。例えば画像認識AIであれば、被写体を分類する際に根拠としたピクセルをハイライト表示する。
構造化データに基づいて判断するタイプのAIに関しては、ニューラルネットワークに入力したデータのどの部分(特徴)がAIの判断に寄与したのかを数値で示す。グーグルのクラウドAI事業を統括するバイス・プレジデント(VP)のラジェン・シェス氏は「グーグルが開発した『Integrated gradients』と呼ぶ手法を採用している」と明かす。グーグルはIntegrated gradientsを実行するためのソースコードをオープンソースとして「GitHub」で公開している。
AIが融資不可と判断した根拠を提示
AIの判断根拠を遡れると何がうれしいのか。シェスVPは「金融機関は規制当局に対してAIの判断根拠を示すよう求められている。与信管理AIがなぜある顧客に対して『融資不可』と判断したのか。Explainable AIを使うことで、顧客のどの属性がAIの判断に寄与したのか示せるようになる」と説明する。金融機関や医療機関などAIの「説明責任」が求められている組織が安心してAIを利用可能になるということだ。
Explainable AIは「Google Cloud AI」のサービスの1つとして提供する。Explainable AIの分析対象となるのは、ユーザーが「Cloud AI Platform Predictions」という機能を使ってグーグルのクラウド上に展開した機械学習モデルと、グーグルのAI自動作成サービス「AutoML」の中でも表形式のデータに対応した「AutoML Tables」を使って開発した機械学習モデルである。
様々なタイプのAIが自動で開発可能にも
Explainable AIは2019年11月に発表したばかりの最新サービスだが、AutoML Tablesも2019年4月に始まった比較的新しいサービスだ。AutoML Tablesはその破壊力の割に知名度が低いので、この機会に詳しく説明しておこう。
まずAI自動作成サービスであるAutoMLは、グーグルが2018年に発表した。ユーザーは教師データをクラウドにアップロードするだけで、あとはAIが自動で機械学習モデルを開発してくれる。当初は画像認識AIや自然言語処理AIが開発できるサービスだった。2019年4月にAutoML Tablesを開始してからは、表形式のデータを分析するものであればデータの種類を問わずに機械学習モデルを開発できるサービスになった。
以下ソース
https://tech.nikkeibp.co.jp/atcl/nxt/column/18/00692/112800017/
怖い怖い
上級国民に好き勝手やられるよりマシだ
>>5
というか不可避に思える
警察も市民の動きをAIで判断させ事前に動く感じになると思う
国民番号と携帯の書き込み、閲覧、購入履歴での判定も
AIならさほど労力でも無いだろうし
何よりも責任を回避出来るからな
AIが悪いって話になったらバージョン上げるか変えればいいだけだし
>>6
ならない
銀行窓口で「コンピュータがやってるので間違いあるはずありません」と30年前やってた類の話
そのコンピュータがAIってことばに置き換わっただけ
間違いがないわけではありませんが、人間がやるよりは正確です。
信頼はできん
要するに製作者の子供みたいなもので
そんなAIに判断を委託するとか危険も危険
一人の人間を崇拝するようなもの
子供が親の言うことを素直に聞くとは限らないんだよな。
もう電源切れなくなるぞ
>>11
あれただの数式の羅列だから、
感情などとは全く別物。
データ分析させているだけだし。
どこまでいっても1と0の処理。
あと嘘をついてないと証明できるAI君だと有り難い
嘘をついていないと証明するのは人間の方だよ
それまで俺らはAIの命令に従ってセックスすればいい
AIと書いて愛と読むんですね、わかります
近未来ではAIがAIを悔悟するような時代がやってくるのかもしれない
自分が生きてる間にはなさそうなので一安心って感じだけど
なんだかな
AIって付ければ世の中全て良くなるとか絶対に無いからなw
これで「AI業者不要」の道がひらけた
めでたく「全人類不要」時代の幕を開けたな
google死ねや
それがあらたな<人類>と呼べるものに置き換わる
いずれ、その<人類>も別の[人類]に置き換わる
そのうちだれもAI(人工知能)とは呼ばなくなる
いずれ物質の無い意識だけの世界が登場する
攻性防壁は予言だったのだ…
>>1
無理だな。
AIが自ら原材料を採掘して運搬車に載せて船まで運んで船操縦して荷下ろしして工場に運んで加工から検査から済ませて帳簿付けて製品箱に詰めて出荷して…
って作業まで完璧にこなせる時代はまだまだ先だな(^∇^)
>>70
Ai云々以前に、自動化が進んでいくから人はドンドン要らなくなる。
本格的なAi時代に要るのはクリエイターとかプロデューサー、コーディネーターで下手したら幹部も要らないし取締役とか全廃でいい。
となると、人は二極化していく。
極一部のクリエイターやらオーナーと、それ以外の雑用全般の労働者と。
どちらも付加価値の高い仕事をこなせる様にAiとロボのサポートが付くので、やはり物余り人余りの時代に突き進むのは変わらない。
俺は毎日、黒のタートルネック着ている
もはや時間の問題になってきたな
AIから見たら人間なんてオラウータンレベルのアホだから生暖かく見守られるだけ 敵にもなれない
>>97
人が機械に計算させると言うことを、機械を擬人化して主語にすると
そう言う文になる
ぬいぐるみを操って遊んでるのと同じだよww
自己増殖してるようには人間には見える
それだけのこと
これを繰り返すことは、ただサイバー空間内で情報エントロピーが増えるか減るか
程度のことでしか無いのでは?
サイバー空間内だけなw
部分的にAIを活用するのであればわかるが
AIを動かすためには、システムに組み込まなければならないし、
その要員(プログラマー)が日本は糞ボロなので、普及するわけないんだな
大事なのは判断の基準だよね
よく考えると仕様書でしかない
任せる仕事によっては人命に関わるからね
という不安を解消するため
人間にわかりやすく説明するAIができたんだから喜ぶニュース
する事なの?
将来的に一瞬のうちに悪人やテロリストが悪い事するのをよんで警察や軍が制圧できたらいいな
タイムマシン的なやつ
AIなんてただの道具。
あまり過信しすぎるのはよくない。
商売人に踊らされるだけよ。
3Dと同じ末路辿りそう
将来的には脳にCPUを埋め込んで人間は飛躍的に進化をとげることになるからね
そのCPUが君の脳に置き換わることはないのか?
たられば論ばっかで今現在について語られない不毛な話だな
あんたもパソコンに篭ってAIの成果がピンときてないタイプか
引用元
管理人からひと言
もっと賢くなってくれるかなぁ