人工知能とは何か?(3)脳と倫理を学ぶ人工知能
9/17、9/20の記事にひき続き、人工知能学会&情報処理学会の学会誌の特集をウォッチします。第3部は、人工知能のホットトピックである「汎用人工知能」と「人工知能と倫理」に関する解説記事です。
1. 汎用性の創発を脳に学ぶために
・人工知能における2種類の知識表現
- 記号表現:特定の意味を対応付けた表現(単語)
- 分散表現:多次元ベクトルにおける値の分布
・大人の知能と子供の知能が合流しはじめた
- 大人の知能:記号表現による論理推論(設計で実現)
- 子供の知能:分散表現による帰納推論(学習で実現)
⇒子供の知能の実現には、計算パワーが必要だった
・汎用人工知能の実現のカギは「分散表現に対する演繹推論」
アプローチは2種類。
- 記号接地アプローチ:分散表現知識を記号的知識に対応付けて演繹推論を行う
+ 脳の言語機能を担う領野との関連が深く、機能的なモデル化が進んでいる
- 分散表現演算アプローチ:分散表現知識に対して直接演繹推論を行う
+ 脳に対応づけた議論を行った研究はまだない
2. 人工知能と倫理
松尾 豊(東京大学)
・人工知能と倫理に関する4つの問題
- (1)人工知能の持つリスク
- (2)人工知能にかかわる人間の倫理の問題
- (3)失業等の社会的インパクトの話題
- (4)法律や社会の在り方にかかわる話題
・(1)人工知能の持つリスク
- 人工知能脅威論に対して専門家は否定的
+ 「自らを改変する人工知能」は技術的に現実味がない
- Google Brainチームが考えるリスク
+ 間違った目的関数の設計
+ スケールに起因する問題
+ 不十分なデータやモデルによって起こる問題
・(2)人工知能にかかわる人間の倫理の問題
- 人工知能が戦闘・軍事に利用される可能性
- 人の心に入り込む可能性(商品を買わせる、悪事をさせる、恋に落ちさせる)
- 人工知能学会倫理委員会では、倫理綱領案を発表
・(3)失業等の社会的インパクトの話題
- マッキンゼー「職がなくなるのではなく、タスクがなくなる」
- 失業の議論より、競争力に活かせるかの議論も重要
- 人工知能時代の「教育」も大きなトピック⇒生涯を通じて学び続ける
・(4)法律や社会の在り方にかかわる話題
- 人工知能が創作した作品の権利はどうなるか?
- 人工知能が大量データから導出した「モデル」の権利はどうなるか?
- 自動運転におけるトロッコ問題(人を助けるため別の人を殺して良いか?)
⇒我々がどういう社会を作りたいかという話に帰結する
上記2つの解説記事に関連すると思われるシンポジウムや研究会、セミナーなどのイベントをピックアップしてみました。関連情報は最新動向を「もっと詳しく知りたい」方は、リンク先の資料を参照したり、開催予定のイベントに参加してみてはいかがでしょうか。
・第3回 汎用人工知能と技術的特異点(SIG-AGI)
(2016年9月12日)
・新学術領域研究「人工知能と脳科学」のキックオフシンポジウム
(2016年9月13日)
・第1回シンギュラリティシンポジウム
(2016年9月16日)
・研究・イノベーション学会 緊急ワークショップ
(2016年9月27日)
・計算生命科学の基礎Ⅲ -生命科学と理工学の融合による生命理解と医療・創薬への応用-
(2016年10月4日~2017年1月24日 毎週火曜日17:00-18:30)
・第二回全脳アーキテクチャ・ハッカソン
(2016年10月8日~10日)
・総合人間学会 第1回懇談会
(2016年10月8日)
・2045年:人工知能の旅
(2016年10月16日)
・第4回 JAPAN LEGAL TECHNOLOGY CONFERENCE ― リーガルテック展2016 ―
(2016年10月21日)
・AI学会30周年記念Week
(2016年11月9日~16日)
・人工知能ビジネス活用研究会
(2016年11月10日~12月1日 全4回)
・公開講座「人工知能と法律・倫理問題」
(2016年11月22日)