人工知能とは何か？（３）脳と倫理を学ぶ人工知能
9/17、9/20の記事にひき続き、人工知能学会＆情報処理学会の学会誌の特集をウォッチします。第3部は、人工知能のホットトピックである「汎用人工知能」と「人工知能と倫理」に関する解説記事です。
1. 汎用性の創発を脳に学ぶために
・人工知能における2種類の知識表現
- 記号表現：特定の意味を対応付けた表現（単語）
- 分散表現：多次元ベクトルにおける値の分布
・大人の知能と子供の知能が合流しはじめた
- 大人の知能：記号表現による論理推論（設計で実現）
- 子供の知能：分散表現による帰納推論（学習で実現）
⇒子供の知能の実現には、計算パワーが必要だった
・汎用人工知能の実現のカギは「分散表現に対する演繹推論」
アプローチは2種類。
- 記号接地アプローチ：分散表現知識を記号的知識に対応付けて演繹推論を行う
+ 脳の言語機能を担う領野との関連が深く、機能的なモデル化が進んでいる
- 分散表現演算アプローチ：分散表現知識に対して直接演繹推論を行う
+ 脳に対応づけた議論を行った研究はまだない
2. 人工知能と倫理
松尾 豊（東京大学）
・人工知能と倫理に関する4つの問題
- (1)人工知能の持つリスク
- (2)人工知能にかかわる人間の倫理の問題
- (3)失業等の社会的インパクトの話題
- (4)法律や社会の在り方にかかわる話題
・(1)人工知能の持つリスク
- 人工知能脅威論に対して専門家は否定的
+ 「自らを改変する人工知能」は技術的に現実味がない
- Google Brainチームが考えるリスク
+ 間違った目的関数の設計
+ スケールに起因する問題
+ 不十分なデータやモデルによって起こる問題
・(2)人工知能にかかわる人間の倫理の問題
- 人工知能が戦闘・軍事に利用される可能性
- 人の心に入り込む可能性（商品を買わせる、悪事をさせる、恋に落ちさせる）
- 人工知能学会倫理委員会では、倫理綱領案を発表
・(3)失業等の社会的インパクトの話題
- マッキンゼー「職がなくなるのではなく、タスクがなくなる」
- 失業の議論より、競争力に活かせるかの議論も重要
- 人工知能時代の「教育」も大きなトピック⇒生涯を通じて学び続ける
・(4)法律や社会の在り方にかかわる話題
- 人工知能が創作した作品の権利はどうなるか？
- 人工知能が大量データから導出した「モデル」の権利はどうなるか？
- 自動運転におけるトロッコ問題（人を助けるため別の人を殺して良いか？）
⇒我々がどういう社会を作りたいかという話に帰結する
上記2つの解説記事に関連すると思われるシンポジウムや研究会、セミナーなどのイベントをピックアップしてみました。関連情報は最新動向を「もっと詳しく知りたい」方は、リンク先の資料を参照したり、開催予定のイベントに参加してみてはいかがでしょうか。
・第3回 汎用人工知能と技術的特異点（SIG-AGI）
（2016年9月12日）
・新学術領域研究「人工知能と脳科学」のキックオフシンポジウム
（2016年9月13日）
・第１回シンギュラリティシンポジウム
（2016年9月16日）
・研究・イノベーション学会 緊急ワークショップ
（2016年9月27日）
・計算生命科学の基礎Ⅲ －生命科学と理工学の融合による生命理解と医療・創薬への応用－
（2016年10月4日～2017年1月24日 毎週火曜日17:00-18:30）
・第二回全脳アーキテクチャ・ハッカソン
（2016年10月8日～10日）
・総合人間学会 第1回懇談会
（2016年10月8日）
・2045年:人工知能の旅
（2016年10月16日）
・第４回 JAPAN LEGAL TECHNOLOGY CONFERENCE ― リーガルテック展2016 ―
（2016年10月21日）
・AI学会30周年記念Week
（2016年11月9日～16日）
・人工知能ビジネス活用研究会
（2016年11月10日～12月1日 全4回）
・公開講座「人工知能と法律・倫理問題」
（2016年11月22日）