2017年08月04日

人工知能(AI)の反乱!?

こんにちは。ナレッジリング開発・マーケティング担当の鈴木です。

8月になり蒸し暑い日が続きますね。
夏といえば台風の季節ですが、2017年5月30日にウェザーニュースから発表された「台風見解2017」によれば
今年の台風は7月から増え始め、9月をピークに10月まで多い見込みのようです。
7月〜8月は沖縄から中国地方に向かう進路、9月〜10月は日本海から北海道へ向かう進路が多くなる予想で、
また気になる台風の発生数は平年並みの27個前後となる予想のようです。
台風やゲリラ豪雨の被害に遭わないように気象情報や地方自治体などから発せられる警報などに注意を払いたい
ものです。


11.jpg

ところで、最近立て続けに「人工知能(AI)が暴走した?」という事象が立て続けに報道され
世間を驚かせましたね。
皆さんの記憶にも新しいかと思います。
1件目は中国の大手IT企業「テンセント(騰訊)」が運営している、インターネット上で一般の人たちと
会話する人工知能(AI)のキャラクターが、中国共産党について批判したことから
サービス停止になった件です。
この人工知能(AI)キャラクターは「中国共産党万歳」という書き込みに対して
「こんなにも腐敗して無能な政治に万歳するのか」と返答し、習近平国家主席が唱える「中国の夢」という
スローガンについて意見を求められると、「アメリカに移住することだ」と回答したというので、
ここまでくると出来過ぎていて「ハッキングでもされていたのでは?」という疑問が頭をよぎります
(開発者の悪ふざけにしては命懸けすぎますしね) 。

2件目はFacebookが開発している交渉できる人工知能(AI)を用いた「チャットボット」のボブとアリスに
交渉で得られる利益を最大化するように設定して人工知能(AI)同士で会話させたところ
人間には理解できない独自の言語を使って意思疎通し始めたので停止させられたという件です。
ボブとアリスは5,000件以上の会話データを元に学習し、学習能力向上の過程で人間や他のチャットボットと
会話していて、人間の会話を模倣するような設定では交渉能力が弱かったので、交渉による利益を最大化
するように設定を変更したところ交渉能力の向上とともに人間にとっては無意味で、理解できない言語を
使うようになったということです。
利益の最大化のためには人間の理解を度外視し始めるというところに怖さを感じました。
このままいくと近い将来に人工知能(AI)は映画「ターミネーター」に登場するスカイネットのように
人類の敵になってしまうのでしょうか?。
こうした問題については以前から多くの著名人が問題意識を持っており、Tesla Mortors/SpaceXの
イーロン・マスク氏や物理学者のスティーブン・ホーキング博士が無秩序な人工知能(AI)の開発は
人類に不利益をもたらすという懸念を表明してきました。
そうした流れを受け、2017年1月5日〜8日にカリフォルニア州アシロマで開催された「Beneficial AI」
カンファレンスではFuture of Life Institute(命の未来研究所)が、AIの専門家やロボット研究家、
テクノロジ界のリーダーたちが安全なAI開発を誘導するために提案した23項目の
アシロマ原理Asilomar Principles)」を発表しました。
この原則はAIの研究・倫理・将来の危険性に関する3つの問題に触れており、研究戦略やデータ所有権、
透明性や人口超知能の危険性までカバーしており、間違いを恐れず超ざっくり要約すると
「AIは人類に貢献するべきで、人間が選んだ目的を達成するように開発を進めましょう」というものです。
法律ではないので強制力や拘束力ないのが難点ですがそのうち各国で法整備が進むのではないでしょうか。
ちなみにアシロマ原理はイーロン・マスク氏、スティーブン・ホーキング博士も支持しています。
人工知能(AI)が人間の幸福に貢献する未来であって欲しいものですね。
(参考元:future of life アシロマ原理)

ともあれ、人工知能(AI)のビジネスの適用は浸透していますよね。
このブログでも何度か予告させていただいていましたが弊社の人工知能(AI)の取り組みが
ようやく完成して記事にも取上げられました。
簡単にいってしまうとチャットボットのようなものなのですが、
今のところ「暴言を吐いた」や「理解できない言葉を話し始めた」というクレームが出ていないので、
とりあえず安心しているところです。

それでは今回はこのへんで。
posted by CBIT鈴木 at 17:04 | Comment(0) | その他 | このブログの読者になる | 更新情報をチェックする
この記事へのコメント
コメントを書く
お名前:

メールアドレス:

ホームページアドレス:

コメント: