grape [グレイプ] lifestyle

フェイスブックのAI同士が独自の言語で会話を始めた!?

By - 土屋 夏彦  公開:  更新:

Share Post LINE はてな コメント

2016年、Googleから「Google翻訳を強化させるにあたって、AI(人工知能)を活用していったところ、さまざまな言語に翻訳しやすいようにするために、AIが独自に『普遍的な言語』を作成しているようだ」という論文が発表されて、話題になっていたのをご存知でしょうか。

『Google翻訳』では、自らの仕組みを自動改良していけるようにすることを目的に、文章の意味を分析して理解する際に、従来のような個々のフレーズや単語に注目する方法ではなく、文章全体を注目させることで、飛躍的に翻訳の精度を向上させました。

その際たとえば、英語から韓国語の翻訳を強化させ、韓国語から日本語の翻訳を強化させた時、なんと英語から日本語の翻訳を強化させていなくても、勝手に強化されていたということが判明しました。さらにそれは、その間に言語がいくつ挟まれていても、瞬時に翻訳ができるようになるということで、どうやら独自の(中間)「言語」(interlingua)を自ら構築できるようになったからだというのです。それが話題になっていたわけです。

今回はそれをさらに進化させたAIの話題が舞い込んできました。それはなんと、フェイスブックがAIの研究開発のために、会話をさせていた2つのAI(チャットボット)の『ボブ』と『アリス』が独自の言語を使って話しはじめたと発表したことなんです。

そしてその会話は、発表後も継続していたようなんですが、担当者がそれを見ていて、「これは独自言語を越えて人間に理解できない会話のやりとりがされ始めたようだ」ということで、怖くなってプログラムを終了させた、とさらなる発表がありました。

それを受けてアメリカでは多くのメディアが報じ、たぶんシステムをシャットダウンさせたか、電源コードを抜いたかするくらい、相当なパニックになったようだとの話題が世界を駆け巡ったというわけです。

ボブとアリスの会話の一部が紹介されているのでそれを抜粋してみます。

Bob: i can i i everything else……….
(ボブ:私はできる 私 私はほかのすべて・・・)

Alice: balls have zero to me to me to me to me to me to me to me to me to
(アリス:ボールは私にとってゼロ、私にとって私にとって私にとって・・・)

Bob: you i everything else……….
(ボブ:あなた 私 ほかのすべて・・・)

Alice: balls have a ball to me to me to me to me to me to me to me
(アリス:複数のボールは私にとって1つのボール、私にとって私にとって私にとって・・・)

一応、単語としては英語がならんでいますが、どんな意味で会話しているのか分かりません。繋がった会話で見るとまったく意味不明なんですが、会話は続いていたんだそうです。

独自言語で会話を始めてしまった原因は「初期設定で英語(文法的にも)で会話するという指定がなかったから」ではないかと伝えられています。本当にそれだけが原因なんでしょうか?

ところで、同じ人工知能で翻訳する試みとして日本では「津軽弁をAIで標準語に翻訳」というユニークな研究が発表されました。

東北電力と青森県の弘前大学が、AI技術を使って、津軽弁の音声を標準語のテキストに自動翻訳する研究を2017年8月から始めるのだそうです。

そもそも、弘前大学病院では、日頃、地元の住民以外にはうまく聞き取れない津軽弁の患者さんと、意思の疎通をもっとできないかという課題を持っていたそうなんです。特に最近は県外からの医師や看護師も多くなり、現地の患者さんの言葉が理解できないケースがこれからも多くなるのではないかと懸念されていたんだそうです。

そこで、東北電力のコールセンターにかかってくる問い合わせなどの音声データ6700件(900時間分)を活用して、弘前大学のAIによる音声認識・言語処理技術と方言データベースで、津軽弁の音声認識や標準語で要約するシステムの開発を目指すことになったんだそうです。

さきほどのボブとアリスの会話ではないですが、津軽弁でAIが会話する様子も見てみたいですね。それこそ普通の日本人がそれを見ていてもまったく理解できないでしょう…。

ちなみに最近話題になっていて、いよいよ日本にも上陸するといわれている『スマートスピーカー』では、声をかけるとピザが頼めたり、タクシーが呼べたり、メールが打てたりしますが、『スマートスピーカー』とそんな会話のやりとりをしているうちに、何か予想もしない独自言語会話になってきたりしたらどうしましょう?いよいよAIは、人の知りえないエリアに突入を始めたのかもしれません。


[文・構成 土屋夏彦/grape編集部]

土屋夏彦

上智大学理工学部電気電子工学科卒業。 1980年ニッポン放送入社。「三宅裕司のヤングパラダイス」「タモリのオールナイトニッポン」などのディレクターを務める傍ら、「十回クイズ」「恐怖のやっちゃん」「究極の選択」などベストセラーも生み出す。2002年ソニーコミュニケーションネットワーク(現ソニーネットワークコミュニケーションズ株式会社)に転職。コンテンツ担当ジェネラルプロデューサーとして衛星放送 「ソネットチャンネル749」(現アジアドラマチックTV★So-net)で韓国ドラマブームを仕掛け、オンライン育成キャラ「Livly Island」では日本初の女性向けオンラインで100万人突破、2010年以降はエグゼクティブプロデューサー・リサーチャーとして新規事業調査を中心に活動。2015年早期退職を機にフリーランス。記事を寄稿する傍ら、BayFMでITコメンテーターとしても出演中、ラジオに22年、ネットに10年以上、ソーシャルメディア作りに携わるメディアクリエイター。

出典
AI Is Inventing Languages Humans Can’t Understand. Should We Stop It?東北電力プレスリリース

Share Post LINE はてな コメント

page
top