HyperCLOVA_Blog

【開発者インタビュー】「どちらが人でどちらがAIかわからない!?」LINE CLOVAが開発中の「大規模汎用言語モデル」HyperCLOVAが、第12回対話システムシンポジウムで見事1位を獲得しました!

お知らせ

2021年12月。LINE のAIカンパニー社内に嬉しいニュースが飛び込んできました! LINE CLOVAがNAVERと共同開発しているAI「HyperCLOVA」が、人工知能研究における日本随一の対話システムシンポジウムにて2部門で1位を獲得し、その技術力が対話システムを最前線で研究・開発されている有識者に認めてもらえたというのです!

 

1位を獲得したのは、同シンポジウムのライブコンペティション4で、「ペルソナ一貫性の考慮と知識ベースを統合したHyperCLOVAを用いた雑談対話システム」のオープン/シチュエーションの両トラック。LINEのNLP開発チームが参加し、名誉ある実績を残しました。

 

「HyperCLOVA」またの名を「大規模汎用言語モデル」。これって一体何?という基礎知識を改めてお伝えするとともに、今回栄冠に輝いた開発メンバーにインタビューを敢行しました。

 

 

LINE CLOVAが開発を進めるHyperCLOVAとは?

 

HyperCLOVAとは、LINEがNAVERと共同開発している「大規模汎用言語モデル」を中心としたハイパースケールのAIです。「大規模汎用言語モデル」少し聞き慣れない言葉ですが、人間では処理できない程のとてつもない情報がすでに学習されたAIと思っていただくとわかりやすいかもしれません。


HyperCLOVAを開発するにあたり、1,750億以上のパラメーターと、100億ページ以上の日本語データを学習データとして利用予定です。新聞に例えると、新聞紙面にある全ての情報の約2,670年分!これほど膨大な情報をすでに保有しているので、HyperCLOVAだけで、人間が行うような文書生成や創造活動、自由対話ができるようになります。


今までのAIが「こういうタスクだったらできる」とかなり限定されたものが多かったことと比べ、これまで空想上のものとされてきた「汎用的なAI」、つまりなんでもできるAIが、真に実現できる時代が来る、ということを意味します。

 


 

HyperCLOVAを利用したテキスト生成ベースを用いた対話によって、栄誉ある1位の成績を獲得!

 

Profile

インタビューを行ったLINE NPL開発チームの2人(左:佐藤、右:山崎)

 

ーー「第12回対話システムシンポジウム」の対話システムライブコンペティションにて、1位獲得、おめでとうございます!

 

表彰状

 

佐藤:ありがとうございます。今回我々が参加させていただいた「対話システムシンポジウム」は、対話システムを最前線で研究・開発する方々が集い、最新の対話モデルのAIを活用し、どれくらいなめらかに対話ができるか、音声認識ができるかなどが評価される場です。オープントラックとシチュエーショントラック(※)2つの発表において、1位と2位で予選通過と言う好成績を残せた上に、最終結果で1位を獲得できたことは、私たちとしても大きな価値を感じています。

 

(※)オープントラック:トピックを問わない雑談を対話システムで行うトラック
シュチュエーショントラック:テーマに沿った雑談を対話システムで行うトラック(今回は後輩が先輩を執拗に飲み会に誘うというテーマ)

 

HyperCLOVA1

 


ーー対話システムの研究・開発に最前線で関わる方が集い、審査基準もレベルが高く、いわば日本最高峰の場だとお聞きしましたが、出場を決められた経緯をお伺いできますか?

 

 

山崎:私たちが開発中の日本語特化の大規模汎用言語モデル「HyperCLOVA」の技術が、対話システムの分野においてどれくらいの結果を出せるのかを客観的に知りたくて、出場を決めました。準備期間2カ月というスピード感を持った出場でしたが、HyperCLOVAがこの短期間の準備でも成果を出せる強いモデルであるということが証明され、嬉しく思っています。

 

HyperCLOVA2

 

佐藤:山崎さんをはじめ、対話システム開発への並々ならぬ情熱を持つ開発者たちの、普段から積み重ねた努力のおかげです。通常はコンペティション出場に向けて1年ほど準備期間をとることが一般的ですが、このような素晴らしい機会があり、手元にはHyperCLOVAがあり、準備にそんなに時間をかけなくても、出されるお題に応えられる可能性がある。出場しない理由はありません。

 

LINE株式会社は「面白そうだ」と感じられることに出会った時にそちらを選び、努力邁進する力が強い会社なので(笑)、短い期間でもこれだけの成果を生めたのだと思います。シチュエーショントラックでは、これまでルールベースの対話システムが1位を獲得していましたが、今回初めてHyperCLOVAの特徴であるテキスト生成ベースでこの成績を残せたことが、何より嬉しいです。

 

 

 

テキスト生成ベースって?汎用型言語モデルによる「人間らしい対話」が勝因に!

 

ーー錚々たる審査員の方々に技術力を認めてもらえたことで、客観的に見えたHyperCLOVAの凄さを教えてもらえますか?

 

佐藤:今回顕著だったHyperCLOVAの長所は3つですね。1つは、AIと人間の対話において「どちらが人間かがわからないほど、自然な応答ができること」です。2つ目は、会話のやりとりを抽出した時に「どこを切り取っても滑らかにつながること」。3つ目は、「人間が嬉しくなる応答を返せる確率が、従来の対話システムと比べて高い」ことです。3つ目に関しては、HyperCLOVAを応用した対話システムを開発する上で特に工夫しているところでもあります。

 

山崎:従来の対話システムでは「ルールベース(特化型言語モデル)」というシステムを使うことが多く、「こういう会話が来たらこれらの表現を返す」と典型パターンを人間が学習させて活用することが主流でした。Q&Aのチャットボットなどまさにこの典型で、人間が設定していない会話を投げかけてしまうと辻褄の合わない返答が返ってきたり、「すみません。よくわかりません」と返ってきてしまうことが多かったんです。

 

対してHyperCLOVAは「汎用型言語モデル」なので、すでに学習させた膨大な情報量を活用して、会話に柔軟に返答するシステムを使い、テキストを生成しています。これによって、人間がやりとりをするのと同じくらいの対話が可能になりました。

 

 

みなさんはどちらがAIで、どちらが人間かわかりますか?

対話ログ

オープントラック(トピックを問わない雑談形式)の対話ログ
会話を始めている青の会話がAI、白が人間です

 

 

HyperCLOVAは日本語を使うあらゆる作業を手助けしてくれる存在に

 

ーーコンペティションで実際に行われた対話のログを見ても、どちらがAIでどちらが人間か見間違うほどの精度で驚きました。HyperCLOVAの対話システムがすごいことはわかったのですが、これって私たちの日常にどういったメリットがあるのでしょうか?

 

佐藤:「日本語特化の大規模汎用言語モデル」という面からお話しすると、「日本人が言葉を使ってする作業」のほとんどを、サポートできる可能性を持っています。

 

すでにLINE CLOVAでは、人の代わりにAIが電話応答をするLINE AiCallというサービスを提供していますが、HyperCLOVAを使うことで対話の精度が高まり、より人間同士のやりとりに近くなります。

 

 

comment

 

 

山崎:そして、HyperCLOVAはとにかく言葉に強いシステムですから、対話・翻訳・入力補完・文書生成・プログラミングコードに至るまで、さまざまな言語処理を人間に変わって行える可能性が高まっていきます。その中でLINECLOVAが応用の可能性を模索しているのが、【対話】・【要約】・【文書生成】の3つです。

 

要約は、例えば「会議の議事録を作りたい」となった時に、メモをHyperCLOVAのシステムに貼り付けてボタンを1つ押すだけで、ものの数秒でアウトプットとして見られるようになります。文章生成は、例えば「ECの領域で商品説明文を作りたい」となった時に、商品についての情報をHyperCLOVAのシステムに貼り付けてボタンを押すだけで、一瞬で自動生成できるようになります。

 

アウトプットの精度は現状5~6割といったところですが、得た情報から欲しいアウトプットをリアルタイムで出せることが強みであり、それを見て人間がチューニングをしていくことでこれまでとは比較にならない速度で欲しいアウトプットを手にすることができるようになります。議事録を例にとって見ても、それまでは人の手で15分かけて書いていた議事録が、HyperCLOVAを使うことで5秒で5〜6割の精度のテキストを作ることができ、それを人の目で直して完成させることで、10分以上の時間を得するようになります。

 

 

佐藤:また、HyperCLOVAによって言語処理システムを試作した場合に近い出力を得られるので、あらゆるサービスの開発スピードが上がることは間違いありません。すべて人間が行えば、サービスの企画検討から開発まで3ヶ月かかるところ、HyperCLOVAを使って数秒で5割程度のクオリティのものを作る。それをみて、人間がチューニングしていくことで、開発期間を大幅に縮めることができるんですね。

 

作業時間を減らし、時間を得してもらうことで、人々の生活を豊かにしていく。そういった技術を、今回は対話システムに使ってみたということなんです。HyperCLOVAの応用方法は、無限にあります。

 

 

LINE株式会社はAIの技術開発に力を入れている! それはなぜ?

 

 

ーーそんなすごいシステム、なぜ日本ではどこも開発してこなかったんですか?

 

佐藤:率直にお話しすると、開発経費がものすごく高いんです。技術開発には時間がかかりますし、すぐに売上が見込める技術ではないので、なかなかいち企業が取り組めるプロジェクトではありません。でも、研究材料としてはものすごく「面白い」ですし、「きっとお客様に喜んでもらえる」と見込んで挑戦することを選ぶのは、LINEらしいと思います。

 

山崎:入社前にLINEがHyperCLOVAを開発していると知って、この会社は人の生活を豊かにするためにお金をかけられる会社なのだなと感じました。みんなが思い描くもう一歩先のシステムや未来を描く気概を感じられましたね。

 

HyperCLOVA3-1

 

佐藤そう感じて、仲間になってもらえることが嬉しいですね。LINEという会社は、あらゆる面で最初に売上をあまり考えない。そもそもLINEのホームアプリも、儲けようと思って作ったものではないんですよね。「みんなを助けたい。みんなの心をつなげたい」その一心で開発したものです。LINEがHyperCLOVAの開発に力を入れる理由も同じで、「やるか・やらないか」であれば、「やる人たちになる」という選択をしたに過ぎないんです。

 

 

ーーめちゃめちゃすごいですね。これまでAIの技術開発において並々ならぬ経歴を持つお二人が、なぜLINEにいるのか。その理由がわかった気がします。

 

佐藤:「挑戦」し続ける姿勢、これがLINEの強みです。挑戦によって得た経験は、その先ずっと活きます。熱中して取り組む人々の人生が変わる。一回体験したお客様の人生も少し変わる。その経験に価値を見出してくれる会社であることは、間違い無いですね。我々としては、HyperCLOVAの技術開発を進め、あわよくば経済的合理性も達成することがこれからの目標です。

 

HyperCLOVAをつくると決めて推進した結果、「LINEって面白そうだよね」とワクワクしながら参画してくれる仲間が増えました。開発者の心を打った影響力は、これまでの比ではなかったですね。

 

HyperCLOVA4

 

今回のシンポジウムの結果もそうですが、HyperCLOVAによるアウトプットを体験していただいた結果「こっちがAIなんですか!?」と驚いてもらえたこと。この驚きが、HyperCLOVAを活用したすべてのシステムでこれから皆さんに体験していただけると思います。驚きのある体験を、ユーザーの皆さんにお届けする。その可能性を大いに持っているHyperCLOVAの開発を、私たち自身が一番ワクワクしながら、取り組んでいます。

 

 


 

【LINE株式会社 AI開発室 NLP開発チーム 】

所属メンバー数は13名。「大規模汎用言語モデル」を中心としたハイパースケールのAI・HyperCLOVAの開発をはじめ、次世代のAI技術の研究・開発を担っている。開発したAI技術はLINE社のファミリーサービスへの活用のほか、BtoB事業で法人向けに提供する製品・ソリューションの精度向上や細かい調整も行う。また、それらで活用する様々な要素技術の開発、オープソースでの公開や社内普及など、幅広く活動している。

 

 

 

HyperCLOVAに関する記事はこちら

■【プレスリリース】

LINE、NAVERと共同で、世界初、日本語に特化した超巨大言語モデルを開発 新規開発不要で、対話や翻訳などさまざまな日本語AIの生成を可能に

 

■【LINE AI DAY イベントレポート】

「テキストの自動生成」で広がる超巨大言語モデルの可能性 LINEのAIが実現するイノベーション

 

 

 

 

Topics: お知らせ

ご相談・お問い合わせ

AIサービス導入についてのご相談や、
パートナーシップ提携はこちらから。

お問い合わせ
  • メルマガ登録

    LINE CLOVAのセミナー情報や事例などの
    最新情報をお届けします。