スマートソリューション部門
日本語LLM分野
最優秀賞

NTT版大規模言語モデル

tsuzumi 日本電信電話株式会社

小型軽量、セキュアで高カスタマイズ サステナブルでビジネスに適したLLMを実現

NTTは2023年11月にNTT版大規模言語モデル(LLM)「tsuzumi」(以下「tsuzumi」)を発表、2024年3月から商用サービスの提供を開始した。海外製の巨大なLLMが話題となる中、小型軽量ながら世界トップクラスの日本語処理性能を持ち、低消費電力・オンプレミス環境での利用を実現した「tsuzumi」の登場は、国産LLMの存在感と今後への期待感を高めるサービスとして、高く評価された。

「tsuzumi」の4つの強み

①小型軽量

LLMは1回学習させるのにおよそ原発1基1時間分の電力を消費する。稼働、チューニング、推論にも膨大なコストがかかる。「tsuzumi」はパラメータサイズが米Open AIの「GPT-3」のおよそ1/25と小型で軽量だ。高速に処理できるため、学習・推論・チューニングコストを低減できる。また小型なため顧客のオンプレミス環境やプライベートクラウドで利用でき、企業データを社外に出さずに運用できる。これはセキュリティに厳しい日本企業での導入を広げるきっかけとなる要素だ。サステナブルで高コストパフォーマンスなLLMは、NTTが事業の根幹に掲げる「社会課題の解決」の体現といえる。

②日本語処理性能の高さ

「tsuzumi」は日本語と英語に対応しており、特に日本語処理性能は世界トップクラスだ。NTT研究所の40年の日本語処理研究の蓄積が、小さなパラメータサイズでも高い精度を可能にしている。

③カスタマイズ性の高さ

汎用的なLLMは、専門性の高い業務で使うには不向きな場合が多い。LLMがビジネスに本当に役立つものであるには、業界や組織やタスクに特化したデータ、機密性の高いデータなどの学習が必要だ。「tsuzumi」は小型なため柔軟かつ低コストでのチューニングができる。そのカスタマイズ性の高さが、幅広い業種での本格的なAI(人工知能)導入に欠かせないものとなる。

④マルチモーダル

マルチモーダルとはテキスト、画像、音声、映像などさまざまなデータから情報を学習する技術だ。例えば、グラフから結果を抽出したり、ロードマップを言葉で要約したりすることができる。これらの視覚読解性能は、テキストと図表が混在する文書やマニュアルの多いビジネスの世界では、学習データの量と質を上げるためにも必要な要素となるとだろう。

「tsuzumi」の3つのソリューション

「tsuzumi」の導入相談は、すでに500件を超える。NTTでは実際の導入相談のニーズに応じて3つのソリューションメニューを用意した。いずれも「tsuzumi」の特徴や、NTTの強みである総合的な提供力が発揮されるものだ。

① CX(顧客体験)ソリューション

コンタクトセンターのオペレーター支援、バックヤード業務での活用、見た目や動きを人間に近づけた「デジタルヒューマン」による接客などへの活用。あらゆる顧客接点でのCX向上効果を提供する。

② EX(従業員体験)ソリューション

マニュアル検索、議事録・要約・レポート・申請書類などの作成への活用。専門的な業務や機密性の高い業務の生産性を向上する。

③ IT運用サポートソリューション

企業のIT運用の自動化への活用。社内のIT部門やヘルプデスクが行うIT環境の整備に対し、コンサル、ソリューション、インフラと一貫したサービスを提供する。

パートナーとつくる今後のLLMのかたち

今後は「tsuzumi」の新しい活用法について、多くの企業と検討していく考えだ。「tsuzumi」は商用化に合わせて、パートナープログラムの展開を開始した。パートナーとともに新たなサービスやソリューションの開発を目指す。例えば、損保業界では様々なお客さまに対して、お客さまご自身で不便なく手続きを完結いただけるような顧客体験の提供が求められている。業界・業務に特化した「tsuzumi」によって、お客さま一人ひとりに合わせて、専門的な内容を分かりやすく伝え、次世代の顧客体験を実現するようなことも可能だろう。また、メンバーズフォーラムを開催し、利用者同士のユースケースの共有やネットワーク化も進める。パートナーにとって本当に有用な「tsuzumi」をともに研究開発することで、LLMを「業務効率化」から「業務変革」の武器へと進化させていくつもりだ。


「tsuzumi」と「IOWN」 NTTが目指す未来

NTTは単体の巨大なAIではなく、専門性や個性を持った小さなLLMが連携し、実効性や多様性を持つ「AIコンステレーション」を目指している。この連携に必要なのが、NTTが開発を進める次世代通信基盤「IOWN」だ。光電融合技術で大容量、低遅延、低消費電力を実現する「IOWN」が基盤となり、「tsuzumi」の技術の進化、サービスの多様化、そしてグローバルな展開を実現する。NTTは今後もその取り組みを進めていく。

受賞製品・サービス一覧

2024年

大賞

スマートソリューション部門

最優秀賞

生成AI分野 最優秀賞

Microsoft Copilot

マイクロソフト

2024年

スマートソリューション部門

最優秀賞

日本語LLM分野 最優秀賞

tsuzumi

日本電信電話株式会社

2024年

スマートソリューション部門

最優秀賞

日本語LLM分野 最優秀賞

cotomi

日本電気株式会社

2024年

スマートソリューション部門

最優秀賞

非地上通信分野 最優秀賞

Starlink Business / Satellite Mobile Link

KDDI株式会社

2024年

スマートソリューション部門

最優秀賞

中小企業DX分野 最優秀賞

おまかせITマネージャー

東日本電信電話株式会社

2024年

スマートソリューション部門

最優秀賞

MaaS分野 最優秀賞

GunMaaS

群馬県・前橋市・群馬県新モビリティサービス推進協議会

2024年

スマートソリューション部門

最優秀賞

デバイス分野 最優秀賞

motorola razr 40/motorola razr 40s

モトローラ・モビリティ・ジャパン合同会社

2024年

スマートソリューション部門

最優秀賞

クラウド分野 最優秀賞

さくらのクラウド

さくらインターネット株式会社

2024年

スマートソリューション部門

最優秀賞

教育DX分野 最優秀賞

N中等部/N高等学校
S高等学校

学校法人角川ドワンゴ学園

2024年

スマートソリューション部門

最優秀賞

モビリティ革新分野 最優秀賞

自動運転プラットフォーム

株式会社ティアフォー

2024年

審査委員特別賞

審査委員特別賞

QRコード

株式会社デンソーウェーブ