NTTアドバンステクノロジ株式会社
LLMカスタマイズサービス
ChatGPTなど大規模言語モデルの 企業活用を促進する「LLMカスタマイズサービス」
(2023年8月号掲載)2022年11月に公開されるやいなや、世界中に衝撃を与え、大きな話題となった「ChatGPT」(米国OpenAI社が提供する生成AI)。その利用可能範囲の広さから、新たなビジネスモデルの創出や、効率的な企業活動を可能にするツールとして注目される一方、企業が独自に導入するには、高いハードルが残されています。こうした昨今のビジネス環境の変化を受け、NTTアドバンステクノロジ株式会社(以下、NTT-AT)は、2023年6月、いち早く、ChatGPTなどのLLM(大規模言語モデル)の企業導入を支援する「LLMカスタマイズサービス」(以下、本サービス)の企業向け提供を開始しました。
LLM活用の課題を払拭
〜企業固有の知識でカスタマイズ〜
ChatGPTに代表される生成AIの活用により、これまで人の手で行われてきた煩雑な業務の代替・革新や、新規事業の創出に取り組もうとする企業が増えているといわれています。今回始動した本サービスは、企業活動における生成AI活用を検討しながらも、適切なシステム構築のための専門技術者の不足などによって実現にいたっていない企業を支援することを目的としています。
LLM導入の障壁となるのが、「企業固有の知識」をどのようにしてAIに取り込むのかという課題です。言語系生成AIの中核を担うLLMは、公開されている知識をもとにして、ユーザーの要求に応える回答を導き出します。そのため、企業固有の知識が考慮されなければ、企業が求める解へ導くのは難しいという課題があります。
本サービスでは、NTT-ATが長年にわたって蓄積してきた自然言語処理技術やLLMの専門知識を生かし、日々の業務を行う上で必要となる企業固有の知識を適切に組み込んだ業務システムの構築を支援します。さらにシステム構築後は、システムを運用しつつ継続的にシステムの最適化を図ります(図1)。
LLMカスタマイズの2つのアプローチ
〜Prompt EngineeringとFine Tuning〜
本サービスにおける「LLMカスタマイズ」には、2つのアプローチが想定されます。
①Prompt Engineering
LLMで主流のカスタマイズ方法です。ここでは、どのようにプロンプト(入力情報)を作るかという工夫と、その周辺技術を含めてPrompt Engineeringとします(図2)。企業固有の知識から必要な部分を抜き出し、ユーザーの質問と組み合わせて、適切なプロンプトを作成することで、「企業固有の知識」をLLMに与えます。
②Fine Tuning
学習データとしてあらかじめ整理された「企業固有の知識」を用いて、事前にLLMをチューニングするカスタマイズ方法です。プロンプトに収まり切らない知識を必要とするケースなど、Prompt Engineeringでは対応困難な場合に実施します。
本サービスの想定活用例
〜営業サポートから
アンケート分析まで〜
たとえば、保険会社営業員の業務サポートに利用する場合(図3)。営業員がお客様の個別事情に応じた医療保険の提案をしたいと考えたとします。お客様の個別事情を入力しChatGPTに問い合わせると、いくつかの保険商品がChatGPTから提案されます。営業員がそのなかから最適と思われる商品を選ぶと、ChatGPTはその商品のパンフレットとお客様向けのメールを準備し、営業員に送ります。保険営業資料や保険商品のパンフレット、保険約款やFAQなど、企業固有の知識をChatGPTに取り込んでおけば、このような業務効率化が可能となるのです。
この他にも社内会議・お客様打ち合わせでの議事録作成支援、顧客分析のためのアンケート分析支援、新ビジネス検討のための分析・提案支援等、さまざまな業務への活用が想定されます。
LLM活用をご検討のお客様は、さまざまなLLMの応用技術の開発を行ってきた実績をもつNTT-ATまでお気軽にお問い合わせください。
NTTアドバンステクノロジ株式会社
デジタルAI事業本部IAイノベーションビジネスユニット
LLMカスタマイズサービス担当
(左から)主幹担当部長 松尾義博
主任技師 浜田正裕
ビジネスユニット長 佐藤周一
副主任技師 大井雅文
主幹技師 浅野久子
お問合せ先