ChatGPTなど大規模言語モデルの 企業活用を促進する「LLMカスタマイズサービス」

LLM活用の課題を払拭
〜企業固有の知識でカスタマイズ〜

ChatGPTに代表される生成AIの活用により、これまで人の手で行われてきた煩雑な業務の代替・革新や、新規事業の創出に取り組もうとする企業が増えているといわれています。今回始動した本サービスは、企業活動における生成AI活用を検討しながらも、適切なシステム構築のための専門技術者の不足などによって実現にいたっていない企業を支援することを目的としています。
LLM導入の障壁となるのが、「企業固有の知識」をどのようにしてAIに取り込むのかという課題です。言語系生成AIの中核を担うLLMは、公開されている知識をもとにして、ユーザーの要求に応える回答を導き出します。そのため、企業固有の知識が考慮されなければ、企業が求める解へ導くのは難しいという課題があります。
本サービスでは、NTT-ATが長年にわたって蓄積してきた自然言語処理技術やLLMの専門知識を生かし、日々の業務を行う上で必要となる企業固有の知識を適切に組み込んだ業務システムの構築を支援します。さらにシステム構築後は、システムを運用しつつ継続的にシステムの最適化を図ります（図1）。

LLMカスタマイズの２つのアプローチ
〜Prompt EngineeringとFine Tuning〜

本サービスにおける「LLMカスタマイズ」には、２つのアプローチが想定されます。

①Prompt Engineering

LLMで主流のカスタマイズ方法です。ここでは、どのようにプロンプト（入力情報）を作るかという工夫と、その周辺技術を含めてPrompt Engineeringとします（図2）。企業固有の知識から必要な部分を抜き出し、ユーザーの質問と組み合わせて、適切なプロンプトを作成することで、「企業固有の知識」をLLMに与えます。

②Fine Tuning

学習データとしてあらかじめ整理された「企業固有の知識」を用いて、事前にLLMをチューニングするカスタマイズ方法です。プロンプトに収まり切らない知識を必要とするケースなど、Prompt Engineeringでは対応困難な場合に実施します。

本サービスの想定活用例
〜営業サポートから
アンケート分析まで〜

たとえば、保険会社営業員の業務サポートに利用する場合（図3）。営業員がお客様の個別事情に応じた医療保険の提案をしたいと考えたとします。お客様の個別事情を入力しChatGPTに問い合わせると、いくつかの保険商品がChatGPTから提案されます。営業員がそのなかから最適と思われる商品を選ぶと、ChatGPTはその商品のパンフレットとお客様向けのメールを準備し、営業員に送ります。保険営業資料や保険商品のパンフレット、保険約款やFAQなど、企業固有の知識をChatGPTに取り込んでおけば、このような業務効率化が可能となるのです。
この他にも社内会議・お客様打ち合わせでの議事録作成支援、顧客分析のためのアンケート分析支援、新ビジネス検討のための分析・提案支援等、さまざまな業務への活用が想定されます。
LLM活用をご検討のお客様は、さまざまなLLMの応用技術の開発を行ってきた実績をもつNTT-ATまでお気軽にお問い合わせください。