NTTアドバンステクノロジ株式会社

LLMカスタマイズサービス

自治体業務を効率化する生成AIソリューションを本格稼働~葛飾区固有の情報を踏まえた回答を生成~

(2024年8月号掲載)

人口減少による人手不足・少子高齢化・業務範囲拡大等により自治体職員の負担が増大し、効率化が求められています。効率化を実現するためには、人や紙媒体に依存する業務スタイルからの脱却が必要であり、生成AIの活用に期待が集まっています。一方で生成AIをそのまま利用するだけでは業務への適用が不十分で、自治体固有の多大な情報を生成AIに組み合わせることが求められていました。
こうした背景のもと、NTTアドバンステクノロジ株式会社(以下、NTT-AT)は東日本電信電話株式会社(以下、NTT東日本)と連携し、「LLMカスタマイズサービス」により自治体向けにソリューションを構築しました。本ソリューションは、2024年6月から東京都葛飾区で本格稼働を開始。多くのメディアで紹介され、注目を集めています。
NTT-ATではこのソリューションの製品化を行い今秋より一般展開をしていく予定です。

自治体における生成AI利用の課題

自治体職員の業務を単純作業からクリエイティブな活動にシフトするため、生成AIの活用が検討されています(図1)。NTT-ATは、こうした動きに先駆けて2023年5月から汎用LLM(マイクロソフト社のAzure OpenAIサービス)と自治体等が保有する固有の知識を最適に組み合わせたソリューション「LLMカスタマイズサービス(以下、本ソリューション)」の開発に取組んできました(図1)。その特長は、①言語処理のプロフェッショナルがお客さまの課題分析から解決まで全プロセスをサポートすること、②求められる品質やコスト水準を考慮しLLMとお客さま固有の知識の最適融合を実施したうえで、アジャイルでスピーディにシステムを構築すること、③NTT東日本が提供するManaged SD-WAN※1およびクラウドゲートウェイクロスコネクト※2を利用しセキュアなネットワーク環境を実現すること、にあります。
一方、葛飾区では職員の業務負担軽減につながる効果的なAIの活用を模索してきました。同区は2023年8月から文書作成等に生成AIを試験的に導入していたものの、現場からは「誤った回答が生成されることもあり、目的とする回答が得られない」「活用可能範囲が限定的」「業務で扱うには不十分」等の評価がなされていました。
NTT-ATは、こうした課題の解決に向けて本ソリューションの活用を提案。汎用LLMと葛飾区固有のデータベースとを連動させ、葛飾区固有の情報を踏まえた回答を得ることができる生成AIを実現しました。

図1 自治体における生成AIの利用例

 

独自データベースの構築

葛飾区固有のさまざまな情報を踏まえた回答の生成を実現するにあたり、同区の基本構想や基本計画等、区全体にかかわる文書のほか、デジタル推進事業や子育て支援事業等の個別分野の計画、会計事務規則等の各種事務マニュアル、区議会会議録等、紙に換算して1万枚以上に上るデータを38カテゴリにグルーピングし、区独自のデータベースを構築しました。そして、本データベースと汎用LLM(ChatGPT)を連動させ、区の固有情報を踏まえた回答の生成を可能としました。これにより、汎用LLMによる「情報不足」や「間違った回答」の回避、削減を実現しました。データは今後順次追加し内容の充実を図ります。

 

業務効率化を実現する2つの機能

■参照文書の提示機能
職員が質問を入力すると(図2左)、データベースを踏まえた回答が生成されます。この際、回答生成時に参照された文章が一覧表示され、参照文章をクリックすると回答生成のもととなった資料(図2右)が表示されます。この機能により、職員はシステムの回答の正誤・適切さを判断することができます。
 ■用途の切り替え機能
汎用的な問い合わせのほかに、職員の利用が多いと見込まれる用途に関しては、「PR文の提案」「議会議事録の抽出」「起案文書の作成・添削」等、専用の「用途」が用意されています。職員が「カテゴリ」と「用途」を選択するとシステムが用途に応じたプロンプトを補完します。この機能により職員は最低限の内容を入力するだけで例えば、過去の議会答弁から発言を抽出したり、それにもとづいて新規に原稿案を作成したり、作成した原稿案の校閲を依頼したりといった業務を短時間で行うことができます。

図2 葛飾区生成AI利用画面

 

今後の展開

NTT-ATは、本ソリューションの提供で得られた知見やノウハウを活用し、自治体に留まらず企業への水平展開をめざします。今後、さまざまなエンジンを活用することで、お客さまに寄り添いながら課題の解決に貢献していきます。

※1: ソフトウェアによって仮想的なネットワークを作り上げるSDN技術によりセキュアな拠点間通信とネットワークの集中管理を実現するサービス
 ※2: NTT東日本の閉域ネットワークサービスから、仮想的に独立したネットークでセキュアにクラウドサービスとの接続が可能

NTTアドバンステクノロジ株式会社
アプリケーション・ビジネス本部
DXビジネス部門 ジェネレーティブAI担当
(左から)

主幹担当部長 副統括マネージャ 中村 高雄
主幹担当部長 統括マネージャ 佐藤 周一
主任技師 茶山 通隆
主幹担当部長 TM 八木 貴史

 

お問合せ先

NTTアドバンステクノロジ株式会社 LLMカスタマイズサービス担当
https://www.ntt-at.co.jp/product/llmc/