社内AIエージェントの利用が1日30クエリから1500クエリに成長～IIJのAIエージェント開発の舞台裏～

海老根

マネジャーとして日々業務に向き合う中で、経験豊富なベテランと、新人・中途社員との間で知識ギャップが広がっていることに課題を感じていました。先輩社員によるトレーニングやOJTでその差を埋めることもできますが、教える側には時間的な負担が生じ、聞く側にとっても質問しづらいという心理的なハードルがあります。こうした双方の負担を考えると、知りたい人が知りたいときに、気兼ねなく質問できる仕組みが必要だと考えるようになりました。

エンジニアとしての現場経験も基礎になっています。サービス仕様や操作方法に迷ったとき、日中であれば周囲のメンバーに相談できました。しかし、ITインフラの作業は深夜帯に行うことも多く、夜間作業中に疑問が生じても誰にも聞けず、手が止まってしまう場面が少なくありませんでした。「この時間でも答えてくれる存在がいれば助かるのに」。そう感じた私自身の体験が、24時間いつでもサポートしてくれるAIチャットの必要性を強く意識するきっかけになりました。

海老根

AIには2018年頃から関心を持っていました。ただ、当時主流だったチャットボットは、あらかじめ用意されたパターンに沿って回答する仕組みがほとんどで、実用性や業務へのインパクトという点では物足りなさを感じていました。

その状況を一変させたのが、2022年に登場したChatGPTでした。それまでのチャットボットとは次元の違う自然な応答や、幅広い知識を踏まえた回答を目の当たりにし、「AIが実務を大きく変えるフェーズに入った」と強い衝撃を受けました。この出来事を境に、AI活用について本格的に学び始め、業務への応用を真剣に考えるようになりました。

海老根

海外の先進企業がAI活用を積極的に進めているという話も耳にしていましたので、そこで遅れをとりたくないという気持ちがありました。業界全体が大きく動き始めていることを感じていましたし、自分自身も早い段階でキャッチアップしておきたいという思いが強かったですね。

海老根

AIエージェントは、ひとつの大きなエージェントを中心に、用途ごとに最適化された5種類のサブエージェントを組み合わせて動作しています。

まず、プリセールス業務に特化し、RAGを用いてIIJの社内ナレッジを参照しながら質問へ回答する「IIJ Serviceエージェント」。
次に、社内情報だけでは得られない最新の外部情報を収集する「Webサーチエージェント」。
更に、より深い調査や分析が必要な場合に高度検索を行い、レポート形式で情報をまとめる「ディープリサーチエージェント」があります。
また、IIJサービスの見積作成を自動化する「見積エージェント」も搭載しており、実務に直結した作業をサポートできます。
そして、LLMが回答を生成する際に必要となる追加情報について、外部ナレッジを参照可能な「MCP（Model Context Protocol）エージェント」が、拡張的な情報取得や補助的な処理を担っています。
これら複数のエージェントが連携することで、質問に対して最適な情報を選び出し、高い精度で回答できる仕組みになっています。

海老根

IIJのクラウドサービス「IIJ GIO」のIaaS基盤上に構築しています。LinuxをベースとしたWebサーバの上に、検索や推論の精度向上のためのベクトルデータベースとしてOSSのChromaを採用しています。また、ユーザとの会話履歴を管理するためのデータベースにはPostgreSQLを利用しています。

バックエンドではLLMと連携して回答を生成しており、エージェント部分はLangChainとLangGraphを用いて構築しています。こうした技術の組み合わせによって、複数のサブエージェントが連携し、安定した回答生成を実現しています。

海老根

はい。将来的な拡張性や柔軟性を考えると、ベンダーロックインを避けつつコストを抑えられる構成が理想的でした。そのため、オープンソース技術と自社サービスを組み合わせて構築するという方針を徹底しています。

OSSを活用することで技術選択の自由度が高まり、必要に応じて構成を進化させやすくなります。IIJとしての強みも活かせるため、この組み合わせは非常に相性がよいと感じています。

海老根

IIJでは部門ごとに情報発信を行う文化があり、多くの場合、社内向けのホームページに必要な情報が整理されています。そのため、情報ソースとしても、社内ホームページのドキュメントを中心に活用しています。

ただし、利用者目線でいえば「すべて取り込みたい」という思いはあるものの、社内規定の観点もあるため、各部署から許可を得られたページに限定して取り込むようにしています。例えば社内ホームページにはマネジャーのみ閲覧可能なページも存在しますが、AIエージェントには全社員が閲覧可能なページのみを反映し、権限に応じた情報公開が守られるよう配慮しています。

そのため、マネジャーの視点から見ると回答範囲が狭く感じられるかもしれませんが、情報管理の観点では重要なポイントだと考えています。

海老根

誤回答を完全にゼロにすることはできませんが、だからこそファクトチェックの仕組みを設計することは、回答生成と同じくらい重要です。どれだけ回答内容が優れていても、根拠が確認できなければ業務で安心して使えませんからね。

そこで、ユーザがすぐに確認できるよう、回答の末尾に出典リンクを自動付与する仕組みを設けています。クリックすれば該当ドキュメントに直接アクセスできるため、ユーザは必要なときにすぐに一次情報にあたることができます。

海老根

営業支援部門とは定期的にやり取りをしていて、「何か困っている点はないか」「こういう機能が欲しいといった声はあるか」など、フィードバックを積極的にもらうようにしています。

AI技術は日々進化していますので、その進捗を利用者にどう還元できるかを常に考えながら、アップデートを続けています。

海老根

アップデートがあった際には、全社員向けにメールを送付しています。ただ、それ以外の積極的な広報活動は現状あまりできていないのが正直なところですね。

海老根

現在は1日あたり約1500クエリほどです。リリース当初は1日30クエリ程度だったことを考えると、大きく伸びていて、社内での利用が確実に広がっていると感じます。

積極的な広報をしているわけではないのですが、社内のインフルエンサー的な方がどこかで「AIエージェント」というキーワードを出すと、「それ何？」「どこで使えるの？」となって、一気に検索・利用が広がる瞬間があります。そうしたタイミングでクエリ数が急増するケースが度々見られ、社内での情報伝播の影響力を実感しています。

海老根

業務で使いたいAIの多くは、結局のところ社内に存在する自社データも含めて回答できるかどうかが重要だと思っています。一般的な生成AIモデルをそのままQA用途で利用する場合、インターネット上の公開情報を中心に学習したモデルであるため、各企業内の固有情報は基本的に学習しておらず、回答できないのは当然です。そのため、活用シーンが限定されてしまいがちです。

その意味で、IIJのAIエージェントはサブエージェントであるRAG型の「IIJ Serviceエージェント」によって社内情報をベースに回答できる点が、日常業務にフィットして利用が広がったのだと思います。

今はAIがコード生成もしてくれる時代なので、極端に言えば開発エンジニアが少ない企業でも工夫次第で自社向けAIツールを作ることは可能です。まずは小さく試しながらでも、知見を蓄積していくアプローチが結果として最短距離になると考えています。

海老根

AIエージェントの展望を考える上で重要なのはあくまでデータであり、ツールは“手段”です。AIツール自体は今後も日々進化していきますが、そうした変化を前提に、特定のツールに依存せず、社内データをどう活かすかという視点がより重要になっていくはずです。

その中で、AIエージェントには、現場の業務に自然に組み込まれ、日々の仕事の中で使われ続ける存在であることが求められます。現在は、最新技術を取り込みながら、実際の業務ニーズに即した形でツールや仕組みを更新していますが、今後も現場での使われ方を重視しながら改善を重ねていきます。