お客様の課題
- EC サイトの構築・運用業務において、社外のパートナーや業務委託先にスキル差があり、業務の標準化が難しかった。
- 外部生成 AI サービス利用時における機密情報・顧客データの漏洩リスクを懸念していた。
- パートナー企業や業務委託先ごとに利用頻度のバラつきがあり、一律の月額料金ではコスト対効果が見合わなかった。
- 予算上限超過時の管理方法や、予算超過後も業務を継続できる仕組みが必要だった。
対応と結果
- Amazon Bedrock を中心としたクロスアカウント構成により、パートナー企業のドメインや IP 制限を調整し、安心安全な生成 AI 基盤を構築。
- チャット・社内文書検索(RAG 検索)・カスタムエージェント・議事録自動生成など、多彩なユースケースを実装。
- チャットやRAGの活用により、パートナーや業務委託先のスキル差を補完・標準化する仕組みを提供。
- アクティブ利用に連動したコスト構造を採用し、予算上限アラート超過時には安価なモデル(Nova Lite など)へ切り替えて利用継続できる体制を確立。
株式会社36flip 様は、ECサイトの構築・運用業務において、データガバナンスとセキュリティを確保しながら、社外のパートナーや業務委託先も含めた AI 活用環境の構築と業務の標準化が求められていました。
本プロジェクトにおいて、KDDIアイレットは Amazon Bedrock を中心とした AWS マネージドサービスを活用し、セキュアな生成 AI アプリケーション「AI Chat for Business」のアーキテクチャ設計から開発、デプロイの自動化までを包括的に支援しました。
社外パートナーも安全に活用。ドメイン・IP 制限を調整した生成 AI チャット基盤を構築
株式会社36flip 様では、EC 事業の紹介・運用において、社外のパートナーや業務委託先も含めた安全な業務活用環境を構築したいというニーズがありました。外部の生成 AI サービスでは機密情報の取り扱いに懸念があり、データガバナンスとセキュリティを確保した環境が求められていました。
こうした背景のもと、KDDIアイレットでは Amazon Bedrock を中心に、AWS マネージドサービスを活用したセキュアな生成 AI チャットアプリケーション「AI Chat for Business」を構築。VPC 内での閉域運用に加え、AWS WAF によるアクセス制御、Amazon Cognito による認証・認可を組み合わせ、実際の利用シーンに合わせたパートナー企業のドメインや IP 制限を調整する運用を想定したセキュリティ構成を採用しています。
本システムは、1つの顧客に対して AWS アカウントを2つ用意するクロスアカウント構成で提供されます。アプリケーションのコア機能を配置するプロバイダ環境(KDDIアイレット側 AWS アカウント)と、認証情報や顧客の機密データを保管するユーザー環境(顧客側 AWS アカウント)を物理的に分離。これにより、顧客のナレッジを自社のアカウント内に保持したまま、外部パートナーも含めて安全に生成 AI サービスを利用できる構成を実現しています。
チャット・RAG 検索・カスタムエージェントなどパートナー間のスキル差を補完・標準化するアプリケーション実装
本システムでは、全てのユーザーが直感的に操作できるレスポンシブな Web UI を目指しており、業務に合わせた多彩なユースケースを一つの画面からシームレスに利用できるのが大きな特長です。
通常のチャット機能ではインターネット上の情報を含めた生成 AI への問い合わせが可能です。一方、RAG チャット機能では、Amazon Bedrock Knowledge Bases を活用し、閉域環境に保管された社内文書やナレッジ(EC サイト構築やサポート業務における活用事例など)のみを参照先として回答を生成します。これにより、パートナーのスキル差を AI と RAG の活用で補完・標準化することが可能となります。ファイルの追加・同期は、ユーザーが Web 画面上にファイルをドラッグ&ドロップするだけで操作でき、専門的な知識がなくても社内文書検索の構築・更新ができるため、常に最新の社内データに基づいた精度の高い生成 AI 回答を得ることが可能です。
より高度で自律的なタスクを処理するためのアシスタント機能では、Amazon S3 Vectors を利用した個別管理可能な RAG を活用し、特定の業務用途に合わせたカスタムアシスタントを作成できます。作成したアシスタントはチーム内で共有して利用することが可能です。
また、議事録生成機能では、会議の録音音声をアップロードすると、生成 AI が音声をテキスト化し、要約・議事録の生成までを一連の流れで処理します。さらに、ブラウザ上でマイクを有効化することで、会議中の音声をリアルタイムに文字起こしし、その場で要約や議事録を生成することも可能です。英語の文字起こしや日本語への翻訳にも対応しており、生成された議事録はカレンダー形式の画面で日付ごとに一覧管理できるため、過去の会議内容を確認する際にも活用できます。
アクティブ利用連動のコスト構造で最適化。予算上限超過時は安価なモデルへの切り替えで業務継続とガバナンスを確立
利用頻度のバラつきがある組織への対応として、全社員一律の月額料金ではなく、アクティブ利用に連動したコスト構造を採用することで、コスト対効果を最適化しています。独自の緻密なトークン使用量管理システムを構築しており、AWS Lambda が API レスポンスから入力・出力トークン数をパースし、Amazon DynamoDB へ即座に記録。DynamoDB Streams を活用した非同期処理により、リアルタイムでのトラッキングを実現しています。管理者はダッシュボード上で組織全体の利用金額やユーザーごとの統計を視覚的に確認可能です。
事前に設定したコストのしきい値(予算上限アラート)に達した際には、Amazon EventBridge と Amazon SES を介して管理者へ即座にアラートを通知。予算超過が懸念される場合は、自動的に「Nova Lite」などの軽量な安価モデルへ切り替えて利用を継続できる機能を備え、最新モデル(Claude 等)も安心して運用できる体制を整えました。 また、システムの継続的改善に向けて、AWS CDK による Infrastructure as Code と AWS CodePipeline / CodeBuild を組み合わせた CI/CD パイプラインを構築。テストから各ステージ(開発・検証・商用)へのデプロイを完全自動化し、急速に進化する AI モデルや新機能への追従を、最小限の運用負荷で実現しています。
KDDIアイレットでは、Amazon Bedrock を活用したセキュアな生成 AI 環境の構築から、社内文書を活用する RAG 検索機能の実装、組織に合わせたコスト管理まで、お客様の課題に応じた技術支援を提供しています。企業内での安全な生成 AI 活用を検討されている方は、ぜひお気軽にお問い合わせください。
(使用プロダクト)
- ・AWS
- Amazon Bedrock
- AWS Lambda
- Amazon DynamoDB
- Amazon RDS(Aurora DB)
- Amazon Cognito
- Amazon CloudFront
- Amazon S3
- AWS WAF
- Amazon API Gateway
- AWS CodePipeline
- AWS CodeBuild
- Amazon CloudWatch
- Amazon SES
- Amazon Route 53
- Amazon EventBridge
- Amazon SQS
- AWS Systems Manager
Credit
クライアント株式会社36flip