株式会社ProVisionは、LLMやRAG、AIエージェントを組み込んだシステム向けに「AIシステム開発セキュリティコンサルティング」の提供を開始しました。QA（品質保証）の知見を生かし、要件定義・設計から運用まで、開発段階に応じて支援します。
利用者やAIエージェントが参照できるデータ、実行できる操作の範囲、プロンプトインジェクション対策などを検討。権限管理や入出力の制御、監査ログ、RAGのアクセス制御について助言するほか、疑似攻撃による検証や運用時の監視設計にも対応します。
支援メニューには、エージェントの実行制御、サンドボックス、AI Identity・IAM、AIレッドチームなどがあります。同社は、既存の脆弱性診断・品質検証サービスと組み合わせ、設計段階から開発後の検証まで一貫して支援する方針です。

引用元記事：https://news.dellows.jp/843277/?from=top_category_area