Red Hatは12月16日、モデル非依存のAIセーフティおよびガードレール技術を手がけるChatterbox Labsを買収したと発表した。今回の買収により、Red Hatが進めるハイブリッドクラウド向けのオープンソース・エンタープライズAIプラットフォームの強化を図る。

　Chatterbox Labsは2011年に設立され、AIの安全性や透明性に関する技術と専門知識を有する企業として知られる。自動化およびカスタマイズ可能なAIセキュリティ・安全性テスト機能を提供し、企業がAIを本番環境に導入する際に必要となる、定量的かつ客観的なリスク指標の提示を強みとする。

　同社の技術には、生成AI向けの定量的リスク評価指標「AIMI for gen AI」や、本番投入前に有害または偏りのあるプロンプトを検出・修正するガードレール機能などが含まれる。これにより、企業はAIモデルのリスクを可視化した上で導入判断を行うことが可能となる。

　Red Hatは、Chatterbox Labsの技術を統合することで、安全性を組み込んだ統合AIプラットフォームの提供を強化し、場所やモデル、アクセラレーターを問わず実稼働AIワークロードを支える能力を高めるとしている。

引用元記事：https://codezine.jp/news/detail/22920