韓国の通信大手KTは19日、韓国産AI半導体と自社開発の大規模言語モデル（LLM）を1台のサーバーに統合した企業向けAIアプライアンス「KT NPU LLM Station」を発売した。AI半導体からAIモデル、運用プラットフォームまで韓国国内の技術で構成し、企業内でデータ処理を完結させる「ソブリンAI」を実現する。

同製品は、韓国のAI半導体企業Rebellionsが開発した推論向けNPU「ATOM-MAX」に、KT独自のLLM「Mi:dm K 2.5 Pro」と運用APIプラットフォームを組み合わせた一体型サーバー。ATOM-MAXは公認試験で同等クラスのGPUと比較した高い処理性能と電力効率が確認されているほか、Mi:dm K 2.5 Proは高度な推論やAIエージェントの利用に対応する。

最大の特徴は、顧客企業の社内に機器を設置し、データやAI処理を外部クラウドへ送信せずに運用できる点。AI半導体、LLM、運用基盤を韓国国内の技術で統一することで、データ主権を確保する。ネットワーク分離などのセキュリティ要件から海外の生成AIサービスを導入しにくかった公共、国防、製薬、製造、金融などの規制産業への展開を見込む。

サーバー、AIモデル、運用プラットフォームを1台に集約することで導入負担も抑えた。複雑な構築作業を必要とせず、設置当日から社内文書を基にしたRAG（検索拡張生成）を利用できる。また、業界標準APIに対応しており、既存のAIサービスも接続情報を変更するだけで、コードを大幅に改修せず連携できるという。

今後は、議事録作成やコーディング支援、業務自動化エージェント「K-Claw（仮称）」など、KTが開発するAIエージェントを順次搭載する。さらに、AIエージェント開発企業との協業を通じて、顧客ごとのカスタマイズにも対応する方針。将来的にはフィジカルAI向けのエッジデータセンター（Edge DC）へと用途を広げ、低消費電力・低遅延のAIインフラとしての展開も目指す。

KTにとって今回の製品は、自社LLMと韓国産AI半導体を組み合わせた完成品型AIサーバーを提供することで、海外GPUやクラウドサービスへの依存を抑えながら、データ主権やセキュリティを重視する企業のAI導入を後押しする取り組みとなる。

引用元記事：https://finance.biggo.jp/news/20f2752d-9949-4480-a724-1f1554307194