機密情報もAI活用へ。オンプレ版LLMの導入支援サービス
公開日:
LLM(大規模言語モデル)生成AIの業務活用が広がる一方、金融や医療業界など、特に厳しいセキュリティ要件を持つ企業では、社内情報をクラウド上のAIに入力することへの懸念が根強く残っています。結果として、便利なツールを導入できないというジレンマがありました。
こうした課題に対し、株式会社ナレッジセンスが、オープンソースの大規模言語モデル（LLM）を顧客の自社環境に構築・運用する法人向け「ローカルLLM」サービスの提供を近日中に開始すると発表しました。
これにより、これまでセキュリティの壁に阻まれてきた企業でも、自社の機密情報を外部に出すことなく、安全に生成AIを活用できる道が開かれそうです。
ポイント
- 1機密情報を外部に出さず、自社環境で安全にAIを利用可能に
- 2専門知識が必要なオープンソースLLMの選定から運用まで一括支援
- 3既存のクラウドサービスと合わせ、企業のニーズに応じた提案が可能
■ 自社サーバーで動く「ローカルLLM」
株式会社ナレッジセンスが、法人向けの新サービス「ローカルLLM」を近日中に提供開始することを明らかにしました。このサービスは、「gpt-oss」に代表されるオープンソースの大規模言語モデル（LLM）を、顧客企業のプライベートクラウドやオンプレミス環境で安全に運用できるよう支援するものです。
■ 背景にあるセキュリティへの強い懸念
多くの企業でChatGPTなどの生成AI導入が進む一方で、金融・医療・インフラといった業界や、「最高レベルの機密情報」を扱う企業では、クラウドサービスへの情報送信を禁じる厳しいセキュリティ規定が存在します。また、オープンソースLLMを自社で活用しようにも、モデルの選定や環境構築には高度な専門知識が求められ、導入のハードルが高いのが実情でした。
■ 選定から運用までワンストップで支援
今回の新サービスは、こうした課題を解決することを目指しています。ナレッジセンスがこれまでの法人向けAIサービスの提供実績を活かし、用途や予算に応じた最適なLLMの選定から導入、さらにバージョンアップ対応や技術サポートといった導入後の継続的な運用までをワンストップで提供します。
これにより企業は、機密情報や個人情報を含むデータを外部に送信することなく、セキュアな環境で生成AIのメリットを享受できるようになります。同社は、既存のクラウド版AIサービス「ChatSense」も提供しており、顧客のセキュリティ要件に応じて最適なソリューションを提案していく方針です。
引用元：PR TIMES
O!Productニュース編集部からのコメント
生成AIの導入において「クラウドか、オンプレミスか」は大きな論点です。特にセキュリティを重視する日本企業にとって、情報を外部に出さないオンプレ環境への需要は根強いものがあります。今回のサービスは「AIは使いたいが、情報漏洩が怖い」という企業のジレンマを解消する一手になりそうです。
