生成AI×エッジAIに向けて「NVIDIA®JetsonOrin™Nano」上で稼働する小規模言語モデルSLMと画像言語モデルVLMの検証を開始

小規模言語モデルによるコスト効率の良いAI活用

SLMは、大規模言語モデル(LLM)を軽量化したもので、消費電力の少ないエッジデバイスでも動作可能です。ヘッドウォータースは、日本マイクロソフトのSLM「Phi-2」やオープンソースのSLM「TinyLlama」を活用することで、セキュアでコスト効率の良いAI活用を目指しています。また、VLM「LLaVA」を量子化することで、画像や映像、テキストを読み込むマルチモーダルな生成AIの稼働も可能にしています。

生成AI×エッジAIによる様々なソリューションの展開

ヘッドウォータースは、生成AIとエッジAIを組み合わせることで、自動車での音声対話、スマートファクトリーでのオンプレミス型生成AI、ロボティクスの音声制御、スマートシティでの案内、スマートストアでの自動接客など、様々なソリューションの展開を目論んでいます。今後は、小型化された言語モデルを活用し、顧客企業とともに生成AI経済圏を拡大する取り組みを進めていく方針です。

株式会社ヘッドウォータースは、小規模言語モデル(SLM)と画像言語モデル(VLM)をNVIDIAの小型エッジデバイス上で動作させる検証を開始しました。SLMを活用することで、セキュアでコスト効率の良いAI活用が可能となります。また、生成AIとエッジAIを組み合わせることで、自動車、スマートファクトリー、ロボティクス、スマートシティ、スマートストアなど、様々な分野でのソリューション展開を目指しています。ヘッドウォータースは、顧客企業とともに生成AI経済圏を拡大する取り組みを進めていく方針です。

生成AIとエッジAIを組み合わせることで、どのような新しいビジネス機会が生まれると思いますか？