当社は、エッジAIプラットフォーム「Actcast」とマルチモーダルLLM（Multimodal Large Language Models／マルチモーダル大規模言語モデル）を連携させた画像解析ソリューション「LLM App on Actcast」の提供を開始しました。
本ソリューションは、生成AIの登場によって益々加速するAIの民主化を、エッジAIのPoC領域にも展開したものとなります。これまでエッジAI導入のハードルとなっていたPoC（Proof of Concept／実証実験）を、AIアプリなどのソフトウェアを開発することなく実施できるようになるため、ビジネス価値の仮説検証に係る期間・コストの大幅な削減が可能となります。また、プロンプトエンジニアリング（自然言語による指示）による操作となるため、非エンジニアでも円滑に検証を行えます。
本アプリのデモ動画（YouTube）：
社会におけるデータ処理の需要増加に伴い、クラウド負荷軽減やプライバシー保護への関心が高まり、その解決策としてエッジAIへの注目が集まっています。
企業がAIをビジネスに導入する際、一般的には導入前にPoCを実施します。そしてPoCを開始する際、PoC用のAIをはじめとしたソフトウェア開発が必要となります。この開発取り組みにおいて、ビジネス導入に向けた価値や効果の検証よりも、機械学習モデルの精度向上などに注力してしまう傾向がありました。本来は十分な検討の必要な本導入やその後の検証サイクルといった運用を見越した検証に進めないままPoCが終わってしまうため、本格導入の判断に至らないままプロジェクトが頓挫してしまうことが多く発生していました。
こうした課題を解決するために、当社は「LLM App on Actcast」を開発しました。初期投資が必要だったPoC用ソフトウェアをプロンプトエンジニアリングで代替することで、AI開発よりも先に、最低限の手間とコストで、本来最も重要なビジネス価値の検証にフォーカスすることが可能になります。
「LLM App on Actcast」で実現するフロー
「LLM App on Actcast」はクラウド上のLLMを活用し、エッジAIプラットフォーム「Actcast」と連携したエッジデバイスで利用できるアプリケーションです。プロンプトエンジニアリングにより疑似的なアプリ設計を行うことができます。提供開始時点では、OpenAI社の「ChatGPT」などのクラウドLLMのAPIを用いて、エッジデバイスで撮影した画像に対する推論を行います。
Actcastの機能により、プライバシーに配慮したPoCが容易に可能です。また、大量のデバイスも遠隔で管理・運用でき、プロンプトも対象デバイスをグループごとに個別に適用可能です。
＜利用イメージ＞
例えば、小売業界において、店舗責任者が遠隔で店舗の状況を確認したい場合、店内のエッジデバイス（AIカメラ）が撮影した画像をもとに、下図のような入力・出力を得ることができます。
「LLM App on Actcast」を使ったプロンプトと出力のイメージ
当社は今後、「LLM App on Actcast」を活用した課題解決を図るためにパートナー企業様との協業を拡大し、様々な領域におけるエッジAIの社会実装を推進してまいります。
＊「LLM App on Actcast」を開発した背景などに関するさらに詳しい情報は、当社CTO山田による公式ブログの記事をご覧ください。
ブログタイトル：「LLM App on Actcast」開発の背景
URL：https://www.idein.jp/ja/blog/20240528-llm-app-actcast
▼プレスリリースはこちら（外部サイト：PR TIMESへ遷移します）
エッジAIのIdein、マルチモーダルLLMを活用した画像解析ソリューションを提供開始