Edgi: Offline AI, On-Device

Edgiは、Android端末でオフラインで利用できなかったモデルも含め、スマートフォン上で完全に動作するオープンソースAIモデルのプラットフォームです。アカウントもクラウドも不要で、データは一切端末から外部に持ち出されません。

私たちは、他のモバイルAIが見向きもしなかったモデルを移植し、日常的に使用するAndroid端末でオフラインで動作するようにしました。アプリ内のカタログを閲覧し、モデルを一度ダウンロードすれば、機内モードでも、飛行機の中でも、どこでも、永久に利用できます。

端末上で実行できる機能：

• チャット：SmolLM2、Granite、Mamba、OpenELM、LFM2.5、Qwen2.5など、増え続けるオープン言語モデル（LLM）ライブラリ。お使いのスマートフォンに合わせて、小型で高速なものから、より大規模で高機能なものまで選択できます。

• ビジョン：写真を見せて質問してみましょう。端末上のビジョンモデルが画像を説明し、認識した内容に関する質問に答えます。

• 音声認識：Whisperを使って音声をテキストに変換。完全にオフラインで動作します。


• テキスト読み上げ：数十種類の自然な音声と複数のエンジン（Kokoro、MMS-TTS、Pocket-TTS）を備えたオフラインテキスト読み上げ機能。

• 音楽：オフラインで動作するAI音楽ジェネレーター。MusicGenを使えば、テキストプロンプトからオリジナルの短いクリップを作成できます。

• 翻訳：MetaのSeamlessM4Tで、多言語の音声を翻訳できます。

• 音声クローン：短いクリップから音声をキャプチャし、デバイス上で任意のテキストを読み上げさせることができます（OpenVoice）。

これらの多くは、これまでAndroidで無料かつ完全にオフラインで利用できるものではありませんでした。Edgiは、これらを1つのプラットフォームに統合しました。

Edgiの特長：

• 真のカタログ。特定のモデルに限定されることなく、オープンソースモデルの閲覧可能なコレクションが常に増え続けています。各モデルのサイズが明確に表示されているため、インストールするものを選択できます。

• 完全なプライバシー保護。プロンプト、マイク音声、写真、結果はすべてデバイス上で処理され、アップロードされることはありません。サーバーにコンテンツが送信されることもありません。ログインも不要です。

• オフラインで動作します。モデルをダウンロードすれば、インターネット接続なしで動作します。

• 低価格スマートフォン向けに設計されています。Edgiは、低価格ハードウェア向けに最適化されたQualcomm Adreno GPU向けに最適化された独自のカスタム推論エンジンで動作します。

オープンソース
Edgiは、Qualcomm Adreno GPU向けに独自に開発したOpenCL推論エンジンであるadreno-llms上で動作します。
adreno-llmsはオープンソースであり、検証や開発にご利用いただけます。
https://github.com/a8nova/adreno-llms