Edgi: Offline AI, On-Device

Edgi는 스마트폰에서 완전히 실행되는 오픈 소스 AI 모델들을 위한 플랫폼입니다. 기존 안드로이드 기기에서는 오프라인으로 사용할 수 없었던 모델들도 포함되어 있습니다. 계정도 필요 없고, 클라우드도 필요 없으며, 모든 데이터는 기기에서 그대로 유지됩니다.

Edgi는 다른 모바일 AI 플랫폼에서 외면받던 모델들을 안드로이드 스마트폰에서 오프라인으로 실행할 수 있도록 포팅했습니다. 앱 내 카탈로그에서 원하는 모델을 한 번 다운로드하면, 비행기 모드, 비행기 안 등 어디에서든 영구적으로 사용할 수 있습니다.

기기에서 바로 실행 가능한 기능:

• 채팅: SmolLM2, Granite, Mamba, OpenELM, LFM2.5, Qwen2.5 등 지속적으로 확장되는 오픈 소스 언어 모델(LLM) 라이브러리를 제공합니다. 스마트폰에 맞춰 빠르고 간편한 모델이나 더욱 스마트한 모델을 선택할 수 있습니다.

• 이미지 인식: 사진을 보여주고 질문에 답해 보세요. 기기에서 바로 실행되는 이미지 인식 모델이 이미지를 분석하고 질문에 답변합니다.

• 음성-텍스트 변환: Whisper를 사용하여 완전히 오프라인으로 음성을 텍스트로 변환할 수 있습니다.

• 텍스트 음성 변환: 수십 가지의 자연스러운 음성과 다양한 엔진(Kokoro, MMS-TTS, Pocket-TTS)을 지원하는 오프라인 텍스트 음성 변환 기능.

• 음악: 오프라인에서 작동하는 AI 음악 생성기 MusicGen을 사용하여 텍스트 프롬프트에서 짧고 독창적인 음악 클립을 만들 수 있습니다.

• 번역: Meta의 SeamlessM4T를 사용하여 여러 언어로 음성 번역.

• 음성 복제: 짧은 음성 클립에서 음성을 추출하여 기기에서 텍스트를 읽어주는 기능(OpenVoice).

이러한 기능 중 다수는 이전에는 Android에서 무료로 완전히 오프라인으로 사용할 수 없었습니다. Edgi는 이 모든 기능을 한 곳에 모았습니다.

Edgi의 차별점:

• 진정한 카탈로그. 특정 모델에 종속되지 않고, 용량이 명확하게 표시된 다양한 오픈 소스 모델을 탐색하고 설치할 모델을 선택할 수 있습니다.

• 완벽한 개인 정보 보호. 사용자의 프롬프트, 마이크 오디오, 사진 및 결과는 기기에서 처리되며 절대 업로드되지 않습니다. 서버는 사용자의 콘텐츠를 수신하지 않습니다. 로그인도 필요 없습니다.

• 오프라인에서 작동. 모델을 다운로드하면 인터넷 연결 없이도 실행됩니다.

• 보급형 스마트폰에 최적화되어 있습니다. Edgi는 보급형 하드웨어에 최적화된 Qualcomm Adreno GPU용 자체 개발 맞춤형 추론 엔진을 사용합니다.

오픈 소스
Edgi는 Qualcomm Adreno GPU용 OpenCL 추론 엔진인 adreno-llms를 사용합니다.
adreno-llms는 오픈 소스이며, 직접 검토하거나 개발에 활용할 수 있습니다.
https://github.com/a8nova/adreno-llms