경량이고 로컬에서 실행되는 모델(EmbeddingGemma를 영감으로)을 사용하여 기기 내에서 텍스트 임베딩 생성을 가능하게 하는 플러터 플러그인입니다. 외부 API에 의존하지 않고 의미 검색 및 유사성 작업을 위해 설계되었습니다. 이 패키지는 안드로이드, iOS, 웹 플랫폼에서 완전히 작동하여 프라이버시와 낮은 지연 시간을 보장합니다. 개발자는 앱 내에서 텍스트 임베딩을 직접 처리하고 비교할 수 있어 실시간 오프라인 AI 기능이 필요한 애플리케이션에 이상적입니다.
사용 사례
- 오프라인 의미 검색
- 텍스트 유사도 비교
- 개인 데이터 처리
- 로컬 AI 추론
- 콘텐츠 추천 시스템
주요 기능
- 장치 내 추론
- 경량 모델 통합
- 크로스 플랫폼 지원 (Android, iOS, Web)
- Privacy-preserving
- 저지연 임베딩
적합한 대상
- 오프라인 AI 기능이 필요한 앱
- 사용자 프라이버시를 우선시하는 개발자
- 의미 검색 구현
- 모바일 중심의 생성형 AI 프로젝트
- 교육용 또는 프로토타이핑 도구
고려 사항
- 모바일 기기에서 메모리 사용량 증가
- 클라우드 모델과 비교해 모델 크기가 제한됨
- 충분한 계산 자원을 갖춘 장치가 필요합니다
- 모델 자산의 초기 다운로드 크기
- 성능은 오래된 하드웨어에서 다양하게 나타납니다