오프라인 우선의 AI 애플리케이션을 가능하게 하는 플러터 패키지로, 로컬에 주거하는 LLM 추론, 로컬 RAG(검색 보강 생성), 그리고 자율 에이전트 기능을 제공합니다. 사용자 상호작용을 원활하게 하기 위해 매테리얼 3 호환 채팅 인터페이스를 갖추고 있습니다. 인터넷 연결 없이도 개인정보 중심, 낮은 지연 시간의 AI 경험을 제공하도록 설계되었습니다. Android, iOS, Windows 플랫폼을 지원하여 안전하고 장치 내에서의 AI 워크플로우에 이상적입니다.
사용 사례
- 오프라인 AI 보조자
- 개인 문서 쿼리
- 기기 내 에이전트 자동화
- 보안 기업용 채팅 앱
- 저지연 AI 상호작용
주요 기능
- 로컬 LLM 추론
- 로컬 RAG 구현
- 자율 에이전트 논리
- Material 3 채팅 UI
- 크로스 플랫폼 지원
적합한 대상
- 개인정보 민감한 애플리케이션
- 오프라인 사용 가능한 AI 도구
- 기기 내 추론 시스템
- 모바일 및 데스크톱 AI 클라이언트
- 로컬 LLM 통합을 원하는 개발자
고려 사항
- 고수준 장치 리소스 사용
- 대규모 모델 파일이 필요합니다
- 지원되는 플랫폼에 한정
- 모델 최적화 필요
- 초기 로드 중 잠재적인 지연