AI 요약
라즈베리파이 5를 차량에 장착해 완전 오프라인으로 동작하는 로컬 AI 비서 'CarWatch'가 공개됐다. 35B 파라미터 모델(Qwen3.6-35B-A3B)을 라즈베리파이 5(16GB, 약 300유로)에서 로컬로 실행하며, 745페이지 차량 매뉴얼을 RAG로 참조해 페이지 인용과 함께 답변한다. 음성 인식(VAD + whisper.cpp), OBD 케이블 모니터링, 자동 업데이트, 3계층 연결(폰 핫스팟 → 홈 WiFi → 자체 AP) 기능을 갖췄으며, 클라우드 없이 완전히 오프라인으로 동작한다. GroupMind 채팅룸에 @gle이라는 에이전트로 참여해 출발·도착·여행 요약·충격 감지 시 대시캠 클립을 전송한다.
핵심 포인트
- 라즈베리파이 5에서 35B 파라미터 모델을 3.5 tok/s 생성 속도로 로컬 실행 (14.3GB 양자화 모델)
- 745페이지 차량 매뉴얼 기반 RAG로 페이지 인용 포함 답변, 매뉴얼에 없는 내용은 답변 거부
- 시스템 상태(온도, 쓰로틀링, 팬, 메모리, 디스크, 네트워크)를 실시간 측정해 근거 기반 자기 인식 제공
- systemd 서비스로 부팅 시 전체 스택 자동 시작, 시간당 자동 업데이트 + 원격 터널 접속 지원
향후 전망
- 차량용 로컬 AI 에이전트의 실용적 레퍼런스로 자리잡을 가능성
- 완전 오프라인 AI 비서의 가정용·차량용 확산에 기여할 전망
출처:hackernews