생존용 LLM: 내 컴퓨터에서 돌아가는 AI 비서 겸 비상용 도서관

“오프라인에서도 작동하는 무료 오픈소스 AI 비서 'Survival LLM'이 공개됐다. 약 93만 개 위키백과 문서와 FEMA·CDC 지침, 의료·생존 매뉴얼을 담은 9GB(설치 시 19GB) 라이브러리를 갖추고 컴퓨터 메모리에 맞춰 6GB에서 80GB까지 모델을 자동 선택하며, 22개 비상 질문 테스트에서 최대 21개를 맞혔다. Mac용 212MB, Windows용 25MB로 배포된다.”

AI 요약

인터넷 없이도 작동하는 무료 AI 비서 겸 비상용 도서관 'Survival LLM'이 공개됐다. AI 모델과 라이브러리가 사용자 컴퓨터에 저장되어 모든 답변이 로컬에서 처리되며, 각 답변은 출처 기사와 정확한 구절을 함께 제시한다. 의료 참고자료, FEMA·CDC 지침, 생존 매뉴얼, 수리 가이드, 약 93만 개의 위키백과 문서를 포함한다. 컴퓨터 메모리에 따라 Nemotron 3.5 Super(80GB), Qwen3.8 27B(18GB), Nemotron 3.5 Lightning(25GB), IBM Granite 4.2 8B(6GB) 등 모델을 자동 선택한다. Mac(212MB)과 Windows(25MB)용으로 무료 오픈소스로 배포된다.

핵심 포인트

  • 인터넷 없이 완전 로컬에서 작동하는 무료 AI 비서
  • 약 93만 개 위키백과 문서 및 FEMA·CDC·의료·생존 자료 포함
  • 메모리에 따라 4종 AI 모델 자동 선택(6GB~80GB)
  • Mac 212MB, Windows 25MB 다운로드, 오픈소스

향후 전망

  • 재난·오지 환경에서의 실용적 AI 활용 사례 확대
  • 소형 모델 정확도 한계 보완을 위한 라이브러리·모델 개선 지속 전망
출처:hackernews
Share

이것도 읽어보세요

댓글

이 소식에 대한 의견을 자유롭게 남겨주세요.

댓글 (0)

불러오는 중...