인공지능 컴퓨터 권장사양

다음의 사양을 확인 후 PC를 준비하세요

설치 가능 운영체제와 최소 권장 사양

7b 모델 최소 권장 사양

• Debian 계열 리눅스
  • 12스레드
  • 12Gb CPU Memory
  • 8Gb GPU Memory
• MacOS
  • M1 이상
  • 16Gb Memory
• Windows 10 이상
  • 16스레드

13b 모델을 최소 권장 사양

• PC
  • 16스레드
  • 16GB CPU Memory
  • 12GB GPU Memory
• MacOS
  • M1 이상
  • 16GB Memory

유의사항

• 현재 MacOS와 Windows는 테스트 횟수가 권장사양에 맞지 않을 수 있습니다. 정확한 사양 정보가 있으면 https://gitlab.com/carrot-llm/smallai/-/issues 에 새 이슈를 남겨주세요
• MacOS의 API 연동성이 확인되지 않았습니다. 그래서 현재 권장하는 환경이 아닙니다.
• Windows의 그래픽 가속이 확인되지 않았습니다. 그래서 현재 권장하는 환경이 아닙니다.