Mistral Large 4 가중치 및 Hugging Face 가이드
계획된 가중치 릴리스를 추적하고, 모델 카드를 확인하며, 다운로드 및 배포 요구 사항을 추정하세요.
이 페이지에서
출시 상태
공식 10월 6 발표에 따르면 오픈 가중치는 10월 말에 공개될 예정입니다. 이 일정이 파일이 이미 사용 가능하다는 증거는 아닙니다. 실제 모델 저장소를 확인하려면 공식 발표와 Mistral AI의 Hugging Face组织를 확인하세요.
올바른 저장소 식별
게시자, 정확한 모델 식별자 및 리비전을 확인하세요. 저장소 이름만으로 공식 여부가 확인되지 않습니다. 모델 카드, 지원 아키텍처 및 파일 목록을 읽으세요. 이동하는 브랜치 대신 커밋이나 리비전을 고정하세요.
다운로드 전
출시된 저장소의 라이선스를 확인하세요. 이전 모델의 라이선스를 추정하지 마세요. 파일 체크섬과 예상 크기를 검사하세요. 원본 가중치, 변환 아티팩트, 캐시 및 롤백 복사본에 필요한 디스크 용량을 계산하세요. 검증되지 않은 미러의 스크립트는 절대 실행하지 마세요.
메모리 추정
1.05T-파라미터 모델은 파라미터당 2바이트 기준 약 2.1 TB, 1바이트 기준 1.05 TB, 또는 0.5바이트 기준 525 GB가 필요합니다. 이는 가중치 전용 산술 추정치이며, 테스트된 GPU 구성이 아닙니다. 양자화 메타데이터, 라우팅, KV 캐시 및 런타임 오버헤드가 총 사용량을 증가시킵니다. 활성화된 파라미터가 전체 전문가 가중치 저장 필요성을 줄이지 않습니다.
프레임워크 준비 상태
런타임이 정확한 아키텍처와 양자화 형식을 지원하는지 확인하세요. 토크나이저 호환성, 전문가 배치, 이미지 처리 및 다중 디바이스 통신을 테스트하세요. 긴 컨텍스트를 시도하기 전에 짧은 프롬프트와 알려진 이미지를 사용하세요.
배포 체크리스트
- 저장소 리비전과 라이선스를 기록하세요.
- 변환 전에 다운로드한 파일을 검증하세요.
- 현실적인 입력으로 메모리, 지연 시간 및 처리량을 측정하세요.
- 요청 제한과 취소 동작을 설정하세요.
- 자격 증명을 공개 코드 외부에 보관하고 필요한 진단만 기록하세요.
가중치를 사용할 수 없는 경우
접근 권한이 있다면 실험에 공식 API를 사용하세요. 이 워크스페이스는 가중치를 배포하지 않으며 자체 호스팅 Large 4 배포를 벤치마크하지 않았습니다. 하드웨어 예산을 세우기 전에 로컬 배포 가이드를 읽으세요.