Mistral Large 4 weights & Hugging Face-gids

Release-status

De officiële aankondiging van oktober 6 plant open weights voor eind oktober. Dat schema is geen bewijs dat bestanden al beschikbaar zijn. Controleer de officiële aankondiging en Mistral AI's Hugging Face-organisatie voor de daadwerkelijke modelrepository.

Identificeer de juiste repository

Verifieer de uitgever, exacte modelidentificatie en revisie. Een repositorynaam alleen is niet voldoende om vast te stellen dat deze officieel is. Lees de modelkaart, ondersteunde architectuur en bestandslijst. Pin een commit of revisie in plaats van een bewegende branch te deployen.

Vóór je downloadt

Controleer de licentie in de vrijgegeven repository; ga niet uit van een licentie van een eerder model. Inspecteer bestandchecksums en verwachte groottes. Bereken schijfcapaciteit voor de originele weights, conversieartefacten, cache en rollback-kopie. Voer nooit scripts uit van een niet-geverifieerde mirror.

Geheugeninschatting

Een model met 1.05T parameters vereist ongeveer 2.1 TB bij twee bytes per parameter, 1.05 TB bij één byte of 525 GB bij een halve byte. Dit zijn rekenkundige schattingen op basis van alleen weights, geen geteste GPU-configuraties. Quantisatiemetadata, routing, KV-cache en runtime-overhead verhogen het totaal. Actieve parameters verminderen niet de noodzaak om de volledige expert-weights op te slaan.

Frameworkgereedheid

Bevestig dat je runtime de exacte architectuur en quantisatieformaat ondersteunt. Test tokenizer-compatibiliteit, expertplaatsing, afbeeldingsverwerking en communicatie tussen meerdere apparaten. Gebruik een korte prompt en bekende afbeelding voordat je lange context probeert.

Deployment-checklist

• Noteer de repositoryrevisie en licentie.
• Verifieer gedownloade bestanden vóór conversie.
• Meet geheugen, latentie en doorvoer met realistische invoer.
• Stel aanvraaglimieten en annuleringsgedrag in.
• Houd inloggegevens buiten publieke code en log alleen noodzakelijke diagnostiek.

Als weights niet beschikbaar zijn

Gebruik de officiële API voor experimenten als je toegang hebt. Deze workspace verspreidt geen weights en heeft geen self-hosted Large 4 deployment gebenchmarked. Lees onze gids voor lokaal deployen voordat je hardware budgetteert.