← Modelos

Ministral 3 8B

Modelo médio de conversa da Mistral, que também entende imagens, para placas de vídeo de uso doméstico.

Assunto
Texto
Memória mínima da placa
12 GB
A Mistral diz que cabe em 12 GB de VRAM na versão FP8 (a versão Instruct oficial), e em menos se quantizado ainda mais.
Licença
Apache 2.0
Uso comercial permitido
Autor
Mistral AI
Lançamento
Revisado em

Ainda não testado pelo vargas.

Onde baixar

Antes de baixar

Aceita até 256 mil tokens de contexto, mas no vLLM vale baixar o --max-model-len para economizar memória. Há versões base, instruct e de raciocínio.

Fontes