← Modelos

Ministral 3 3B

Modelo pequeno de conversa da Mistral, que também entende imagens, pensado para computadores modestos.

Assunto
Texto
Memória mínima da placa
8 GB
A Mistral diz que cabe em 8 GB de VRAM na versão FP8 (a versão Instruct oficial), e em menos se quantizado ainda mais.
Licença
Apache 2.0
Uso comercial permitido
Autor
Mistral AI
Lançamento
Revisado em

Ainda não testado pelo vargas.

Onde baixar

Antes de baixar

Aceita até 256 mil tokens de contexto, mas no vLLM vale baixar o --max-model-len para economizar memória. Há versões base, instruct e de raciocínio.

Fontes