Ministral 3 3B
Modelo pequeno de conversa da Mistral, que também entende imagens, pensado para computadores modestos.
- Assunto
- Texto
- Memória mínima da placa
- 8 GB
A Mistral diz que cabe em 8 GB de VRAM na versão FP8 (a versão Instruct oficial), e em menos se quantizado ainda mais. - Licença
- Apache 2.0
Uso comercial permitido - Autor
- Mistral AI
- Lançamento
- Revisado em
Ainda não testado pelo vargas.
Onde baixar
Antes de baixar
Aceita até 256 mil tokens de contexto, mas no vLLM vale baixar o --max-model-len para economizar memória. Há versões base, instruct e de raciocínio.