Ministral 3 8B
Modelo médio de conversa da Mistral, que também entende imagens, para placas de vídeo de uso doméstico.
- Assunto
- Texto
- Memória mínima da placa
- 12 GB
A Mistral diz que cabe em 12 GB de VRAM na versão FP8 (a versão Instruct oficial), e em menos se quantizado ainda mais. - Licença
- Apache 2.0
Uso comercial permitido - Autor
- Mistral AI
- Lançamento
- Revisado em
Ainda não testado pelo vargas.
Onde baixar
Antes de baixar
Aceita até 256 mil tokens de contexto, mas no vLLM vale baixar o --max-model-len para economizar memória. Há versões base, instruct e de raciocínio.