Gemma 4 12B
Modelo de conversa do Google que também entende imagem e áudio, feito para rodar em notebook e placa de vídeo comum.
- Assunto
- Texto
- Memória mínima da placa
- 16 GB
O Google diz que roda localmente com 16 GB de VRAM ou de memória unificada (Mac), sem dizer a precisão. A tabela oficial, só para carregar os pesos e sem contar o contexto: 6,7 GB em 4 bits (Q4_0), 13,4 GB em 8 bits (SFP8) e 26,7 GB em BF16. - Licença
- Apache 2.0
Uso comercial permitido - Autor
- Google DeepMind (Google)
- Lançamento
- Revisado em
Ainda não testado pelo vargas.
Onde baixar
Antes de baixar
Contexto de até 256 mil tokens; quanto maior o contexto, mais memória gasta. Disponível no Ollama (biblioteca gemma4) e no llama.cpp.