← Modelos

Gemma 4 12B

Modelo de conversa do Google que também entende imagem e áudio, feito para rodar em notebook e placa de vídeo comum.

Assunto
Texto
Memória mínima da placa
16 GB
O Google diz que roda localmente com 16 GB de VRAM ou de memória unificada (Mac), sem dizer a precisão. A tabela oficial, só para carregar os pesos e sem contar o contexto: 6,7 GB em 4 bits (Q4_0), 13,4 GB em 8 bits (SFP8) e 26,7 GB em BF16.
Licença
Apache 2.0
Uso comercial permitido
Autor
Google DeepMind (Google)
Lançamento
Revisado em

Ainda não testado pelo vargas.

Onde baixar

Antes de baixar

Contexto de até 256 mil tokens; quanto maior o contexto, mais memória gasta. Disponível no Ollama (biblioteca gemma4) e no llama.cpp.

Fontes