Qwen3.8-27B ganha arquivos GGUF refeitos pela Unsloth, de 6 a 55 GB, para rodar no llama.cpp e no Ollama
vargas.com.br · · Ferramentas

Em 11 de novembro de 2026, a Unsloth republicou os arquivos GGUF do Qwen3.8-27B, modelo de texto e visão da Alibaba, usando a versão 3.1 do seu método de quantização, que chama de Dynamic e descreve como prévia. GGUF é o formato usado pelo llama.cpp, pelo Ollama e pelo LM Studio; quantizar é reduzir a precisão dos números do modelo para ele ocupar menos memória.
O que mudou
- Arquivos refeitos: segundo a Unsloth, a maioria das versões de 2 a 6 bits foi atualizada. As de 3 bits ficaram como estavam, porque o resultado era praticamente o mesmo.
- Ganho anunciado: a Unsloth fala em 5% a 10% mais acerto com o mesmo tamanho de arquivo na maioria dos testes que rodou. É número da própria empresa; a página registra que outro grupo publicou resultado diferente em um dos testes, que a Unsloth contesta.
- O modelo: o Qwen3.8-27B aceita texto, imagem e vídeo na entrada e tem contexto nativo de 262.144 tokens, segundo a ficha dos autores.
Para quem roda em casa
- Tamanho dos arquivos: de 6,19 GB (UD-IQ1_S, 1 bit) a 54,7 GB (BF16). Entre os de 4 bits, o UD-Q4_K_M tem 16,6 GB e o UD-Q4_K_XL, 17,7 GB; o Q8_0 tem 29 GB. São tamanhos de arquivo, não requisito de memória.
- Memória: os autores do modelo (Qwen) não informam requisito. A documentação da Unsloth indica a memória total, somando RAM e memória da placa de vídeo (ou memória unificada): 9 a 11 GB para 2 bits, 12 a 14 GB para 3 bits, 16 a 19 GB para 4 bits, 23 a 26 GB para 6 bits, 31 GB para 8 bits e 56 GB para BF16. O recurso MTP pede de 1 a 2 GB a mais.
- Licença: Apache 2.0, tanto no modelo original quanto no repositório da Unsloth. Uso comercial permitido.
- Versão mínima: a página não informa versão mínima do llama.cpp.
- Quem já tinha baixado: a maioria dos arquivos de 2 a 6 bits (menos os de 3 bits) foi trocada em 11 de novembro; quem baixou antes disso tem a versão anterior e precisa baixar de novo para ter a nova.
Onde baixar e como começar
- Arquivos GGUF: unsloth/Qwen3.8-27B-GGUF no Hugging Face.
- Guia da Unsloth, com as configurações de amostragem recomendadas: documentação do Qwen3.8.
- No Ollama, a página do repositório indica
ollama run hf.co/unsloth/Qwen3.8-27B-GGUF:UD-Q4_K_M. - No llama.cpp, a página traz comandos prontos para abrir um servidor local compatível com a API da OpenAI ou conversar pelo terminal; no LM Studio, há um link que abre o modelo direto no programa.
- Quem acabou de atualizar o motor pode ver o que mudou no post sobre o llama.cpp 1.0.
Fontes
- Fonte: repositório unsloth/Qwen3.8-27B-GGUF (2026-11-15)
- Fonte: documentação da Unsloth, atualização Dynamic v3.1 (2026-11-11)
- Fonte: ficha do Qwen3.8-27B (2026-11-15)