Como executar um modelo de IA no seu próprio computador
Executar um modelo localmente significa que seus dados nunca saem do seu computador, ele funciona off-line e não há taxas mensais. Você só precisa de um computador com poder suficiente e de aproximadamente 15 minutos.
01 · Verifique seu hardware
O que importa mais é a memória da sua placa de vídeo (VRAM). No Windows: Gerenciador de Tarefas → Desempenho → GPU → “Memória da GPU dedicada”. Em um Mac com chip da série M, cerca de três quartos da memória principal podem ser utilizados.
Regra prática para a versão compacta comum (Q4): 0,6 GB por bilhão de parâmetros, mais 1,5 GB. Um modelo de 7B requer cerca de 6 GB, portanto cabe em um cartão de 8 GB. Nosso finder verifica isso automaticamente quando você escolhe “local”.
02 · A maneira fácil: LM Studio
LM Studio é um aplicativo de desktop gratuito para Windows, macOS e Linux, com uma janela de conversa simples – não é preciso linha de comando.
- Baixe e instale o LM Studio em lmstudio.ai.
- Abra a ferramenta de busca e digite o nome do modelo. Eles são provenientes do Hugging Face.
- Escolha uma versão marcada como Q4_K_M – ela oferece um bom equilíbrio entre tamanho e qualidade. O LM Studio indica se ela cabe na sua memória.
- Clique em Download, carregue o modelo e comece a conversar.
03 · Para entusiastas de tecnologia: Ollama
Ollama executa modelos pela linha de comando e disponibiliza uma API local que outros programas podem utilizar.
- Instale o Ollama em ollama.com.
- Abra um terminal e inicie um modelo usando a biblioteca do Ollama, por exemplo:
ollama run <model-name>. Nossas páginas de modelos exibem o comando exato já verificado. - Modelos do Hugging Face no formato GGUF podem ser iniciados diretamente:
ollama run hf.co/<user>/<repository>:Q4_K_M
04 · Encontrando modelos no Hugging Face
Hugging Face é a maior biblioteca de modelos abertos. Dicas:
- Filtrar por GGUF – esse é o formato usado pelo LM Studio e pelo Ollama.
- Ler o model card: nele consta a licença. Alguns modelos podem ser usados apenas para uso pessoal ou para pesquisa.
- Preferir arquivos do criador original ou de enviores confiáveis.
05 · O que esperar
Os modelos locais costumam ser um pouco menos potentes que os maiores modelos em nuvem, mas geralmente são suficientes para tarefas de redação, resumo e tradução. A primeira resposta leva alguns segundos enquanto o modelo é carregado. Ele também funciona sem placa de vídeo – apenas de forma muito mais lenta.