Rodando Ollama Localmente no Linux: Guia Completo de Instalação

O Ollama é uma ferramenta open-source que permite executar modelos de Inteligência Artificial Generativa (LLMs – Large Language Models) diretamente na sua máquina local, sem depender de serviços em nuvem. Com ele, você pode rodar modelos como Llama 2, Mistral, CodeLlama e muitos outros diretamente no seu computador Linux.

Principais Vantagens do Ollama

• Privacidade total: Seus dados nunca saem do seu computador
• Funcionamento offline: Não requer conexão com a internet após o download dos modelos
• Custo zero: Sem taxas de API ou assinaturas mensais
• Personalização: Possibilidade de ajustar modelos para necessidades específicas
• Integração com ferramentas: Compatível com IDEs, terminais e aplicações diversas

Requisitos do Sistema

Antes de começar, verifique se seu sistema atende aos requisitos mínimos:

Instalação por Distribuição Linux

🐧 Debian / Ubuntu

A instalação no Debian e Ubuntu é simples através do script oficial:

# Baixar e executar o script de instalação oficial
curl -fsSL https://ollama.com/install.sh | sh

Alternativa via repositório manual:

# Adicionar repositório e chave GPG
curl -fsSL https://ollama.com/install.sh | sudo gpg --dearmor -o /usr/share/keyrings/ollama-archive-keyring.gpg

# Instalar via apt (quando disponível no repositório oficial)
sudo apt update
sudo apt install ollama

Após a instalação, inicie o serviço:

# Iniciar o serviço Ollama
sudo systemctl start ollama

# Habilitar inicialização automática
sudo systemctl enable ollama

# Verificar status
sudo systemctl status ollama

🎩 Fedora

No Fedora, você pode utilizar o script oficial ou instalar via gerenciador de pacotes:

# Método 1: Script oficial (recomendado)
curl -fsSL https://ollama.com/install.sh | sh

Configuração do serviço systemd:

# Criar arquivo de serviço manualmente (se necessário)
sudo tee /etc/systemd/system/ollama.service > /dev/null <<EOF
[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/usr/local/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3

[Install]
WantedBy=default.target
EOF

# Recarregar systemd e iniciar
sudo systemctl daemon-reload
sudo systemctl start ollama
sudo systemctl enable ollama

🦎 openSUSE

Para openSUSE Leap e Tumbleweed, utilize o script universal:

# Instalação via script oficial
curl -fsSL https://ollama.com/install.sh | sh

Ou instalação manual:

# Baixar binário diretamente
sudo curl -L https://ollama.com/download/ollama-linux-amd64 -o /usr/local/bin/ollama
sudo chmod +x /usr/local/bin/ollama

# Criar usuário dedicado
sudo useradd -r -s /bin/false -m -d /usr/share/ollama ollama

# Configurar permissões
sudo mkdir -p /usr/share/ollama
sudo chown -R ollama:ollama /usr/share/ollama

🏔️ Arch Linux / Manjaro

No Arch Linux e derivados, você tem múltiplas opções:

Opção 1: AUR (Arch User Repository)

# Usando yay (AUR helper)
yay -S ollama-bin

# Ou compilando da fonte
yay -S ollama

Opção 2: Pamac no Manjaro (com AUR ativo)

# Habilitar AUR no Pamac (se ainda não estiver habilitado)
sudo sed -i 's/#EnableAUR/EnableAUR/' /etc/pamac.conf
sudo sed -i 's/#CheckAURUpdates/CheckAURUpdates/' /etc/pamac.conf

# Instalar via pamac com suporte AUR
sudo pamac install ollama-bin

# Ou versão de desenvolvimento
sudo pamac install ollama-git

Opção 3: Script oficial

curl -fsSL https://ollama.com/install.sh | sh

Configuração pós-instalação no Arch:

# Iniciar e habilitar serviço
sudo systemctl enable --now ollama

# Verificar instalação
ollama --version

❄️ NixOS

No NixOS, a instalação é feita através da configuração declarativa do sistema:

Método 1: Configuration.nix

Adicione ao seu /etc/nixos/configuration.nix:

{ config, pkgs, ... }:

{
  # Habilitar o serviço Ollama
  services.ollama = {
    enable = true;

    # Configurações opcionais
    host = "0.0.0.0";  # Escutar em todas as interfaces (padrão: 127.0.0.1)
    port = 11434;      # Porta padrão

    # Diretório para armazenar os modelos
    home = "/var/lib/ollama";

    # Usuário que executará o serviço
    user = "ollama";
    group = "ollama";

    # Variáveis de ambiente adicionais (ex: para GPU)
    environmentVariables = {
      # Para NVIDIA
      # CUDA_VISIBLE_DEVICES = "0";

      # Para AMD ROCm
      # HSA_OVERRIDE_GFX_VERSION = "10.3.0";
    };

    # Opções de aceleração de hardware
    acceleration = "cuda";  # Opções: false, "rocm", "cuda"
  };

  # Certifique-se de ter drivers de GPU configurados
  # Para NVIDIA:
  # services.xserver.videoDrivers = [ "nvidia" ];
  # hardware.nvidia.package = config.boot.kernelPackages.nvidiaPackages.stable;
}

Método 2: Usando Home-Manager

# home.nix
{ config, pkgs, ... }:

{
  home.packages = with pkgs; [
    ollama
  ];

  # Configuração de variáveis de ambiente
  home.sessionVariables = {
    OLLAMA_HOST = "0.0.0.0:11434";
    OLLAMA_MODELS = "$HOME/.ollama/models";
  };
}

Aplicar as mudanças:

# Rebuild do sistema NixOS
sudo nixos-rebuild switch

# Ou para home-manager
home-manager switch

Primeiros Passos Após a Instalação

Baixar e Executar seu Primeiro Modelo

# Baixar e executar o Llama 2
ollama run llama2

# Baixar e executar o Mistral (recomendado para português)
ollama run mistral

# Baixar o CodeLlama para programação
ollama run codellama

# Listar modelos disponíveis localmente
ollama list

# Listar modelos disponíveis para download
ollama pull --help

Comandos Úteis do Ollama

Configuração de GPU (Aceleração de Hardware)

NVIDIA (CUDA)

O Ollama detecta automaticamente GPUs NVIDIA. Certifique-se de ter os drivers instalados:

# Ubuntu/Debian
sudo apt install nvidia-driver-535 nvidia-cuda-toolkit

# Fedora
sudo dnf install akmod-nvidia xorg-x11-drv-nvidia-cuda

# Verificar instalação
nvidia-smi

AMD (ROCm)

# Configurar variável de ambiente para GPUs AMD
export HSA_OVERRIDE_GFX_VERSION=10.3.0

# Adicionar ao ~/.bashrc para persistência
echo 'export HSA_OVERRIDE_GFX_VERSION=10.3.0' >> ~/.bashrc

Integração com Aplicações

O Ollama expõe uma API compatível com OpenAI na porta 11434:

# Exemplo de chamada API
curl http://localhost:11434/api/generate -d '{
  "model": "mistral",
  "prompt": "Explique o que é Linux"
}'

Aplicações compatíveis:

• Continue.dev: Extensão para VS Code
• ChatGPT-Next-Web: Interface web alternativa
• OpenWebUI: Interface completa tipo ChatGPT
• Dify: Plataforma de desenvolvimento de LLMs

Solução de Problemas Comuns

Erro: “permission denied”

sudo usermod -aG ollama $USER
# Faça logout e login novamente

Erro: “address already in use”

# Verificar processo usando a porta
sudo lsof -i :11434

# Matar processo se necessário
sudo kill -9 <PID>

Modelo muito lento na CPU

• Verifique se sua CPU suporta AVX2: grep avx2 /proc/cpuinfo
• Considere usar modelos menores (ex: mistral:7b em vez de mistral)
• Aceleração GPU é altamente recomendada para modelos grandes

Conclusão

O Ollama revolucionou a forma como utilizamos Inteligência Artificial no Linux, democratizando o acesso a modelos de linguagem avançados sem depender de infraestrutura em nuvem. Seja você um desenvolvedor buscando assistência de código, um estudante explorando IA, ou um entusiasta de privacidade digital, o Ollama oferece uma solução robusta e acessível.

A instalação é relativamente simples em todas as principais distribuições Linux, desde o Debian tradicional até o NixOS declarativo. A compatibilidade com GPU acelera significativamente a inferência, tornando viável o uso de modelos complexos mesmo em hardware modesto.

Próximos passos recomendados:

1. Experimente diferentes modelos para encontrar o ideal para seu uso
2. Explore a criação de modelos personalizados com Modelfiles
3. Integre o Ollama com suas ferramentas de desenvolvimento favoritas
4. Considere contribuir com a comunidade open-source do projeto

Com o Ollama rodando localmente, você tem o poder da IA generativa sob seu controle total, garantindo privacidade, velocidade e independência de serviços terceirizados.

Tags: