Descrição
Chat local com IA pode rodar como serviço systemd por meio do KoboldCpp com um modelo de linguagem Gemma. É útil para quem quer conversa privada em estilo offline no próprio PC em vez de enviar prompts a um serviço em nuvem.
Modelos de linguagem podem errar, ter vieses ou consumir muitos recursos. Revise respostas geradas antes de agir e garanta que a máquina tenha CPU, GPU, memória e espaço em disco suficientes.