AI Locale & Agenti
Ollama su GPU e CPU: setup e risoluzione dei problemi
Riferimento rapido per far girare l'agente in locale: calcolo VRAM, quantizzazione, modelli per hardware, errori comuni, tuning e checklist pre-deploy.
Categoria · 9 articoli
AI Locale & Agenti
Tutti gli articoli della categoria, dal più recente. Puoi cercare in tutto il blog o cambiare categoria.
Serie e percorsi di lettura: gli argomenti in capitoli, da leggere in ordine
Articoli in AI Locale & Agenti
AI Locale & Agenti
Costruire un agente AI specializzato in locale
Dal modello generico allo specialista di dominio: system prompt, few-shot, fine-tuning LoRA/QLoRA, valutazione della qualità e scelta tra RAG e fine-tuning.
AI Locale & Agenti
Interfaccia grafica per un agente AI con Gradio
Cap. 7: una GUI per l'agente con Gradio Blocks. Chat in streaming, upload documenti per il RAG, parametri del modello e deploy locale senza condivisione.
AI Locale & Agenti
Tool use con LangChain: l'agente AI che usa strumenti
Cap. 6: l'agente usa strumenti. Ricerca web, file, HTTP e shell con LangChain, ReAct a confronto con il function calling, allowlist e timeout.
AI Locale & Agenti
RAG locale: un agente AI che legge i tuoi documenti
Il tuo agente legge i tuoi documenti: embedding locale, ChromaDB su disco, chunking, retrieval e risposte con fonti citate.
AI Locale & Agenti
Memoria per un agente AI con LangChain e SQLite
Il tuo agente non deve dimenticare: tipi di memoria LangChain, persistenza su SQLite e file, conteggio dei token e gestione di più sessioni.
AI Locale & Agenti
Chat con un LLM locale: client Python per Ollama
Un client Python robusto per Ollama: streaming token per token, history della conversazione, parametri di generazione, retry con backoff e logging JSON.
AI Locale & Agenti
Installare Ollama e un LLM in locale, passo per passo
Setup di Ollama su ogni sistema operativo: comandi essenziali, quantizzazione GGUF, API REST locale, VRAM e risoluzione dei problemi più frequenti.
AI Locale & Agenti
Cos'è un agente AI e perché farlo girare in locale
Un agente AI non è un chatbot: percepisce, ragiona e agisce. Perché conviene l'approccio locale con Ollama, con confronto dei modelli e calcolo della VRAM.