5. Dati, RAG e conoscenza

5.1 La qualita nasce dai dati

Un sistema AI non migliora solo scegliendo un modello piu grande. Dati incompleti, duplicati, obsoleti o privi di contesto producono risposte fragili anche con un modello capace.

Prima dell'indicizzazione occorre conoscere:

• origine e proprietario del dato;
• data e versione;
• formato e struttura;
• livello di affidabilita;
• permessi di accesso;
• frequenza di aggiornamento;
• eventuali dati personali o riservati.

5.2 Dal documento al blocco di conoscenza

Un documento non va trattato come una stringa da tagliare a intervalli fissi. Il significato puo dipendere da titolo, sezione, tabella, definizione, nota, data o relazione con altre parti.

Un blocco utile dovrebbe essere:

• abbastanza completo da rispondere a una domanda;
• abbastanza piccolo da essere recuperato con precisione;
• collegato alla sezione e al documento di origine;
• accompagnato da versione, stato e metadati;
• separato da contenuti incompatibili o superati.

La segmentazione automatica e un punto di partenza. I documenti complessi richiedono controllo della struttura e, quando serve, navigazione tra blocchi collegati.

5.3 RAG non significa verita automatica

Il retrieval augmented generation recupera fonti esterne e le inserisce nel contesto del modello. Questo riduce la probabilita di inventare informazioni, ma restano possibili errori di estrazione, ricerca, selezione e sintesi.

Una pipeline deve quindi valutare separatamente:

1. recall: la fonte corretta viene recuperata?
2. precision: i risultati sono pertinenti?
3. grounding: la risposta deriva davvero dalle fonti?
4. citation: il lettore puo verificare l'affermazione?
5. access control: il sistema evita fonti non autorizzate?

5.4 Ricerca ibrida

La ricerca lessicale e necessaria per acronimi, codici, standard e nomi esatti. La ricerca semantica aiuta quando la domanda usa parole diverse da quelle del documento.

Una ricerca robusta combina:

• indice testuale;
• embeddings;
• filtri sui metadati;
• reranking;
• espansione verso concetti collegati;
• citazioni e contesto circostante.

Nessun singolo punteggio deve decidere da solo la risposta in domini ad alto rischio.

5.5 Quando il RAG non basta

Il RAG fornisce conoscenza dichiarativa. Non sostituisce automaticamente procedure, autorizzazioni, regole o memoria operativa.

Usare una skill per una procedura, regole deterministiche per un vincolo, MCP per collegarsi a un sistema e RAG per recuperare documentazione. La qualita nasce dalla composizione corretta, non dal mettere tutto nello stesso prompt. La conoscenza recuperata va inserita in un contesto che definisca responsabilita, limiti e verifica.

5.6 Il contesto e una competence architecture

Un sistema intelligente non fa bene solo il retrieval. Fa bene il framing del problema. La conoscenza restituita via RAG ha valore solo se il contesto del compito e costruito in modo corretto: obiettivo, vincoli, azioni consentite, precedenti rilevanti, criteri di verifica e margini di errore.

In pratica, il contesto non e una scatola dove mettere tutto. E uno strato di architettura che separa:

• conoscenza dichiarativa;
• regole operative;
• memoria di sessione;
• strumenti disponibili;
• limiti di responsabilita;
• criteri di controllo e escalation.

Quando il contesto e mal progettato, anche un buon RAG produce risposte vaghe, ripetitive o perfettamente collegate a documenti sbagliati. La differenza tra un buon system design e un cattivo one-shot e spesso la differenza tra contesto costruito e contesto casuale.

5.7 La conoscenza va organizzata e non solo recuperata

La vera sfida del RAG non e solo trovare un passaggio giusto. E assicurare che la conoscenza sia abbastanza strutturata per essere confrontata con il compito reale.

Questo implica:

• distinguere documenti di policy da documenti di processo;
• collegare fonti a metadati chiari e versionati;
• separare definizioni da procedure fatte da persone o da sistemi;
• mantenere una visione della provenienza;
• evitare che dati obsoleti, duplicati o incompleti vengano trattati come fatti definitivi.

In altre parole, la conoscenza ha valore solo se e organizzata, controllabile e interpretabile in relazione al giorno, all'utente e al contesto applicativo.

Fonti di partenza

• Why RAG Solutions Fail with Complex Documents & Vector Databases
• What Is Chunkless RAG How Docling & AI Agents Navigate Documents
• AI & Data Science Periodic Tables How They Work Together
• Essential Skills for Becoming an AI Engineer RAG, AI Agents, & More
• Is Fine-Tuning Still Needed LLMs, RAG, & LoRA
• What Is a Digital Librarian AI Agent Connecting SQL & Vector Database