In ambito di modelli linguistici di grandi dimensioni (LLM, Large Language Models), RAG sta per Retrieval-Augmented Generation (Generazione Aumentata dal Recupero di Informazioni). Cos’è il RAG? Il RAG è una tecnica ibrida che combina: Come funziona? Vantaggi del RAG ✔ Migliora l’accuratezza – Riduce il rischio di “allucinazioni” (risposte inventate) fornendo dati verificati.✔ Aggiornabilità dinamica […]
About: paolo9785
- Website
- https://www.paolo9785.com
Posts by paolo9785:
Cosa sono i Backend di Ollama? e come funzionano?
I backend di Ollama si riferiscono ai componenti server-side che gestiscono il funzionamento dell’ecosistema Ollama, specializzato nell’esecuzione, gestione e distribuzione di modelli di linguaggio (LLM) localmente o su server. Ecco una spiegazione più dettagliata: Cosa fa il backend di Ollama? Esempi di Backend in Ollama Differenza tra Backend e Frontend Continua a seguirci se vuoi […]
Che cosa è il contesto (context lenght) nei modelli AI LLM?
Nel’ambito dei Large Language Models (LLM) come GPT-4, il “contesto” si riferisce alle informazioni che il modello tiene a mente durante una conversazione o un task per generare risposte coerenti e pertinenti. Cosa include il contesto? Perché è importante? Esempio pratico 🔹 Utente: “Chi ha scritto ‘1984’?”🔹 LLM: “George Orwell.”🔹 Utente: “In che anno è […]
Che cosa è la quantizzazione nei modelli AI LLM?
La quantizzazione in un LLM (Large Language Model) è una tecnica di ottimizzazione che riduce la precisione dei numeri utilizzati per rappresentare i parametri del modello (pesi e attivazioni), allo scopo di diminuire la dimensione del modello e migliorare l’efficienza computazionale senza sacrificare eccessivamente le prestazioni. A cosa serve? Tipi di quantizzazione Esempio pratico Svantaggi […]
Di cosa hai bisogno per far girare un LLM in locale?
Abbiamo visto nel precedente articolo (Ollama: portare l’Intelligenza Artificiale sul tuo laptop) quanto sia facile implementare un modello AI sulla nostra macchina locale. Uno degli aspetti più sorprendenti di Ollama è la sua efficienza: non serve un datacenter per far girare un modello linguistico generativo. Ma è anche vero che le prestazioni variano molto in […]
Ollama: portare l’Intelligenza Artificiale sul tuo laptop
Nel panorama in continua espansione dell’intelligenza artificiale generativa, le soluzioni più diffuse — da OpenAI a Anthropic, passando per Google e Meta — si basano quasi tutte su infrastrutture cloud centralizzate. Questi servizi offrono potenza e flessibilità, ma spesso al costo di: Per chi sviluppa applicazioni verticali, ha esigenze di privacy, o semplicemente vuole sperimentare […]
Le differenze tra USA e Italia secondo l’AI di Microsoft!
Al giorno d’oggi l’intelligenza artificiale sta prendendo sempre più piede in una moltitudine di applicazioni tecnologiche.Come forse alcuni di voi sanno, i generatori di immagini mediante intelligenza artificiale sono in grado di costruire delle rappresentazioni grafiche partendo da una descrizione di ciò che vorreste ottenere. Quanto più dettagliata sarà la vostra descrizione, tanto più sorprendente […]
Raspberry Pi come server casalingo per libri e audiolibri: la tua biblioteca cloud personale
Hai scaffali pieni di libri, una collezione di audiolibri che non sai più dove mettere, e sogni un sistema semplice e privato per accedere a tutto da ogni dispositivo? Con un Raspberry Pi puoi costruire la tua biblioteca digitale casalinga, sempre disponibile e accessibile da PC, smartphone o tablet, anche fuori casa. In questo articolo […]
Scopriamo Ollama: l’intelligenza artificiale sul tuo computer
Nel mondo in rapida evoluzione dell’intelligenza artificiale, Ollama si distingue per un motivo semplice ma rivoluzionario: ti permette di usare modelli linguistici avanzati direttamente sul tuo computer, senza connessioni a server esterni. È l’IA a casa tua, pronta a lavorare anche offline. Con Ollama puoi scaricare, avviare e interagire con modelli come LLaMA, Mistral, Gemma […]
Le Differenze tra Remote Work e Smart Work
Abbiamo parlato nel nostro articolo predecente (Il Futuro del Lavoro: Remote, Hybrid o in Ufficio?) delle differenze, vantaggi e svantaggi del lavoro remoto, ibrido ed in sede, tuttavia nel panorama lavorativo contemporaneo, due concetti stanno guadagnando sempre più attenzione: il remote work e lo smart work. Sebbene spesso utilizzati come sinonimi, in realtà rappresentano due […]