Citazione Originariamente Scritto da Mdk Visualizza Messaggio
Anche qui la risposta è SNI, quello che dici vale se chiedi roba tipo codice o simile, se fai solo chat è LLM puro, c'è poco da strumentizzare
Ni: dipende dalla complessità della chat e da cosa stai chiedendo.

Anche quando sembra solo “una chiacchierata”, dietro le quinte c’è spesso una pipeline di strumenti: retrieval (RAG), agenti, tool interni per calcoli o ragionamenti step-by-step, ricerca web, memoria, ecc.

Tutto questo viene orchestrato per recuperare informazioni e comporre la risposta che ti arriva a video.

Il punto è che l’LLM, oggi, è spesso solo una parte della catena — di solito quella che verbalizza la risposta finale.

Quindi no, non è più “solo un LLM” come nel 2021: è un sistema con moduli distinti che collaborano. Ed è questo che fa tutta la differenza.