FocusLM

FocusLM Ricerca

Note basate sulla ricerca su memoria dell'IA, finestre di contesto e come costruire un'IA che conosce davvero il tuo mondo.

Cifrare la memoria dell'IA: perché una chiave per progetto batte una per database

Un'IA che ricorda la vostra vita custodisce materiale che non affidereste a uno sconosciuto. Cifriamo ogni file di memoria e ogni messaggio di chat con una chiave che appartiene solo a quel progetto, e la ricerca spiega perché le alternative ovvie perdono.

Leggi

Più contesto non è sempre meglio: cosa succede oltre i 64k token

Un ampio studio su oltre 20 modelli ha rilevato che ammassare più testo recuperato nel prompt spesso smette di aiutare — e per molti modelli inizia a fare danno — ben prima che la finestra sia piena. Più grande non equivale a migliore.

Leggi

E se un LLM gestisse la memoria come un sistema operativo?

La finestra di contesto è piccola e fissa. MemGPT prende in prestito un’idea vecchia di 40 anni dai sistemi operativi — una gerarchia di memoria con paginazione — per permettere a un modello di lavorare con molte più informazioni di quante ne entrino nella finestra.

Leggi

RAG contro contesto lungo: quale conviene davvero usare?

Quando un modello può leggere un milione di token, il recupero è obsoleto? Uno studio di Google DeepMind dice di no — il contesto lungo vince sulla qualità quando puoi permettertelo, il recupero vince sui costi e un semplice router ottiene gran parte di entrambi.

Leggi

Persi nel mezzo: perché le finestre di contesto lungo falliscono in silenzio

Gli LLM sfruttano l’inizio e la fine di un contesto lungo molto meglio del centro — un effetto a U che persiste anche nei modelli progettati per il contesto lungo. Ecco cosa dimostra la ricerca e cosa significa.

Leggi