Letta, una startup nata dai famosi laboratori dell’Università della California – Berkeley, ha di recente svelato la sua tecnologia innovativa che consente ai modelli di intelligenza artificiale di ricordare utenti e conversazioni. L’azienda ha anche annunciato un finanziamento seed di 10 milioni di dollari guidato da Astasia Myers di Felicis, con una valutazione post-money di 70 milioni di dollari.

Un team di investitori di spicco

Letta è sostenuta da un gruppo di investitori di grande rilievo nel campo dell’IA, tra cui Jeff Dean di Google, Clem Delangue di Hugging Face, Cristóbal Valenzuela di Runway e Robert Nishihara di Anyscale.

MemGPT: il progetto open source che ha fatto scalpore

Come raccontato da TechCrunch, fondata dai dottorandi di Berkeley Sarah Wooders e Charles Packer, nella foto, Letta è una startup di IA molto attesa. Questo perché è nata dallo Sky Computing Lab di Berkeley ed è l’entità commerciale del popolare progetto open source MemGPT.

Lo Sky Computing Lab di Berkeley, guidato dal famoso professore e co-fondatore di Databricks Ion Stoica, è il discendente di RISELab e AMPLab, che hanno generato aziende come Anyscale, Databricks e SiFive. Lo Sky Lab, in particolare, ha dato vita a numerosi progetti open source di modelli linguistici di grandi dimensioni (LLM) come Gorilla LLM, vLLM e il linguaggio strutturato LLM SGLang.

MemGPT: la soluzione al problema della memoria negli LLM

MemGPT è uno di questi progetti ed è diventato così popolare da diventare virale ancor prima del suo lancio ufficiale. La ragione di tanto entusiasmo è che MemGPT risolve un problema cruciale per gli LLM: nella loro forma nativa, modelli come ChatGPT sono “stateless”, ovvero non memorizzano dati storici a lungo termine. Questo è problematico per le applicazioni di IA che dipendono dalla conoscenza e dall’apprendimento dell’utente nel tempo, come i chatbot di assistenza clienti o le app di monitoraggio dei sintomi sanitari. MemGPT gestisce i dati e la memoria in modo che gli agenti di IA e i chatbot possano ricordare gli utenti e le conversazioni precedenti.

L’interesse degli investitori e la nascita di Letta Cloud

Il post sul paper di MemGPT è rimasto in cima a Hacker News, il popolare sito per programmatori gestito da Y Combinator, per 48 ore. Packer ha trascorso il suo fine settimana e i giorni successivi a rispondere alle domande sul sito mentre cercava di preparare il codice per il rilascio. Una volta che il progetto è stato reso disponibile su GitHub, un link ad esso è diventato nuovamente virale su Hacker News.

Astasia Myers di Felicis ha scoperto Wooders e Packer leggendo di MemGPT e ha immediatamente riconosciuto le possibilità commerciali della tecnologia. I fondatori hanno comunque continuato a fare colloqui virtuali con altri investitori prima di scegliere quello che li ha apprezzati per primo.

Nel frattempo, Stoica ha favorito le presentazioni a Dean, Nishihara e altri importanti angel investor della Silicon Valley. “Molti professori di Berkeley, proprio per il fatto di essere a Berkeley, sono molto ben collegati”, ha ricordato Packer a proposito della facilità del processo di coinvolgimento degli angel investor. “Tengono d’occhio i progetti di questo laboratorio che verranno commercializzati”.

Letta Cloud: la versione commerciale di MemGPT

Mentre MemGPT è già disponibile e viene utilizzato, la variante commerciale di Letta, Letta Cloud, non è ancora aperta al pubblico. A partire da lunedì prossimo, Letta accetterà le richieste per gli utenti beta e offrirà anche strumenti di sviluppo per la creazione di agenti di IA.

Un futuro di applicazioni IA personalizzate

Con MemGPT, Wooders vede un ampio ventaglio di utilizzi. “Penso che il caso d’uso numero uno che vediamo sia fondamentalmente quello dei chatbot altamente personalizzati e molto coinvolgenti”, ha affermato. Ma ci sono anche usi all’avanguardia come “un chatbot per i pazienti oncologici” in cui i pazienti caricano la loro storia clinica e poi condividono i sintomi in corso in modo che il bot possa imparare e offrire indicazioni nel tempo.

La sfida dell’open source contro i modelli proprietari

Vale la pena notare che MemGPT non è l’unico a lavorare su questo fronte. LangChain è probabilmente il suo concorrente più noto e offre già opzioni commerciali. Anche i principali creatori di modelli offrono strumenti per la creazione di agenti di IA, come l’API Assistants di OpenAI.

Ma Wooders, Packer e Myers vedono alcune differenze chiave tra ciò che Letta offre e ciò che il gigante del mercato OpenAI sta facendo. Letta, infatti, sostiene che funzionerà con qualsiasi modello di IA e si aspetta che i suoi utenti ne utilizzino molti: OpenAI, Anthropic, Mistral, i loro modelli sviluppati internamente. La tecnologia di OpenAI attualmente funziona solo con se stessa.