internet.watch.impress.co.jp/docs/column/shimizu/1542181.html
1 Users
0 Comments
4 Highlights
0 Notes
Tags
Top Highlights
10月にarxivで公開された「MemGPT:Towards LLMs as Operationg Systems」で、大規模言語モデル(LLM)の長期記憶として階層的なメモリを使う方法が提案され
人間との雑談から、名前や年齢、スケジュール、To Do、家族構成など、重要と思われる情報をメモリに格納し、会話に役立てることができる。
これにより、過去の会話履歴などを全てプロンプトに詰め込む必要はなく、直近の話題はCore Memoryから、過去の話題はArchival Storageからと、情報を適宜検索して必要な情報だけをプロンプトに含めることが可能となっている。
発想としてコンピューターのOSにおける仮想メモリを参考にしたしくみとなっており、Core Memory(PCでいうRAM)とArchival Storage(PCでいうSSD/HDD)という階層的な記憶域を自律的に利用できる。
Glasp is a social web highlighter that people can highlight and organize quotes and thoughts from the web, and access other like-minded people’s learning.