製作了一個有趣的玩具示例,使用了外部內存的 MLX LM。 你可以把不想忘記的事情寫進去: "/r 我很少使用但不想忘記的晦澀 bash 命令" 然後你可以查詢具有訪問內存的 LLM。 "那個用於 XYZ 的晦澀 bash 命令是什麼?" 這不是聊天。聊天記錄不會被保存。你可以通過 "\r <要記住的文本>" 來控制 LLM 上下文中的內容。 一切都在本地運行!