内存 API

2.12 版本引入

内存 API 提供了实现会话搜索所需的操作。内存存储当前会话的对话历史。消息表示用户与大型语言模型之间的一次问答交互。消息被组织到内存中。

ML Commons 支持以下内存级别 API

• 创建或更新内存
• 获取内存
• 搜索内存
• 删除内存

ML Commons 支持以下消息级别 API

• 创建或更新消息
• 获取消息
• 搜索消息
• 获取消息追踪

当安全插件启用时，所有内存都以私有安全模式存在。只有创建内存的用户才能与该内存及其消息进行交互。