TencentDB Agent Memory 开源：给 AI Agent 装上一套分层记忆引擎

pip install tencentdb-agent-memory
# 或克隆源码
git clone https://github.com/Tencent/TencentDB-Agent-Memory.git
cd TencentDB-Agent-Memory
pip install -e .

from tencentdb_agent_memory import MemoryEngine
from openai import OpenAI

# 1. 初始化分层记忆引擎
memory = MemoryEngine(
    persist_dir="./agent_memory_store",  # 持久化目录，长期记忆落盘
    working_capacity=20,                 # 工作记忆条目上限
)

llm = OpenAI(base_url="https://api.openai.com/v1", api_key="your-key")

def agent_run(session_id: str, user_input: str) -> str:
    # 2. 召回与当前任务相关的记忆
    recalled = memory.recall(
        session_id=session_id,
        query=user_input,
        top_k=5,            # 最多召回 5 条相关记忆
        include_long_term=True,  # 同时检索长期记忆
    )

    # 3. 构造带记忆上下文的 prompt
    memory_context = ""
    if recalled:
        memory_context = "\n## 相关记忆\n"
        for item in recalled:
            memory_context += f"- [{item.layer}] {item.content}\n"

    prompt = f"""你是一个数据分析助手。
{memory_context}
## 用户输入
{user_input}

请基于以上记忆和输入给出回答。如果记忆中有相关经验，优先复用。"""

    # 4. 调用 LLM
    response = llm.chat.completions.create(
        model="gpt-4o-mini",
        messages=[{"role": "user", "content": prompt}],
    )
    answer = response.choices[0].message.content

    # 5. 将本轮关键信息符号化存入记忆
    memory.store(
        session_id=session_id,
        content=user_input,          # 原始输入
        summary=answer[:200],        # 提取摘要（实际应做结构化提取）
        layer="working",             # 先存工作记忆
        auto_promote=True,           # 达到阈值自动提升为长期记忆
    )

    return answer

# --- 跨会话演示 ---
# 第一轮会话：建立偏好
print("=== Session 1 ===")
print(agent_run("session-001", "我需要分析销售数据，输出格式请用 Markdown 表格。"))

# 第二轮会话：复用偏好（新 session，但长期记忆可召回）
print("\n=== Session 2 (新会话) ===")
print(agent_run("session-002", "帮我分析上周的用户增长数据。"))
# Agent 应自动召回"用户偏好 Markdown 表格"的长期记忆

# 查看记忆状态
print("\n=== 记忆盘点 ===")
stats = memory.stats()
print(f"工作记忆条目: {stats.working_count}")
print(f"长期记忆条目: {stats.long_term_count}")

import json

def extract_facts(user_input: str, answer: str) -> list[str]:
    """让 LLM 自行从对话中提取符号化事实"""
    extract_prompt = f"""从以下对话中提取可复用的结构化事实，每条事实一行，格式：
    - 偏好类: "用户偏好 X 格式"
    - 决策类: "选择方案 Y 因为 Z"
    - 发现类: "根因是 W"

    用户: {user_input}
    助手: {answer}
    """
    resp = llm.chat.completions.create(
        model="gpt-4o-mini",
        messages=[{"role": "user", "content": extract_prompt}],
    )
    return resp.choices[0].message.content.strip().split("\n")

# 替换 store 调用中的 summary
facts = extract_facts(user_input, answer)
for fact in facts:
    memory.store(
        session_id=session_id,
        content=fact,
        summary=fact,
        layer="working",
        auto_promote=True,
    )