Prompt Cache

一个轻量级缓存层，可防止重复生成相同内容。通过在生产环境中拦截重复提示词，节省了约60%的API配额。

工作原理

1. 1. 标准化提示词（转为小写、合并空白字符）
2. 与上下文键（用户名、语言、模型）组合
3. 对组合后的键进行SHA-256哈希处理
4. 在缓存表中检查已有结果
5. 未命中：调用API，存储结果。命中：立即返回缓存结果。

使用方法

python
import prompt_cache

在调用昂贵API前进行检查

if cached:
return cached # 免费！无需调用API。

缓存未命中 — 调用API

为下次使用存储结果

数据表结构

sql
CREATE TABLE IF NOT EXISTS prompt_cache (
prompt_hash TEXT NOT NULL,
child_name TEXT NOT NULL,
language TEXT NOT NULL,
story_json TEXT,
createdat DATETIME DEFAULT CURRENTTIMESTAMP,
PRIMARY KEY (prompthash, childname, language)
);

自定义键

默认实现使用(prompt, child_name, language)作为缓存键。可根据您的领域进行调整：

• - 聊天补全： (systemprompt, usermessage, model)
• 文本转语音： (text, voiceid, modelid)
• 图像生成： (prompt, seed, model, size)

文件

• - scripts/prompt_cache.py — 缓存实现（35行）