LLM缓存策略怎么做

最近在项目中用到了LLM缓存策略做相关的技术，把学习和实践过程记录一下。代码都在本地跑通过了，环境是Python 3.11。

先搞清楚原理

LLM缓存策略做的核心原理其实不复杂。关键在于理解其中的关键环节。看下面这段代码，逻辑就很清楚了：

import hashlib
import json
import time
from functools import wraps

# 内存缓存
_cache = {}

def llm_cache(func):
    @wraps(func)
    def wrapper(prompt, **kwargs):
        key = hashlib.md5(f"{prompt}{json.dumps(kwargs, sort_keys=True)}".encode()).hexdigest()
        if key in _cache:
            print("[CACHE HIT]")
            return _cache[key]
        result = func(prompt, **kwargs)
        _cache[key] = result
        return result
    return wrapper

@llm_cache
def call_llm(prompt, model="gpt-4o-mini"):
    from openai import OpenAI
    client = OpenAI()
    resp = client.chat.completions.create(
        model=model,
        messages=[{"role": "user", "content": prompt}]
    )
    return resp.choices[0].message.content

# Redis缓存版本
import redis
r = redis.Redis(host="localhost", port=6379, db=0)

def llm_cache_redis(func):
    @wraps(func)
    def wrapper(prompt, **kwargs):
        key = f"llm:{hashlib.md5(prompt.encode()).hexdigest()}"
        cached = r.get(key)
        if cached:
            return cached.decode()
        result = func(prompt, **kwargs)
        r.setex(key, 3600, result)  # 缓存1小时
        return result
    return wrapper

实际怎么用

实际编码中，LLM缓存策略做的用法可以简化。下面是我在项目中用的写法，经过几轮迭代优化过：

# 实际项目中的写法
import hashlib
# ... 完整代码见上方示例

# 关键配置说明:
# 1. 参数选择需要根据实际场景调整
# 2. 错误处理不能省，线上环境必须有
# 3. 性能监控要跟上，方便排查问题

进阶一点的用法

复杂场景下的用法和简单场景差别挺大。主要是需要额外处理一些边界情况，代码如下：

# 进阶用法
# 1. 批量处理提升吞吐量
# 2. 异步调用减少等待时间
# 3. 缓存机制避免重复计算
# 4. 降级策略保证可用性

# 生产环境checklist:
# - [ ] 错误重试机制
# - [ ] 超时设置
# - [ ] 日志记录
# - [ ] 监控告警
# - [ ] 限流保护

容易踩的坑

说几个容易踩的坑。第一个是参数配置不当导致效果差，多试几组参数对比。第二个是版本兼容性问题，不同版本行为可能不一样。第三个是边界情况，空值和异常输入要处理好。

写在最后

总结一下，LLM缓存策略做的关键在于理解核心原理并做好工程化。掌握了这些，其他用法都是在这个基础上扩展。建议多写几个小demo练手，光看不动手容易忘。