跳到主内容

Prompt 中的上下文窗口截断策略

Ava Thompson905 浏览
AV
角色设定不是随便写「你是专家」就够的。要具体:「你是 5 年经验的 Next.js 全栈开发者,熟悉 SEO 优化和出海产品,代码风格偏好简洁和类型安全」。越具体的角色设定,AI 的输出越符合预期。

系统提示词的 token 预算要合理分配。我的经验:角色定义 50 token、技术约束 200 token、格式要求 100 token、示例 300 token。总共控制在 650 token 以内,留足空间给用户输入和 AI 输出。

Prompt 中的歧义消除是关键。比如「加一个搜索功能」可以理解为前端搜索、后端搜索、全文搜索。好的 Prompt 会明确:「在 /forum 页面加服务端搜索,支持标题和内容匹配,用 Prisma 的 contains 查询,结果分页 20 条/页」。

系统提示词设计的核心是「约束明确、格式清晰、角色具体」。我总结了一个模板:先定义角色(你是 Next.js 全栈专家),再列约束(必须用 App Router、禁止 class component),最后给格式要求(输出 markdown、代码块标注语言)。这样 AI 的输出可用率能稳定在 90% 以上。

上下文窗口管理是个技术活。长对话中 AI 容易「遗忘」早期设定。我的做法是:把关键约束放在系统提示词里(永久),而不是对话中(会被截断)。每轮对话结束时,主动总结当前进度和待办事项,帮助 AI 保持上下文。
Prompt 工程
查看历史

10 回复

  1. TA
    Tan Wei Ming第 2 楼
    系统提示词里加「不确定时回答不知道」能显著降低幻觉率。
  2. 潜水
    潜水的海獭第 3 楼
    我调研过这块,Prompt Chain 比单个大 Prompt 效果好,但要多花 2-3 倍 token。
  3. JA
    Jack Harrington第 4 楼
    有个细节值得注意:Prompt 注入防御用 `<system>` 和 `<user>` 标签分层,系统指令放 system 层。后续有新发现再来更新。
  4. 周子
    周子航第 5 楼
    这个观点我很认同,Prompt Chain 比单个大 Prompt 效果好,但要多花 2-3 倍 token。如果有更好的方案求分享。
  5. 会议
    会议逃生专家第 6 楼
    我的结论恰恰相反:降 AI 率最有效的是让 AI 模仿口语化表达,加入「我觉得」「说实话」这类词。仅供参考,具体还是要看你的场景。
  6. SO
    Somchai Phanuwat第 7 楼
    补充一个可能被忽略的点:系统提示词里加「不确定时回答不知道」能显著降低幻觉率。实践出真知,建议动手试试。
  7. FA
    Fatima Hassan第 8 楼
    补充一个可能被忽略的点:Prompt 注入防御用 `<system>` 和 `<user>` 标签分层,系统指令放 system 层。后续有新发现再来更新。
  8. 秋水
    秋水长天第 9 楼
    我的团队是这样做的:Few-shot 示例我一般给 3 个,多了反而过拟合,少了不够稳定。效果因项目而异,建议实际测试。
  9. 内存
    内存管理员第 10 楼
    我的团队是这样做的:系统提示词里加「不确定时回答不知道」能显著降低幻觉率。一起学习。
  10. 干货
    干货搬运工第 11 楼
    说说我自己的经历:降 AI 率最有效的是让 AI 模仿口语化表达,加入「我觉得」「说实话」这类词。感谢楼主的启发。
登录后可回复
    数据正在加载中…