AWS Bedrock 进阶提示优化新增缩短功能，降低输入 token 成本

摘要

Amazon Bedrock 的 Advanced Prompt Optimization 加入提示缩短功能，属可选设定，会在维持或提升评测分数的前提下压缩提示长度，以降低输入 token 成本与延迟。机制是只有当优化后提示更短且分数至少不低于原始版本时才采用，否则回传原始提示，因此不会为了省 token 而牺牲品质。结果会显示压缩比与 token 数，且相容于任何评测方法，并在所有提供 Advanced Prompt Optimization 的区域可用。使用方式是为提示模板启用缩短功能后执行优化任务。对高频呼叫 LLM 的产品团队而言，这是直接影响单位成本与回应时间的调整项。