Soby Chacko
Spring AI 中对 AWS Bedrock 提示缓存的支持
在我们之前关于 Anthropic 提示缓存的博文中,我们探讨了提示缓存如何通过重用先前处理过的提示内容,显著降低 API 成本和延迟。我们介绍了 Spring AI 针对 Anthropic Claude 模型的五种策略性缓存模式,并展示了它们如何在尊重 4 个断点限制的同时自动处理缓存断点位置。
AWS Bedrock 将提示缓存引入更广泛的生态系统——支持 Claude 模型(通过 Bedrock 访问)和 Amazon 自有的 Nova 系列。如果您正在考虑使用 Bedrock 或已在使用它,您会发现相同的 Spring AI……
Spring AI 与 Anthropic Claude 中的提示缓存支持
当应用程序重复发送相同的提示内容时,大型语言模型 API 成本会迅速累积。一个典型场景:您正在构建一个文档分析器,每次请求都包含一个 3,000 令牌的文档。关于该文档的五个问题意味着以全价处理 15,000 令牌的相同内容。
Anthropic 的提示缓存通过允许您重用以前处理过的提示段来解决此问题。Spring AI 通过策略性缓存模式提供全面支持,这些模式会自动处理缓存断点放置和管理。
在这篇博文中,我们……
Spring for Apache Kafka 4.0.0-RC1 现已可用
我们很高兴代表团队和所有贡献者宣布 Spring for Apache Kafka 4.0.0-RC1 已经发布。我们向所有使此版本成为可能做出贡献的贡献者表示感谢。
这是 4.0.0 GA 版本之前的第一个也是最后一个发布候选版本。我们鼓励社区测试此发布候选版本,并在我们进行正式发布之前提供任何问题或疑虑的反馈。
4.0.0-RC1 中的新功能
共享消费者增强:通过全面的确认支持、并发配置和工厂级容器属性,扩展了共享消费者功能。共享消费者实现现在包含适当的毒丸消息保护和传递计数跟踪。谈到共享消费者,我们最近发布了一篇专门的博客……
Spring for Apache Kafka 中引入共享消费者支持 (Kafka 队列)
在我们的 Road to GA 系列中,本周我们将探讨 Apache Kafka 4.0.0 中的共享组及其在 Spring for Apache Kafka 4.0.0 中的集成——这一功能从根本上扩展了我们从 Kafka 主题消费消息的方式。
当我们第一次开始使用 Kafka 时,心智模型是直接的:主题保存消息,消费者读取它们,处理在分区内按顺序进行。这种基于分区的模型为无数应用程序提供了良好的服务,提供了带有强保证的有序处理。然而,某些用例涉及创建包含数百个…
Spring for Apache Kafka 4.0.0-M5 现已发布
Spring for Apache Kafka 4.0.0-M3 现已发布
我们代表团队和所有贡献者,很高兴宣布 Spring for Apache Kafka 4.0.0-M3 已发布。
我们向所有为这些发布做出贡献的人表示感谢。
4.0.0-M3 提供了对通过 Apache Kafka 4.0.0 中的 KIP-932 引入的 Kafka 队列(共享消费者)的初步支持。请记住,在 Apache Kafka 4.0.0 中,队列支持作为早期访问功能引入,因此 Spring for Apache Kafka 对此的支持也应被视为早期访问和实验性的。
您可以在 Spring for Apache Kafka 4.0.0-M3 的参考文档中找到更多详细信息……
Spring for Apache Kafka 3.3.7 和 3.2.10 现已发布
我们代表团队和所有贡献者,很高兴宣布 Spring for Apache Kafka 3.3.7 和 3.2.10 已发布,并可从 Maven Central 获取。
我们向所有为这些发布做出贡献的人表示感谢。
随着 3.2.10 版本的发布,我们已经达到了 Spring for Apache Kafka 3.2.x 版本的开源生命周期结束。请参阅 支持时间表 获取更多详细信息。请考虑升级到最新的 3.3.x 版本以获得持续的 OSS 支持。
发行说明
请参阅发行说明,了解这些版本中包含的更多详细信息……
Spring for Apache Kafka 4.0.0-M2 和 3.3.5 现已发布
我们很高兴宣布 Spring for Apache Kafka 4.0.x 系列的第二个里程碑版本 - 4.0.0-M2,它现在支持 Apache Kafka 4.0.0。
4.0.0-M2 中的关键变化
4.0.0-M2中的 Kafka 客户端已更新至4.0.0- 所有与 ZooKeeper 相关的支持现在都从
4.0.0-M2中删除,因为 Apache Kafka4.0.0已完全移除对 ZooKeeper 的依赖,现在专门使用 KRaft 进行领导者选举和仲裁管理 - Spring for Apache Kafka 为测试目的提供的
EmbeddedKafkaBroker实用程序将不再与 ZooKeeper 配合使用,因为它只支持 KRaft 协议 - 我们还验证了通过 KIP-848 引入的下一代消费者再平衡协议通过 Spring for Apache Kafka 4.0.0-M2 完美运行 …