Elastic Observability 9.0/8.18:EDOT 现已正式发布,支持 LLM observability ,以及更多功能

作者:来自 Elastic Miguel Luna,Akhilesh Pokhariyal, Trevor Blackford, Daniela Tzvetkova, Chris Munns

Elastic Observability 9.0/8.18 宣布了几项关键功能:

  • Elastic Distributions of OpenTelemetry ( EDOT )正式发布:所有 EDOT 组件(包括 EDOT Collector 和适用于 Java、.NET、Node.js、PHP、Python、iOS 和 Android 的语言 SDK)现已正式发布,为 SRE 和开发者提供了一个适用于生产环境的稳定 OpenTelemetry ( OTel )生态系统。EDOT 保留了 OpenTelemetry 原生的结构规范和资源属性,增强了关联性和分析能力,同时还包含超出 OTel 发布周期的修复,以及无需专有插件的企业级支持。
  • 面向 GenAI 应用的 LLM observability:LLM observability 现已正式发布,为基于 AI 的应用程序的 SRE 和开发者提供端到端的洞察,帮助他们管理和优化大语言模型( LLM )应用的性能、成本、安全性和可靠性。一组精心策划的 observability 信号和预配置仪表盘,为包括 Azure OpenAI、AWS Bedrock、Google Vertex AI 和 OpenAI 在内的所有主流 LLM 提供全面洞察。这对 SRE 来说是一项重要功能,因为它提供了对集成 LLM 应用程序的行为、性能和潜在故障的可见性、可追溯性和可控性。
  • 其他增强功能包括:对 Logstash 的性能和安全性改进、Elastic Agent 对 AWS EKS 的支持,以及 Discover 的增强。

Elastic Observability 8.18 和 9.0 现已在 Elastic Cloud 上提供 --- 这是唯一一个包含此最新版本所有新功能的 Elasticsearch 产品。你也可以下载 Elastic Stack 以及我们的云编排产品 --- Elastic Cloud Enterprise 和 Elastic Cloud for Kubernetes --- 进行自托管体验。

Elastic 9.0/8.18 还有哪些新内容?查看 9.0/8.18 公告文章了解更多。

Elastic Distributions of OpenTelemetry ( Collector 和 SDK )正式发布

Elastic Distributions of OpenTelemetry ( EDOT )现已正式发布,提供了一个完全开源、适用于企业的 OpenTelemetry 发行版,具备经过生产验证的稳定性和专家支持。EDOT 包括 OTel Collector 和语言 SDK,能够在保持 OpenTelemetry 标准的同时,实现来自应用程序和 Kubernetes 的无缝遥测数据收集。与厂商锁定的解决方案不同,EDOT 完全开源,确保了互操作性,并且没有任何专有修改。通过在标准 OTel 发布周期之外进行主动修复,并且与 Elastic Observability 无缝集成,EDOT 为 SRE 提供了一个可靠、可扩展的方式来采用 OpenTelemetry,而不会引起运维中断。

EDOT 随 Observability 9.0 发布,并将兼容 8.18 和 8.19 版本,以及 Elastic Stack 9.0。立即开始使用 EDOT,体验简化的、原生的 OpenTelemetry。

LLM 可观测性

LLM 可观测性集成正式发布

随着企业在内容创作和数据分析等 AI 驱动任务中采用 LLM,他们越来越需要更灵活的托管解决方案。AI 模型带来了对监控和可观测性的独特需求。常见挑战包括高昂的运营成本、确保响应质量和安全性、以及保持模型的性能和可用性。缺乏清晰的可见性,使得 SRE 和 DevOps 团队难以达成关于可靠性、性能、成本和质量的服务水平目标,也难以收集足够的遥测数据用于故障排查。

在 8.18/9.0 版本中,Elastic 宣布四个 LLM 可观测性集成正式发布,扩展了可观测模型的平台范围,以确保客户能根据需求选择最合适的方案。现在,客户可以获得一套精选的指标和日志,以及针对最流行的 LLM 托管提供商(包括 OpenAI、Azure OpenAI、托管在 Amazon Bedrock 和 Google Cloud Vertex AI 上的模型)开箱即用的仪表盘。这些集成提供了关于模型使用、成本和运行性能的深入洞察,包括延迟、错误、token 使用量、模型调用频率、模型资源使用情况,以及提示词和响应内容。

使用 EDOT,对基于 OpenAI 的 Python、Node.js 和 Java 应用进行 APM 追踪

LLM 驱动的应用为利用生成式 AI 的力量提供了前所未有的机会。OpenAI 模型是最受欢迎的模型之一,广泛应用于各种应用程序中。然而,将 LLM 集成到应用程序中,需要一套全新的可观测性能力。有了合适的日志、指标和追踪,开发者可以回答诸如 "是哪个版本的模型生成了这个响应?" 或 "我的 RAG 应用生成的具体聊天提示词是什么?" 这样的问题。

我们很高兴地宣布,在 EDOT 语言 SDK 中推出了首个 GenAI 监测功能:OpenAI。通过 Elastic 的 APM 增强功能,现在你可以使用我们的 Python、Node.js 和 Java EDOT SDK 来观测生成式 AI 应用程序。

现在你可以查看 OpenAI span 的详细追踪信息,包括持续时间、tokens 数量,以及 LLM 的提示词和响应内容。

AI 安全性与可靠性

构建 GenAI 驱动应用程序的客户希望确保他们应用程序的安全性与可靠性,这也包括为幻觉、事实错误、偏见、有害内容和敏感数据泄露设置防护措施。通过对 Elastic 的 Amazon Bedrock 集成进行增强,支持 Amazon Bedrock Guardrails,你可以监控由可配置防护措施控制的安全性和可靠性关键方面。

Elastic Security 通过提供审计 LLM 是否存在恶意行为(如提示注入)的能力,进一步增强了这些功能。

Logstash 性能与安全性改进

持久队列将事件写入磁盘,以防止在故障发生时丢失数据。我们增强了反序列化功能(deserialization),使你能够 5 倍更快地写入大事件。此外,我们为两个流行插件新增了身份验证功能。现在,你可以使用 IAM 角色进行服务账户身份验证,从而简化 AWS 集成的访问管理并增强安全性。Kafka 集成现在支持 OAuth 和 SASL,为 Kafka 用户提供更加灵活和安全的身份验证选项。

Elastic Agent 和 AWS Elastic Kubernetes Service (EKS)

Elastic Agent 版本 8.18 和 9.0 的容器现在将作为 AWS Elastic Kubernetes Service (EKS) 用户的 EKS 附加选项提供。这一新增的市场功能使 Elastic Agent 用户能够轻松部署 Elastic Agent 容器,并无缝集成到他们的 EKS 集群中。

告别 Logs Explorer 和 Logs Stream,迎接 Discover

从最初开始,Kibana Discover 一直是探索数据(包括日志)的首选工具。长期以来,Discover 是一种通用的查找各种数据的方式。然而,有时候这种通用方式限制了我们在日志分析体验上的提升。因此,在 8.x 中,我们引入了 Logs Explorer,作为专门的观察性功能,提供定制化的日志分析功能,如自动日志级别检测和改进的摘要。虽然一些用户喜欢这种专门的方式,但大多数用户仍然依赖 Discover,因为它具有灵活性并能无缝支持不同的数据源。

听取了用户反馈后,我们将日志探索(log exploration)整合到 Discover 中,使其成为分析所有数据的单一、更强大的工具。在过去的几个小版本中,我们逐步废弃了 Logs Explorer 和 Logs Stream,将精力集中在增强 Discover 的动态、日志特定功能上。在 9.0 版本中,我们决定彻底移除 Explorer 和 Stream 组件,支持这一全新的体验。

试试吧

阅读这些功能和更多内容,请查看发布说明

现有的 Elastic Cloud 客户可以直接从 Elastic Cloud 控制台访问许多这些功能。如果你还没有使用 Elastic 云服务?开始免费试用

本文中描述的任何功能或功能的发布和时间安排完全由 Elastic 决定。任何当前不可用的功能可能不会按时交付,甚至可能完全不交付。

在这篇博客文章中,我们可能提到或使用了第三方生成 AI 工具,这些工具由各自的所有者拥有和运营。Elastic 对这些第三方工具没有任何控制,也不对其内容、操作或使用负责,也不对因使用这些工具而产生的任何损失或损害负责。请在使用 AI 工具处理个人、敏感或机密信息时谨慎。你提交的任何数据可能会用于 AI 训练或其他目的。我们无法保证你提供的信息会保持安全或保密。在使用任何生成 AI 工具之前,您应该熟悉其隐私实践和使用条款。

Elastic、Elasticsearch 及相关标志是 Elasticsearch N.V. 在美国及其他国家的商标、徽标或注册商标。所有其他公司和产品名称均为各自所有者的商标、徽标或注册商标。

原文:Elastic Distributions of OpenTelemetry (EDOT) now GA, LLM observability | Elastic Blog

相关推荐
小钊(求职中)31 分钟前
ElasticSearch从入门到精通-覆盖DSL操作和Java实战
java·大数据·elasticsearch·搜索引擎·全文检索
冼紫菜9 小时前
[特殊字符]实战:使用 Canal + MQ + ES + Redis + XXL-Job 打造高性能地理抢单系统
java·redis·分布式·后端·elasticsearch·rabbitmq·全文检索
程序员沉梦听雨18 小时前
【Elasticsearch】入门篇
大数据·elasticsearch·搜索引擎
Gadus_18 小时前
Elasticsearch性能优化实践
大数据·elasticsearch·搜索引擎·性能优化
八股文领域大手子1 天前
如何给GitHub项目提PR(踩坑记录
大数据·elasticsearch·github
爱吃龙利鱼1 天前
elk中kibana一直处于可用和降级之间且es群集状态并没有问题的解决方法
大数据·elk·elasticsearch
腾讯云大数据1 天前
腾讯云ES一站式RAG方案获信通院“开源大模型+软件创新应用”精选案例奖
大数据·elasticsearch·开源·云计算·腾讯云
苍煜1 天前
Elasticsearch(ES)中的脚本(Script)
大数据·elasticsearch·搜索引擎
Elastic 中国社区官方博客1 天前
使用 LangGraph 和 Elasticsearch 构建强大的 RAG 工作流
大数据·数据库·人工智能·elasticsearch·搜索引擎·ai·全文检索