观测云平台从技术层面实现了什么统一?

观测云平台从技术层面实现了什么统一?

最佳答案 匿名用户编辑于2023/02/13 14:13

观测云平台从技术 层面主要实现了 4 个统一——统一采集、统一治理、统一分析和统一编程。

第一个统一,是统一的数据收集。数据采集是数据关联的基础能力,现今,国内外都 有大量的数据采集器,但大多数采集能力单一,比如 Telegraf 仅支持指标,Filebeat 只服务日志,OpenTelemetry 的 Collector 对非云原生的组件并不友好,需要大量安 装 Exporter 插件。

为了实现系统的可观测性,一台主机上可能需要安装无数个 Agent,这既引入了管理 上的问题,又产生了成本的问题,一定程度上造成了资源的浪费。观测云的 DataKit 是目前唯一的真正一体化实现各种环境(如传统环境、云原生等)统一数据采集平台, 它通过一个进程或 Daemonset Pod 就可以实现全方位的数据采集,配置体验良好, 开源且拓展性强,涵盖了更为全面的数据采集类型,有海量的技术栈的指标收集能力, 采集器的配置更简单,数据质量更好。

第二个统一,是数据采样格式实现统一。可观测性数据的一个重要特性就是实时性,Logstash 等传统的开源方案均在中心或边缘中心完成数据治理工作,而受限于中心 处理的延迟和 delay,在日志收集方面通常有很大的时延,实时性也就无从得到保障。 而在观测云的解决方案中,客户只需多拿出 5%的 CPU 用于数据的处理,一方面可以 发挥可观测数据的实时性。另一方面,还可以利用数据本身的现状还原。比如当把所 有数据收集到中心的时候,实际上很多环境信息或多或少的都会存在遗漏或缺失的情 况,如数据来源于哪个容器、哪个 pod、哪个部署单元或者哪个项目等,在边缘侧可 以随时获取这些数据作为补充。

行内人都知道,观测云是一个 SaaS 方案,在边缘侧还可以实现采样功能。比如数据 中存在的一些电话号码、金额、用户 ID 等信息,完全可以通过边缘脱敏或者删除掉 一些不需要上传或者不易上传的数字。这样一来,数据在上传前就已经完成了脱敏、 加密或者丢弃,在丢弃情况下,还能大幅降低传输的带宽;数据无需上传到中心再做 治理,这也进一步提升了客户的信任。此外,由于减少了一个中间处理模块,系统的 整体实时性也得到了很大的保障。

目前观测云也在考虑把端上的统一治理能力做成一个插件,贡献给 OpenTelemetry, 使得 OpenTelemetry 的 Agent 也具备边缘计算的能力。据悉,目前观测云平台完全 兼容 OpenTelemetry,单一采集器即可实现容器指标采集、应用链路追踪和日志采集。 同时能和各种常用采集器实现串联,包括 Promethues、Skywalking、Fluentd 等十几 种常见工具,可以替换更可以共存,轻松实现数据高密采集。

第三个统一,是统一的数据治理。用户的数据在被传输到中心后,将会被统一存储、 统一压缩、统一部署,保存在观测云自己定义的逻辑数据存储架构中。

第四个统一,是统一的拓展开发平台。当 DQL 或者软件本身的能力无法满足用户的 需要时,用户可以通过 DataFlux Function 平台进行无限的拓展。比如出于中大型公 司的安全合规要求,直接通过第三方平台发送 SaaS 平台的告警邮件到内部邮箱,会 被直接屏蔽掉,而如果用户把自己的发件服务器注册到 DataFlux Function,就可以 实现向内部邮箱发送告警邮件,类似的能力还有短信、电话等等。

参考报告REPORT

2022年度技术盘点与展望报告.pdf

2022年度技术盘点与展望报告。对于数据库技术领域而言,2022年是一个激动人心的重要年份。过去一年,数据库技术仍围绕着云原生、Serverless、分布式等核心方向快速发展,但是相较于前几年,数据库市场的客户逐渐成熟,对产品的理解更加理性,相应地要求也越来越高。不难看出,数据库领域的发展已经步入深水区。如果说过去数据库厂商们把更多的注意力聚焦在框架和架构搭建上,那么2022年,则进入了对数据库性能、成本、易用性等细节打磨的阶段,开始了对性能的极致追求。

我来回答
分享至