网站搜索

当然,实时数据现在已经“民主化”,但这只是一个开始


许多公司的基础设施还没有准备好进行实时数据分析。公司本身也不是。

实时数据似乎无处不在——在增强现实、数字孪生、5G、物联网、人工智能、机器学习、可穿戴设备和信标技术中。人们可能会认为当今的企业正在每个重要任务领域传输实时数据。我们正在实现这一目标,这在很大程度上要归功于许多开源解决方案,例如 Apache Flink、Kafka、Spark 和 Storm,以及基于云的平台。然而,在我们达到数据以光速或接近光速在组织之间移动的程度之前,仍然有很多工作需要完成。

首先是一个水平集,由 IDC 的 John Rydning 提供:“流数据和实时数据这两个术语经常结合使用,有时甚至可以互换使用。虽然并非所有创建的流数据都是实时的,也并非所有流数据都是实时的,在数据流式传输时,组织表示超过三分之二的流式传输用例需要超实时或实时数据。”

甚至还使用了超实时数据——公司都渴望实现这一目标。 Hazelcast 工程总监 Avtar Raikmo 表示:“近年来,人们对捕获和处理实时数据的价值的了解正在以最快的速度增长。” “随着平台消除了个人用户或工程师的复杂性,它加速了整个行业的采用。SQL 支持等创新有助于使其民主化,并为绝大多数人而不是少数人提供轻松的访问。”

Raikmo 表示,其用例非常广泛,包括“音频和视频流的边缘计算、人工智能和机器学习处理的计算机视觉,甚至主动降噪耳机”。另一个新兴用例是数字孪生,特别是对于移动性。 “能够从汽车、卡车或火箭捕获实时数据和遥测数据,使组织能够在场景展开时对其进行建模。数字孪生可用于优化现实世界中的路线、能源使用或辅助驾驶改进。在体育运动中,一级方程式策略师确定最佳的进站和轮胎配方,以最大限度地提高比赛表现。”

尽管如此,仍有许多技术和组织问题阻碍了完全实时或超实时数据的实现。 Actian 工程和产品高级副总裁 Emma McGrattan 表示:“实时数据部署通常使用更高性能的技术,以满足做出即时决策所需的大量数据和快速分析。” “对于某些垂直行业(例如金融服务)往往产生的大量数据,转向实时将需要在硬件、软件和网络组件方面投资额外资源。”

麦格拉坦说,需要投资来“提高数据基础设施和服务的可用性和可靠性”。 “对于较低的数量,现有的基础设施可能可以使用,只需修改应用程序即可进行实时分析和部署。”

ManageEngine 和 Zoho 的产品管理主管 Rakesh Jayaprakash 表示,捕获、可视化和存储实时数据的过程需要“对能够处理繁重且复杂的数据流的基础设施组件进行大量投资”。 “当实时数据流需要一定程度的预处理时尤其如此。不幸的是,许多组织,特别是中小型企业,缺乏必要的基础设施来处理如此密集的处理。”

许多公司的基础设施还没有准备好,组织本身也没有准备好。 “有些人尚未理解或看到实时的价值,而另一些人则全力以赴,采用专为整个组织内的流式传输而设计的解决方案,”Raikmo 说。 “将动态数据集与水印和窗口等先进技术相结合并不是一件小事。它需要在企业规模和弹性下关联多个流,组合内存中的数据并生成合并的有状态结果集。”

好消息是并非所有数据都需要实时传输或传输。 Jayaprakash 指出:“组织经常陷入投资资源的陷阱,以使他们可视化的每个数据点都是实时的,即使这是没有必要的。” “然而,这种方法可能会导致成本过高并且不可持续。”

Jayaprakash 表示:“虽然可视化实时数据比分析几分钟前的数据更有吸引力,但您必须仔细评估与构建实时数据流和可视化相关的成本效益比和投资回报率。” “此外,组织应该在选择他们希望实时传输的指标时进行尽职调查。”

IDC 的艾米·马查多 (Amy Machado) 提出了仔细考虑需要实时交付的内容的理由:“我总是说,‘让用例来引导’,”她在博客文章中写道。 “它应该指导你如何思考实时架构,理想情况下,它是现有框架的扩展,以避免创建数据孤岛。”

Machado 概述了有关实时数据传输的关键问题:

  • “我们希望实现哪些商业利益?”
  • “我们需要什么见解来实现这些目标?”
  • “谁需要这些见解以及他们在哪里需要它们?”
  • “我们可能需要与哪些其他系统集成以获取上下文或实施见解?”

Jayaprakash 建议,为了优化实时数据投资,“仔细选择真正需要实时报告的指标”。 “操作和维护实时数据流所需的基础设施的复杂性引入了潜在的故障点,需要专门的人员进行故障排除和维护。为了减轻流故障导致的数据连续性问题,您需要实施故障安全机制,这增加了总体成本。”

相关文章