流计算的前世今生

大数据时代的初期,我们面临的数据主要是大容量的静态数据集,针对离线和大规模数据分析设计的Hadoop依靠HDFS和Mapreduce可以灵活、高效的处理这种数据形态。然而,随着大数据时代的演进,具有实时持续到达、到达次序独立且高度无序等特征的流式数据在当前商业环境中变得越来越常见,人们迫切的想对这种流式数据进行实时分析并进而转化成商业价值,于是推动了大数据技术的演进。

在大数据技术从批处理走向流处理的过程中,主要产生了storm、spark streaming、Flink等成熟的框架。Storm是仅支持流处理的框架,其核心概念是将Spouts和Bolts连接在一起形成拓扑结构(Topology),然后将用户提交的应用程序逻辑在Topology中指定。

1531209394126065502

然而,传统的Storm(非Trident)只能提供at least once语义,而如果通过Trident 实现了exactly once语义,则会以牺牲时延为代价,因此storm的两种方案都是局部最优,而非全局最优。

Spark Streaming是针对批量数据处理设计的混合框架,其流处理功能是通过将流处理作业分解为一系列微批处理作业来实现的,而负责进行处理的引擎其实还是Spark。

Spark Streaming相比于Storm能提供更稳定的exactly once语义,但由于其核心概念是微批处理,因此其优势在于高吞吐量而非时延,其时延与Storm、Flink相比较高。

Flink是针对流式数据处理设计的混合框架,可以通过把批量数据看成有界的流式数据来实现批处理,其核心概念是将Flink上运行的程序映射为streaming dataflows,应用程序逻辑通过streaming dataflow内的多个transformation operator实现。

由于Flink对流式数据处理的针对性设计,只需要很少配置就能实现高吞吐与低延迟。Flink支持exactly once语义,并且其checkpoint机制保证了即使在发生故障的情况下也能保障exactly once语义。

云上的流计算服务SCS:从零件到服务

在当今瞬息万变的商业赛道上,早一步出发便意味着可以更早接触到商业机会、更早占据市场份额,进而野蛮生长。然而如果选择基于开源框架的“零件”形态的流计算,便意味着无论是基础设施建设还是日常运维,亦或是安全保障,这些与成本和风险息息相关的模块都需要自己来维护,从而分散了聚焦于业务的精力,又何谈把握转瞬即逝的商业机会?

于是,与商业场景的低适配推动着流计算走向了云端。为了让用户可以以低成本获取到无尽的流计算分析能力,云厂商将云端近乎无限的计算、存储、技术等资源整合,把流计算在云端以服务的形式进行技术革新,形成了云上的流计算服务。

腾讯云流计算SCS是腾讯基于在社交、视频、游戏等海量业务场景积累的经验,为了帮助云端用户达成降本增效的目的,通过深度整合深耕互联网科技领域近20年积累的基础设施,以PaaS服务的形式提供的云端流计算服务。

腾讯云流计算SCS服务将提供:

1531209424869085366

流计算SCS助力工业智能制造

 

SCS将从五个智能化发力,全面助力工业智能制造:

基于SCS实时进行数据分析,实现产品实时定位、产品实时管理,助力产品智能化。

基于SCS跟踪生产线进度,实时监控生产线压力,实现智能调度,助力生产智能化。

基于SCS实现预防性维护,从而避免高成本的设备故障风险,助力装备智能化。

基于SCS实时过滤无效信息,准确识别用户需求,进行自动化个性定制产品生产,助力服务智能化。

基于SCS通过设备IOT组件采集信息并进行多维度、多指标实时分析,助力管理智能化。

从传统制造到智能制造转型的进程中,SCS将火力全开。

流计算的未来

虽然流计算与IOT相关场景契合度极高,但流计算在互联网、电商、金融等行业同样拥有着广阔的应用场景如点击流分析、金融风控、实时推荐等。

未来的流计算,将与AI深度结合,从流计算走向流AI,成为人工智能时代的基础设施。流计算将流淌在整个社会的每一个角落,并不断为我们带来富有价值的洞见!

关注中国IDC圈官方微信:idc-quan 我们将定期推送IDC产业最新资讯

查看心情排 行你看到此篇文章的感受是:


  • 支持

  • 高兴

  • 震惊

  • 愤怒

  • 无聊

  • 无奈

  • 谎言

  • 枪稿

  • 不解

  • 标题党
2023-12-26 18:11:56
市场情报 腾讯云与数据产业集团达成合作协议,共建数据要素产业生态
12月24日,中国“数据要素×”生态大会现场,腾讯云与中电数据产业有限公司(简称“数据产业集团”)签署战略合作协议 <详情>
2023-06-08 16:29:46
2023-05-27 22:51:21
市场情报 腾讯云与炫云达成合作,助力炫云进一步提升云计算资源
5月23日,腾讯云与北京炫我科技有限公司(以下简称“炫云”)正式签署战略合作协议,双方将在算力提升、技术支持等多个方向进行深度合作,共同推动影视动画行业高质量发展。 <详情>
2022-12-08 13:09:24
云资讯 降低算网使用门槛,助力运营商数智化升级,腾讯云是认真的!
未来,随着算力网络能力的提升,也将激发业务场景的创新性,基于AI的算网产业协同将成发展重点。 <详情>
2022-06-17 11:00:33
云资讯 搬家了!腾讯宣布海量自研业务完成全面“上云”
这意味着包括 QQ、微信、腾讯视频、王者荣耀等在内的腾讯内部业务,和腾讯云百万级外部客户一样基于公有云的模式来开发运营。 <详情>
AWS永久关闭中东节点、GS韩国110亿美元规划、新泽西漏油、雪兰莪设30%本土供应链、得州处罚用水违规丨国际算力产业每周观察[第65期]
2026-09-21 17:35:38
从GW级园区到800VDC:全球AI数据中心“向电而生”|DIFGC2026北京站开放报名!
2026-09-21 14:31:00
玩具企业高乐股份入局算力一季度,67.52亿元服务合同已获回款
2026-09-20 14:24:33
冠军天工,从赛场到艺术场 -- 北京人形×陶身体2团×798"人机共舞"亮相艺术与科技周
2026-09-20 11:38:04
马来西亚雪兰莪:数据中心应采用30%本地供应链
2026-09-20 11:27:06
HarmonyOS创新论坛在沪举办 共探智能化时代鸿蒙应用创新实践
2026-09-19 08:04:43
HarmonyOS AI开发工具加速应用创新 构建Agentic时代开发新范式
2026-09-19 08:04:35
硅基流动专属实例护航桌面办公智能体稳定运行
2026-09-18 19:28:59
10月30日整改倒计时!电子签名行业迎来全面合规升级
2026-09-18 16:00:29
82个项目、1817亿投资、词元经济崛起——算力中心建设月报(2026年8月)
2026-09-18 14:25:00
瑞典私募计划2030年在印度投资500亿美元 数据中心为重点
2026-09-18 09:28:05
又现跨界大单:上市药企签17.2亿元五年期算力服务合同
2026-09-18 09:25:00
纽约州提议:数据中心按每兆瓦100万美元向社区投资
2026-09-17 13:28:20
韩国KT宣布44亿美元AI数据中心投资计划
2026-09-17 11:29:55
庆阳算力再落一子:GW级算电协同新型能算基地正式签约
2026-09-17 10:26:07