大数据 频道

2018年度IT168技术卓越奖名单:大数据类

  2016年之前,大数据相关创业公司很容易拿到融资,从几百万到数亿不等,甚至有人乐观估计,到2020年,整个产业规模将超过13000亿。然而,这之后就有人喊大数据寒冬已至,但此时依然有资本眷顾这个领域。到2017年《网络安全法》实施,整个行业进入调整期。

  2018年,凛冬真正来临,过去10个月的融资发生率不到去年的50%,一场“中兴之战”惊醒众人:国内大数据市场需要从底层核心技术入手,而非应用。这一年,企业开始努力打造全栈大数据平台,涵盖大数据操作系统、数据采集、存储、加工、计算、挖掘、分析等环节,并在大数据平台之上搭建人工智能解决方案。

  在过去一年,企业在运用大数据方面主要有如下变化:

  中小企业倾向于从云平台获取大数据能力

  目前,大数据领域基本是三分天下:BAT、华为等巨头系,TalkingData、华云数据、Dataeye等创业系,电信、移动、联通等国有系。在过去一年,云计算终于开始改变大数据行业格局,中小企业或者说集群规模相对较小的企业更倾向于从云平台获取大数据能力,这部分企业大多属于创业系,其选择云厂商的原因也很简单:一是降低自建大数据平台成本,虽然选择云平台同样需要付出一定成本,但在集群规模较小时,花费是比较低的,企业相对容易接受;二是大部分可修改源码级别的工程师均被巨头系垄断,这也让中小企业难以搭建并运维一套完整的大数据平台;三是云厂商提供的大数据服务更加丰富完善,并经过众多行业案例验证,以数据治理为例,中小企业很难有精力搭建这套服务。

  国内顶尖云提供商大数据生态日益完善

  自2011年,谷歌就率先推出了名为BigQuery的革命性服务,以完全不同的方式解决了同样的问题,允许对存储在其对象存储服务中的数据运行即席查询(无需将其加载到HDFS等存储中)。如今,国内的云厂商可直接提供Hadoop/Spark服务和对象存储服务。从主流云厂商的官网可清晰看出,其云大数据服务已经涵盖数据存储、数据计算、数据分析、数据可视化等环节,甚至加入了不少AI能力,国内巨头系云厂商的大数据服务生态已日趋完善,这会促进中小企业对这类云平台大数据服务的采纳。

  容器、Kubernetes和机器学习成为关键趋势

  Hadoop和Spark不仅仅是一个存储环境,也是一个计算环境。容器和Kubernetes与机器学习一样,为分布式计算提供了更加灵活和强大的框架。过去一年,企业开始逐渐放弃在Hadoop或Spark之上分发新的微服务应用程序,因为这过于复杂且有所限制,企业更倾向于在容器之上运行分布式云数据库和应用程序,使用Pyhton、R或者其他非Java语言进行机器学习。越来越多的企业正在积极探索容器、Kubernetes和机器学习,因为这可以获得更优的性能和更好的规模效益。

  部分行业成为大数据的集中发力点

  根据全球Hadoop and Big Data Analytics Market 提供的一份2018年市场行业分析报告显示,银行、金融和保险业将在未来五年继续主导Hadoop和大数据分析市场,这主要是由于越来越多的部门采用信息技术解决方案来改善银行服务。在线交易激增导致银行越来越多地采用电子资金转账(NEFT)、实时总结算系统(RTGS)、电子结算服务(ECS)以及移动交易等技术。多年来,银行、金融和保险业一直是网络欺诈的最大受害者,欺诈数量的不断增加反过来促进了银行和金融业对Hadoop和大数据分析解决方案的需求。

  不难看出,2018年,大数据行业发生了不小的变化,在大数据市场逐渐趋于稳定的一年,又有哪些产品足以让我们眼前一亮呢?

0
相关文章