如今,大数据正变得越来越廉价,而不仅仅是广泛分布商品硬件上廉价的存储和计算。大数据分析可能很快成为高性能计算(HPC)新的“杀手级应用”。

此外,还有比大数据更多的大量的信息。它还涉及大量的分布式活动,如复杂的查询和计算。换句话说,通过计算获得的价值就像数据集本身的大小一样“大”。事实上,高性能计算大数据已经被分析公司IDC所创造,如“高性能数据分析。”

高性能计算(HPC)能很好地实现大数据典型的工作流程的所有三个阶段,包括数据采集和过滤,分析,结果可视化。除了这三个阶段,计算的速度和规模一样重要。为了发掘大数据的全部潜力,我们要以“大计算”与HPC进行匹配。

对于大数据和高性能计算的融合,以及企业如何充分利用这一现象来改善大型处理,以下有三个方法:

1.Hadoop联手Infiniband

许多人认为最常用的超级计算机互连技术InfiniBand,可以尽可能多满足HPC作为裸机处理的基本要求。如果不能快速移动节点之间的信息,就会限制了你可以实现的水平的可扩展性。远程直接内存访问(RDMA)的ApacheHadoop提供了一个极好的高速、低延迟互连的大数据平台。甚至可以在云端利用RDMA在任何时候提供一个Hadoop集群。由于其优越的带宽和延迟的优势,56Gbps的InfinibandFDR可能比10Gbps以太网速度甚至快100倍以上,短期使用非常昂贵的定制总线,这是跨节点的计算分布数据和处理的最快方法。最后,用户可以根据应用的大小可以扩展大数据平台,而不必担心几乎一样多的瓶颈。不仅会得到更快的结果,而其建立时间将远远小于所使用的商品网络技术。

2.Hadoop联手Accelerators

高性能计算(HPC)的另一个重要特点是采用了流行的协处理器和加速器,如被动式散热NVIDIATesla和开普勒的GPU。正如这些技术大大有助于技术计算解决方案的发展,他们还可以帮助大数据和分析,就像他们已经进行测序和比对。

Hadoop利用GPU技术,如CUDA和OpenCL可以大促进大数据性能的一个重要因素。所有其他的事情都是相同的,高性能的大数据平台和技术,如Hadoop,Spark,MapReduce导致复杂的分析和更快的结果。事实上,对于人们正在收集的数据量的不断增长的唯一方法是提高计算速度。大数据利用协处理器和加速器是HPC在这个空间具有更大的影响力的重要途径。

3.大数据和高性能计算在云计算的融合

大数据比任何其他应用程序推动公共云更快的增长,HPC需求成为了一个新兴的力量,并准备好迎接这一挑战。我们收集的数据越多,我们需要分析数据的计算能力就越大。简单地说,大数据和云计算的增长携手并进。只有这样,才能提供足够的规模,而跟上需求部署HPC类资产,以提高处理性能和密度。

得益于大数据平台的超级计算技术,如高速互连和协处理器的结合,组织可以利用和部署上的设计,使HPC服务成为了下一个主要需求分析的创新浪潮。采用分布式文件系统,如Hadoop,在相同的计算能力的情况下,可以加快测序和比对的过程,可以大大提高在今后的查询和比较的效率,并且其成本更加低廉。传统的HPC并行存储,经济学将变得更具吸引力。最后,采用具有时间价值和弹性规模的公共云,企业现在可以专注于他们的工作,而不是过于关注IT平台的性能。

由于大数据和高性能计算需求的衔接,企业将能够充分利用公共云计算的规模和可用性。

关注中国IDC圈官方微信:idc-quan 我们将定期推送IDC产业最新资讯

查看心情排行你看到此篇文章的感受是:


  • 支持

  • 高兴

  • 震惊

  • 愤怒

  • 无聊

  • 无奈

  • 谎言

  • 枪稿

  • 不解

  • 标题党
2023-08-24 09:38:00
大数据资讯 关注县域数据能力建设,抢占产数业务发展先机
2023年《数字中国建设整体布局规划》正式发布,数据能力已成为我国区域发展的底座和创新引擎。 <详情>
2023-03-30 11:15:07
云资讯 分布式时代已至,数据如何更有价值?
无论是连通各大集群内大型超大型数据中心,还是连接边缘侧小型、边缘数据中心,分布式云计算都已成为这张算力网络最重要的支撑。在此背景下,云计算步入分布式时代。 <详情>
2023-03-01 19:27:00
市场情报 FlagOpen大模型技术开源体系,开启大模型时代“新Linux”生态
大数据+大算力+强算法=大模型”是当前人工智能发展的主要技术路径。语言大模型ChatGPT成为现象级应用,人工智能进入普及应用的新时期。 <详情>
2023-01-09 09:36:46
大数据资讯 我国互联网广告数据匿名实施服务正式上线
《指南》形成的“技术保障、评估规制、过程控制”的互信制衡机制,适用于各类互联网广告业务,包括广告投放、程序化交易、广告监测等应用场景下的数据匿名化处理。 <详情>
2022-12-30 10:10:19
大数据资讯 中国移动磐维数据库正式发布
未来,随着数据库功能和稳定性等进一步增强,磐维数据库将在中国移动内外部的广泛应用中积累更多复杂业务场景实践经验,进一步提升数据库产品的核心技术能力,助力数智化转 <详情>