1. e-works数字化企业网
  2. 文章频道
  3. IT基础架构
  4. 大数据

动不起来的大数据都是发酵中的垃圾

2017年10月22日 来源:中关村在线 作者:佚名  
关键字:大数据  数据采集  数据管理  
大数据的概念炒作一向厉害,很多公司有着海量的数据流,有着大把的客户和资金,技术也足以进行处理大数据,但是大数据之所以能够成功炒作上位,是因为其能动性,一切动不起来的大数据都是发酵中的垃圾。
    动态数据采集以求真
 
    大数据在数据采集的环节常常忽略实际的数据采集环境问题。尽管在互联网环境中,采集环境很少受到大幅的波动影响,但是一旦涉及行业特征则很难保障。
 
    大数据在行业中应用时会受到协同性、跨尺度、多因素、因果性和机理性等影响,这就使得数据采集时必须入乡随俗,贴切真实的应用场景。而不是简单的从接触到数据采集点时的单一数据,这种数据对于全面分析事件形成原因存在着一定的误差导向因素。
 
    解决这一问题的办法在于行业应用中,针对某一业务目标可以动用整个企业甚至行业链中的相关资源协同助阵,将不同时间尺度的信息集成采集,参考多种可能造成数据改变的因素和产生原因,进行多层次的数据采集并且实现数据来源的真实性和丰富性。
 
    数据采集需要全面
 
    同时,数据的采集不应当是阶段性的,而应该让采集的数据保持动态。一直以来大数据的分析过程都是一个冗长的过程,数据采集、管理、处理、存储、分析到应用的整个流程不仅漫长,而且很难做到实时处理,这样的一个结果就是数据库中的数据很容易被迫过气,导致分析偏差。
 
    第2页:动态数据管理以求新
 
    动态数据管理以新
 
    数据的动态管理是很多企业为难的地方,因为采集到的数据集量非常大,而且其中绝大多数都是无意义数据,可是数据的拆分和筛选却需要消耗大量资源才能完成。
 
    数据管理不容易
 
    数据的管理涵盖了数据存储和数据提取等多个步骤,而如何能够高效的管理数据成为影响大数据处理进度的重要一环。数据采集过后,利用关系、键值、文档、图片、多媒体等属性不同进行打标签和归类,预处理后形成数据集在数据库中进行分类存储。
 
    大数据采集之后的存储也不尽相同,有的数据只需要进行短存储就需要提取并进行处理,而多数数据则需要长期存储,因此分类还需要根据用途进行不同方式的区分。暂时性存储的数据需要快速整理,而长久存储的数据需要降低成本和保证调用时的快捷性。
 
    不过,一部分数据库会囿于过去的数据影响,采集到的数据分析结果始终存在过去的数据在过去环境下的加持,从而会使得数据分析的最终结果出现偏差等问题。因此,在数据存储时应当提供区域性和完整性多层数据。
 
    动态的数据管理不仅仅是在数据库层面之中形成动态趋势,而是在整体的数据管理中,利用自动化和区块化的技术将必要数据进行细分和筛选,让数据保持新鲜度,去除旧数据的影响。
 
    第3页:动态数据分析以求稳
 
    动态数据分析以求稳
 
    在采集和分析部分实现动态后,数据分析才是真正的核心存在。毫无疑问,数据分析的核心是算法和数据,而在数据发分析时普遍可以先分为数据处理和分析两个环节。
 
    数据分析的算法是十分挑剔的,其对于不同的数据要求不同,一般来讲,结构化数据和非结构化数据就是典型的不同种类的数据,其处理方式相差甚远,因此需要先进行数据处理,将不同种类的数据根据分析目的进行异构解析或者压缩,然后进行分析得出指导性理论。
 
    在分析方面,算法对分析结果的影响是十分明显的。从数据中根据分析目的选取不同算法,获得分析结果。但是问题在于,这种以目的驱动的数据分析筛选过程所去除的数据难以确定是否真正的无关,这就导致最终分析出的结果很可能是出现偏差的。
 
    此类问题的解决普遍采用的是利用算法进行分析和精简的,单一算法的偏差难以避免,片面数据的解析同理。而如果全面分析时,静态数据难以保持新鲜度,全面分析计算量过大而且缺乏针对性。
 
    数据分析面临挑战
 
    如果采用动态的实时处理手段则可以避免这些问题,数据及时的处理后得到结果作为一种“数据”进行处理,在需要时进行二次消化,比传统方式要容易一些。而这种方式的问题在于目前的技术限制可能会让实时处理结果依然面临算法单一的挑战。
 
    第4页:动态数据应用以求实
 
    动态数据应用以求实
 
    分析结果的产出还需要最终用于解决企业决策才能够形成价值。只不过数据分析结果的应用也会面临的静态的问题。
 
    一般来讲,数据分析结果是支持企业经营和运行发展方向解决方案的,可是这就意味着前期的巨大投入能够获取的成果应用范畴却十分的狭窄,投入产出比过低导致大多数企业对大数据的应用很难产生兴趣。
 
    数据可视化仅仅只是一部分
 
    而想要让大数据发挥更大的价值,数据可视化仅仅是其中的一部分。企业中应当把数据分析结果实现流动,将适合的数据在不同部门不同岗位中进行传递,最大化发挥数据价值,提升企业业务效率。
 
    再者,动态数据应用应该降低数据分析门槛,借助相关大数据分析工具,让每个员工有数据可用,能数据分析,以数据指导员工发展,帮助员工接近真实数据,运用数据指导,实现自身价值。
 
    大数据自从提出以来一直在不断的发展之中,而静态的数据只能如一潭死水,价值极低,唯有让各个环节动起来,才能让数据成为金子。
 
责任编辑:李欢
本文为授权转载文章,任何人未经原授权方同意,不得复制、转载、摘编等任何方式进行使用,e-works不承担由此而产生的任何法律责任! 如有异议请及时告之,以便进行及时处理。联系方式:editor@e-works.net.cn tel:027-87592219/20/21。
您可以:
排行榜
  1. 丽台 Quadro P5000 专业显卡评测报告
  2. 已有ERP和MES,为什么还需要质量管理系统(QMS)?-(1)提高供应商质量
  3. 西门子MES里面有质量模块,为什么还要收购质量管理软件(QMS)?
  4. 中外主流PCB设计软件大盘点(2011版)
  5. 数据库实时同步技术解决方案
  6. 工厂管理心得
  7. 车间管理方法
  8. 基于Solidworks有限元静应力分析使用要点综述
  9. 格力:携手浪潮,让世界爱上中国造
  10. 华为数智引擎,驱动长安汽车智造革新之路
编辑推荐
• 工厂人必看!MES和WMS别再傻傻分不清
• “超级生产团队”上线:懂生产,更懂怎么干
• 安徽芯纪元:打造具有中国“魂”的DSP“芯”
• 西门子EDA:构建数字化创新“底座”,驱动智能...
• 从定制化到高多层,嘉立创持续引领PCB创新时代
• 别把生命当“公测”:造车新生代狂飙下的安全...
• PTC:高科技企业数字化转型的4个案例
• 会叠衣服的中美机器人,谁离具身智能更近?
• 钣金加工企业数字化管理系统的研究与应用
• 疲劳仿真:产品寿命的“预言家”
• 什么是线束设计?
• 大型PLC市场萎缩,但头部企业仍在死磕国产化?
新闻推荐
• 联想中国交出第二财季成绩单:个人AI业务持续领跑,企业AI业务增势强劲
• Fortinet 发布《2026年度CISO预测报告》
• PTC深化与Garrett Motion的合作关系,加速新产品开发转型
• 对话Gian Paolo:SOLIDWORKS 2026创新密码与AI战略
• Fortinet 发布安全人工智能数据中心解决方案
• 智算时代,企业需要怎样的AI基础设施?
• 2025年第十六届德国工业4.0考察正式启航
• 艾默生公布 2025 财年第四季度和全年业绩,并对 2026 财年做出初步展望
• 和利时智能仪表与XMagital®智能系统解决方案交流会圆满落幕
• ManageEngine卓豪:聚力IT管理革新,驱动企业数智升级
• ABB电气连续21年荣登中国电气工业百强榜,多领域斩获十强殊荣
• 中国经济增速继续领跑 制造业将现跃迁式提升

系列微信

数字化企业网
PLM之神
e-works制信科技
MES百科
工业自动化洞察
智能制造IM
AI智造圈
智能工厂前线
工业机器人洞察
智造人才圈
工业软件应用
智能制造网博会
ERP之家
供应链指南针
© 2002-2025  武汉制信科技有限公司  版权所有  ICP经营许可证:鄂B2-20030029-1(于2003年首获许可证:鄂B2-20030029)
鄂公网安备:420100003343号 法律声明及隐私权政策     投诉举报电话:027-87592219

关于我们    |    联系我们    |    隐私条款

ICP经营许可证:鄂B2-20080078
(于2003年首获许可证:鄂B2-20030029)
鄂公网安备:420100003343号
© 2002-2025  武汉制信科技有限公司  版权所有
投诉举报电话:027-87592219

扫码查看