e-works数字化企业网  »  文章频道  »  基础信息化  »  大数据

我所经历的大数据平台发展史(上)

2016/2/18    来源:36大数据    作者:李博源      
关键字:大数据  数据平台  数据仓库  
这个数据平台发展史仅是自己经历过由传统数据平台到互联网数据平台发展一些简单回忆,文章引用了历史项目&平台规划架构,在这里不做更深入描述。
    我是从2000年开始接触数据仓库,大约08年开始进入互联网行业,那时在互联网接触到数据平台与传统第三代数据架构还是有很大的类似之处,随着互联网的突飞猛进,每一次的技术变革都带来一场从技术、架构、业务的渐进式变革,到今天互联网、非互联网的数据平台架构已经差异非常大。
 
    回顾早期的企业环境,企业的生产与服务是一个很长周期,导致业务数据呈现一种粗粒度模式。随着互联网的快速渗透从早期的PC终端到“裆下“的 移动终端,对用户的需求与服务周期将逐渐的缩短,业务量级、数据类型多样化与存储的暴增,对应着技术、架构、业务呈现出迅猛发展,相应的数据沉淀与积累也成指数暴涨。
 
    从”数据仓库“ 词开始到现在的“大数据”,中间经历了太多的知识、架构模式的演进与变革,比如说“数据仓库、海量数据、大数据”等。(备注:数据仓库一般指的是:在相当长的时间内堆积数据,仅仅需要处理大量数据请求中的少部分的系统。数据仓库不等同于“海量数据” 。恰恰相反,而是其子集。海量数据也包含:通过大量的连接提供每秒百万次服务请求的系统。大数据是海量数据+复杂类型数据基础上的大分析、高宽带、大内容)。
 
    数据仓库在国外的发展史多年,大约在98-99年左右进入中国,到现在历了大约十多年发展。到了今天尤其是在非互联网、互联网企业两个领域数据平台有显著的区别。本文将以非互联网时代、互联网时代数据平台发展角度来讲述。
 
    很多从传统企业数据平台转到互联网同学是否有感觉,非互联网企业、互联网企业的数据平台所面向用户群体是不同的?这两类的数据平台的建设、使用用户又有变化?数据模型设计又有什么不同呢?
 
    我们先来看用户群体的区别,下边整理了2个图来讲述用户群体相关区别。
 
    一、用户群体
 
    非互联网数据平台用户:
 
传统企业数据平台用户群
    企业的boss、运营的需求主要是依赖于报表、商业智能团队的数据分析师去各种分析与挖掘探索;
 
    支撑这些人是ETL开发工程师、数据模型建模、数据架构师、报表设计人员,同时这些角色又是数据平台数据建设与使用方。
 
    数据平台的技术框架与工具实现主要有技术架构师、JAVA开发等。
 
    用户面对是结构化生产系统数据源。
 
    互联网数据平台用户:
 
 互联网数据平台用户
    1.互联网企业中员工年龄比非互联网企业的要年轻、受教育程度、对计算机的焦虑程度明显比传统企业要低、还偶遇其它各方面的缘故,导致了数据平台所面对用户群体与非互联网数据平台有所差异化;
 
    2.互联网数据平台的使用与建设方是来自各方面的人,数据平台又是技术、数据产品推进建设的。
 
    3.分析师参与数据平台直接建设比重增加。
 
    4.原有的数据仓库开发与模型架构师的职能也从建设平台转为服务与咨询.
 
    5.用户面对是数据源多样化,比如日志、生产数据库的数据、视频、音频等非结构化数据 。
 
    从这用户群体角度来说这非互联网、互联网的数据平台用户差异性是非常明显,互联网数据平台中很多理论与名词都是从传统数据平台传递过来的,本文将会分别阐述非互联网、互联网数据平台区别。
 
 非互联网、互联网数据平台区别
    非互联网时代
 
    自从数据仓库发展起来到现在,基本上可以分为五个时代、四种架构(大家可以详细翻一下数据仓库的发展历史,在这里仅作科普性介绍)。
 
    1.约在1991年前的全企业集成
 
    2.1991年后的企业数据集成EDW时代
 
    3.1994年-1996年的数据集市
 
    4.1996-1997年左右的两个架构吵架
 
    5.1998年-2001年左右的合并年代
 
    五个时代划分是以重要事件或代表人物为标志,比如说在企业数据集成EDW时代其重要代表人物是Bill Inmon 代表作数据仓库一书,更重要是他提出了如何建设数据仓库的指导性意见与原则。他遵循的是自上而下的建设原则,这个导致后来数据仓库在千禧年传到中国后的几年内,几个大实施厂商都是遵守该原则的实施方法,后来的数据仓库之路等各种专业论坛上针对数据仓库ODS-EDW的结构讨论(备注:坛子里有个叫吴君,他发表了不少这方面的文章)。
 
    在国内项目实施中IBM、Terdata、埃森哲、菲奈特(被东南收购,东南后来某些原因而倒闭)等很多专业厂商在实施中对ODS层、EDW层都赋予了各种不同的功能与含义。
 
    在数据集市年代其代表人物是Ralph kilmball,他的代表作是”The Data Warehouse Toolkit“,在数据仓库的建设上Ralph kilmball 提出的是自下而上的建设方法,刚好与Bill Innmon的建设方法相反,这两种架构方式各有千秋,所以就进入了争吵时代。
 
    我整理了一个表格是这两位大师的优缺点:
 数据仓库
    随着数据仓库的不断实践与迭代发展,从争吵期进入到了合并的时代,其实争吵的结果要麽一方妥协,要麽新的结论出现,果然Bill inmon与 Ralph kilmball的争吵没有结论,干脆提出一种新的架构包含对方,也就是后来Bill Inmon 提出的CIF(corporation information factory) 架构模式、这也算是数据仓库的第三代架构,其架构特点是把整个架构划分为不同层次,把每一层次的定义与功能都详细的描述下来,从04年后国内的很多数据仓库架构、甚至互联网刚开始搞数据平台数据仓库架构模式也是这一种。
 
 传统平台的四个发展阶段
    数据仓库第一代架构
 
    (开发时间2001-2002年)
 
    海尔集团的一个BI项目,架构的ETL 使用的是微软的数据抽取加工工具 DTS,老人使用过微软的DTS 知道有哪些弊端,后便给出了几个DTS的截图。
 
    功能:进销存分析、闭环控制分析、工贸分析等
 
    硬件环境:
 
    业务系统数据库:DB2 for Windows,SQL SERVER2000,ORACLE8I
 
    中央数据库服务器:4*EXON,2G,4*80GSCSI
 
    OLAP 服务器:2*PIV1GHZ,2G,2*40GSCSI
 
 数据仓库第一代架构

数据仓库第一代架构

数据仓库第一代架构

数据仓库第一代架构

 
责任编辑:王慧敏
本文为授权转载文章,任何人未经原授权方同意,不得复制、转载、摘编等任何方式进行使用,e-works不承担由此而产生的任何法律责任! 如有异议请及时告之,以便进行及时处理。联系方式:editor@e-works.net.cn tel:027-87592219/20/21。
e-works
官方微信
掌上
信息化
编辑推荐
新闻推荐
博客推荐
视频推荐