e-works数字化企业网  »  文章频道  »  基础信息化  »  运维管理

百亿访问量的监控平台如何炼成?

2018/1/23    来源:运维派    作者:李春旭      
关键字:监控平台  钥匙团队  
随着 WiFi 万能钥匙日活跃用户大规模的增长,钥匙团队正进行着一场无硝烟的战争:越来越多的应用服务面临着流量激增、架构扩展、性能瓶颈等问题,为了应对并支撑业务的高速发展,我们迈入了 SOA、Microservice、API Gateway 等组件化及服务化的时代。
    前言:
 
    很开心能够跟大家分享 WiFi 万能钥匙在监控领域做的一些事情,本文分享的主题是《百万访问量的监控平台如何炼成》,罗马(Roma)项目名称的来历比较有意义:
 
    1、罗马不是一天成炼的(线上监控目标相关指标需要逐步完善);
 
    2、条条大路通罗马(罗马通过多种数据采集方式收集各监控目标的数据);
 
    3、据神话记载特洛伊之战后部分特洛伊人的后代铸造了古代罗马帝国(一个故事的延续、一个新项目的诞生)。
 
    今天我将通过三大部分进行讲解:
 
  • 背景介绍(我们公司当初面临的一些问题与挑战)

  • 架构设计(结合公司现状谈一谈我们的监控平台是如何实现)

  • 最佳实践(通过项目演示谈一谈我们的监控平台实践情况)
  
    一、 背景介绍
 
    随着 WiFi 万能钥匙日活跃用户大规模的增长,钥匙团队正进行着一场无硝烟的战争:越来越多的应用服务面临着流量激增、架构扩展、性能瓶颈等问题,为了应对并支撑业务的高速发展,我们迈入了 SOA、Microservice、API Gateway 等组件化及服务化的时代。
 
    伴随着各系统微服务化的演进,服务数量、机器规模不断增长,线上环境也变得日益复杂,工程师们每天都会面临着这些苦恼:
 
  • 线上应用出现故障问题时无法第一时间感知;

  • 面对线上应用产生的海量日志,排查故障问题时一筹莫展;

  • 应用系统内部及系统间的调用链路产生故障问题时难以定位;

  • ……
 
    线上应用的性能问题和异常错误已经成为困扰开发人员和运维人员最大的挑战,而排查这类问题往往需要几个小时甚至几天的时间,严重影响了效率和业务发展。
 
    本文将介绍万能钥匙是如何构建一站式、一体化的监控平台,从而实现提升故障发现率、缩短故障处理周期、减少用户投诉率等目标。
 
    1、产品介绍
 
    WiFi
 
    始于盛大创新院的 WiFi 万能钥匙在整个过去四年中,我们就是在致力于做一件事情“连接”,我们要帮助这些用户更快更好更安全的连上网。
 
    WiFi 万能钥匙从原来的帮助用户连接上网,发展到现在,在帮助连接的同时我们希望做连接后所有的服务。我们向用户推荐更精准的内容,我们让用户享受在他附近的生活中的各类便捷服务,同时让用户在上面消费更多的内容。
 
    2、产品数据
 
    数据
 
    截至到2016年底,我们总用户量已突破9亿、月活跃达5.2亿,用户分布在全球223个国家和地区,在全球可连接热点4亿,日均连接次数超过40亿次。
 
    3、用户体验
 
    数据
 
    我们可以通过一组数据(可用性指标)来思考每一次故障的背后对用户带来了哪些伤害?给公司的品牌价值、股价等带来哪些不利影响?
 
    4、监控现状
 
    监控
 
    早期为了快速支撑业务发展,我们主要使用了开源的监控方案保障线上系统的稳定性:某开源监控框架、Zabbix,随着各产品线业务的快速发展,开源的解决方案已经不能满足我们的业务需求,我们迫切需要构建一套满足我们现状的全链路监控体系:
 
  • 多维度监控(系统监控、业务监控、应用监控、日志搜索、调用链跟踪等)

  • 多实例支撑(满足线上应用在单台物理机上部署多个应用实例场景需求等)

  • 多语言支撑(满足各团队多开发语言场景的监控支撑,Go、C++、PHP 等)

  • 多机房支撑(满足国内外多个机房内应用的监控支撑,机房间数据同步等)

  • 多渠道报警(满足多渠道报警支撑、内部系统对接,邮件、掌信、短信等)

  • 调用链跟踪(满足应用内、应用间调用链跟踪需求,内部中间件升级改造等)

  • 统一日志搜索(实现线上应用日志、Nginx 日志等集中化日志搜索与管控等)

  • ……
 
    5、监控目标
 
    监控目标
 
    如图所示,从“应用”角度我们把监控体系划分为:应用外、应用内、应用间。
 
    应用外:主要是从应用所处的运行时环境进行监控(硬件、网络、操作系统等)
 
    应用内:主要从用户请求至应用内部的不同方面(JVM、URL、Method、SQL 等)
 
    应用间:主要是从分布式调用链跟踪的视角进行监控(依赖分析、容量规划等)
 
    6、参考案例
 
监控目标
 
    一个完美的监控体系会涵盖 IT 领域内方方面面的监控目标,从目前国内外各互联网公司的监控发展来看,很多公司把不同的监控目标划分了不同的研发团队进行处理,但这样的会带来一些问题:人力资源浪费、系统重复建设、数据资产不统一、全链路监控实施困难。
 
    罗马(Roma)监控体系如图中所示,希望能够汲取各方优秀的架构设计理念,融合不同的监控维度实现监控体系的“一体化”、“全链路”等。
 
    二、 架构设计
 
    架构
 
    面对每天40多亿次的 WiFi 连接请求,每次请求都会经历内部数十个微服务系统,每个微服务的监控维度又都会涉及应用外、应用内、应用间等多个监控指标,目前罗马监控体系每天需要处理近千亿次指标数据、近百 TB 日志数据。面对海量的监控数据罗马(Roma)如何应对处理?接下来将从系统架构设计的角度逐一进行剖析。
 
    1、架构原理
 
    架构原理
 
    一个完美的监控平台至少需要具备数据平台的所有功能特性。
 
    2、 架构原则
 
    架构原则
 
    一个监控系统对于接入使用方应用而言,需要满足如下图中所示的五点:
 
  • 性能影响:对业务系统的性能影响最小化(CPU、Load、Memory、IO 等)

  • 低侵入性:方便业务系统接入使用(无需编码或极少编码即可实现系统接入)

  • 无内部依赖:不依赖公司内部核心系统(避免被依赖系统故障导致相互依赖)

  • 单元化部署:监控系统需要支撑单元化部署(支持多机房单元化部署)

  • 数据集中化:监控数据集中化处理、分析、存储等(便于数据统计等)
 
    3、业务架构
 
    业务架构
 
    上图是业务架构图,从最下侧不同的指标数据来源,到最上面包括图表展示、配置管理等,最左侧主要是做一些离线分析、实时分析等,最右侧处理一些统计报表、周报等。
 

责任编辑:李欢
本文为授权转载文章,任何人未经原授权方同意,不得复制、转载、摘编等任何方式进行使用,e-works不承担由此而产生的任何法律责任! 如有异议请及时告之,以便进行及时处理。联系方式:editor@e-works.net.cn tel:027-87592219/20/21。
兴趣阅读
相关资料
e-works
官方微信
掌上
信息化
编辑推荐
新闻推荐
博客推荐
视频推荐