话题中间件与数据库 › Nebula Graph

中间件与数据库:Nebula Graph

Mussel — Airbnb’s Key-Value Store for Derived Data

How Airbnb built a persistent, high availability and low latency key-value storage engine for accessing derived data from offline and streaming events.

“哨兵”监控--大规模任务流监控的设计与实现

集团经营日报的产出基于整个集团的各个BG数据,数据链路经过清洗过滤、逻辑加工、统计汇总等步骤,并在发送之前会针对产出数据进行一致性、完整性、波动性等⼀系列校验,校验通过后,采用更新数据库中最⼤有效数据⽇期维表的形式,经过BI工具帆软扫描感知后进⾏推送。在整个过程中涉及数据流转非常复杂,上游任务数量超过2300个,任何⼀个任务出现异常,如若不能及时处理都会影响⽇报产出的时效性,因此,必须在第⼀时间监控到异常,对异常问题进⾏快速定位并作出相应处理。

⽇报相关数据任务接⼊了星河平台的基线监控,能够通过设置承诺完成时间和预警余量,在任务链路无法在承诺时间完成时触发报警,对数据链路保障带来了⼀定的帮助。基线监控在⼀定程度上满⾜集团⽇报监控场景的需要,但目前流程存在数据校验如果不通过,会kill后续任务来阻断链路,并触发⼈⼯确认流程的的场景,在这种情况下,基线监控会将失败任务作为异常进⾏报警,同时⼈⼯确认页面为内网服务器部署,必须连接VPN才可访问,操作步骤繁琐且效率不⾼,其次,所有主题经营⽇报发送后没有⼀个统⼀的反馈,容易出现日报漏发的情况,尤其当主题数量上升后,人工统计确认所有日报是否正常发送完成也是⼀件耗时耗⼒的⼯作。

针对上述背景,基于企业微信开发了“哨兵”监控系统,将任务链路实时监控、校验⼈⼯确认和⽇报推送统计这⼏个主要的业务场景所需功能融合起来,结合更加定制化的的监控策略,辅以任务调度、异常任务统计等衍⽣功能,优化了整个⽇报产出流程的异常监控和问题排查,提⾼了处理效率,并且提升了日报推送的准点率。

携程分布式图数据库Nebula Graph运维治理实践

随着互联网世界产生的数据越来越多,数据之间的联系越来越复杂层次越来越深,人们希望从这些纷乱复杂的数据中探索各种关联的需求也在与日递增。为了更有效地应对这类场景,图技术受到了越来越多的关注及运用。

在携程,很早就有一些业务尝试了图技术,并将其运用到生产中,以Neo4j和JanusGraph为主。2021年开始,我们对图数据库进行集中的运维治理,期望规范业务的使用,并适配携程已有的各种系统,更好地服务业务方。经过调研,我们选择分布式图数据库Nebula Graph作为管理的对象,主要基于以下几个因素考虑:

1)Nebula Graph开源版本即拥有横向扩展能力,为大规模部署提供了基本条件;

2)使用自研的原生存储层,相比JanusGraph这类构建在第三方存储系统上的图数据库,性能和资源使用效率上具有优势;

3)支持两种语言,尤其是兼容主流的图技术语言Cypher,有助于用户从其他使用Cypher语言的图数据库(例如Neo4j)中迁移;

4)拥有后发优势(2019起开源),社区活跃,且主流的互联网公司都有参与(腾讯,快手,美团,网易等);

5)使用技术主流,代码清晰,技术债较少,适合二次开发;

开源图数据库Nebula Graph OOM 的问题分析与解决

图是一种存储实体,及实体之间关系的数据结构,而图数据库则是一个使用图结构进行语义查询的数据库。因此,选择正确合适的图数据库能帮助企业快速了解数据间关系,深挖背后的价值。

图数据库不同于传统的关系型数据库(RDBMS)。关系型数据库主要由单个或多个二维表组成,表中的行和列存储数据。

而图数据库的设计初衷是让企业专注数据集内的数据关系,除了具备高可用、高性能等特性,能对海量数据进行存储的能力也至关重要。

百度爱番番实时CDP建设实践

随着营销3.0时代的到来,企业愈发需要依托强大CDP能力解决其严重的数据孤岛问题,帮助企业加温线索、促活客户。但什么是CDP、好的CDP应该具备哪些关键特征?本文在回答此问题的同时,详细讲述了爱番番租户级实时CDP建设实践,既有先进架构目标下的组件选择,也有平台架构、核心模块关键实现的介绍。

Airbnb个性化搜索服务架构

业务快速增长给搜索带来什么样的挑战?针对类似场景如何设计通用的平台?本文详细讲述Airbnb大型搜索服务的演进之路。

  • «
  • 1
  • »

首页 - Wiki
Copyright © 2011-2024 iteam. Current version is 2.137.1. UTC+08:00, 2024-11-23 03:57
浙ICP备14020137号-1 $访客地图$