知鸦日报2023-02-08

2023-02-07 16:30:00 ~ 2023-02-08 16:30:00

技术

meta技术:The evolution of Facebook’s iOS app architecture

摘要

Facebook for iOS (FBiOS) is the oldest mobile codebase at Meta. Since the app was rewritten in 2012, it has been worked on by thousands of engineers and shipped to billions of users, and it can support hundreds of engineers iterating on it at a time.

登录后可查看文章图片

Optimizing Myntra’s Pricing System for Serving Millions of Traffic under 30ms Latency

摘要

Myntra’s pricing system is responsible for uploading various discounts for different products and serving them to multiple services. Currently, the pricing system has been serving discount information with a latency of 150ms for millions of traffic. With increasing scale and the need to disseminate discount information to several other systems, it became essential to scale the system to handle the increased load while maintaining its resilience, robustness, and fault tolerance. Several new features are being developed which require pricing information to be available in synchronous flows. To enable all these features, our pricing system needs to scale to handle 10s of millions of requests with latency as low as 30ms.

登录后可查看文章图片

uber技术:How the Uber Membership Team Developed the ActionCard Design Pattern to Do More with Less

摘要

The ActionCard pattern reduces app screen UI, navigation (routing) logic, and other app logic into simple, decoupled elements. The UI elements are called cards, and the associated reusable logical elements are called actions. Together cards and actions are configured to create app screens and features. Every screen is backed by a server-driven feed of card data models.

The ActionCard pattern implementation described here is the result of our team leveraging learnings from across Uber engineering and a lot of our own trial and error. The result is a pattern that allows us to quickly launch new features across multiple screens and apps with a focus on rapid iteration.

The ActionCard pattern has allowed us to reduce complexity and eliminate redundancy. Our hope is that it might be helpful for other teams who want to go fast.

登录后可查看文章图片

网易技术:如何实现 iOS 16 带来的 Depth Effect 图片效果

摘要

iOS 16 系统为我们带来了比较惊艳的桌面锁屏效果:Depth Effect。它可以使用一张普通图片当背景,同时可以在适当的地方遮拦住部分桌面组件,形成一种景深的效果。

登录后可查看文章图片

阿里巴巴技术:浅谈任务分发中的机制与并发

摘要

任务模型的抽象具有广泛通用性的,例如饿了么骑手每笔骑单是任务,小法庭中交易纠纷的评审也可以被抽象为任务。

登录后可查看文章图片

58同城技术:转转微服务容量管理实践

摘要

随着转转业务的不断发展和用户不断增长,公司持续增加对硬件和基础设施的投入,用于满足业务发展的需要,然后如何做好成本和服务稳定性的平衡,容量管理就是其中必不可少的一环。

登录后可查看文章图片

vivo技术:AI文档图像处理与识别,让移动办公更高效

摘要

随着无纸化逐渐成为趋势,在我们平时的工作、学习以及生活当中,越来越多物理世界里的纸质文档被转换成电子文档,通过手机进行存储、处理和分享。

登录后可查看文章图片

爱奇艺技术:爱奇艺微服务监控的探索与实践

摘要

灵活的报警规则,恰如其分的报警,更低成本的埋点、可视化,服务质量评测报告等,推动AI赋能数字化运维落地也是我们努力的方向。

登录后可查看文章图片

阿里巴巴技术:值得收藏!Java单元测试典型案例集锦

摘要

本文作者收集了一些的Java单元测试典型案例,主要是为了解决一些测试方法问题。

登录后可查看文章图片

网易技术:基于流量双发平台的高效回归方案

摘要

网易易盾的基于流量双发平台的高效回归方案。

登录后可查看文章图片

信也技术:基于多数据源的分布式数据同步系统之PDataX实现方案

摘要

随着业务增多数据体量越来越大,单库单表已不能满足大量数据存储、数据查询检索等需求。使用分库分表和ElasticSearch存储业务数据可以很好的解决上述需求。而数据进行异构存储后,随之而来的就是数据同步的问题,本文为您提供一套非常好的方案。

登录后可查看文章图片

携程技术:数据同步系统重构实践

摘要

在互联网时代,每天都会产生海量的数据,去哪儿网成立至今,积累了海量的用户出行数据,每一次旅行机票记录,酒店记录,门票记录等等,这些数据都存储到数据库中,现在流行的 Mysql 数据库,一般情况下单表容量在 1kw 以下是最佳状态,如果将所有的历史记录都存储到 DB 中,那么每张表的大小将超过 10 亿级,根据不同维度的查询将是一个梦魇,比如通过订单号查询,根据用户加状态查询等等,数据库将不堪重负,慢查询可能导致整个库不可提供服务。常用的解决方案是把这些数据存储到一个备用的数据库或者异构的数据结构中,来提升我们的查询效率。数据同步系统就是做这件事的,将数据从一个数据源导入另外一个数据源,提供同构或者异构、低延迟的的数据的同步,提供高可用的数据同步服务,并且保证数据最终一致性。

登录后可查看文章图片

哔哩哔哩技术:B站增量数据湖探索与实践

摘要

B站增量数据湖的实践方案与未来展望。

登录后可查看文章图片

汽车之家技术:汽车之家统一调度平台设计及实践

摘要

作为汽车之家自研的分布式任务调度系统,调度系统定义了大数据计算和处理的逻辑与规则,对所有任务的执行顺序进行编排管理,实现了任务的有序和高效执行。本文详细介绍了之家分布式任务调度系统的思想以及架构设计。

流利说技术:Delta Lake 在流利说数据接入中的架构和实践

摘要

为了消灭数据孤岛,企业往往会把各个组织的数据都接入到数据湖以提供统一的查询或分析。本文将介绍流利说当前数据接入的整个过程,其间遇到的挑战,以及 delta 在数据接入中产生的价值。

登录后可查看文章图片

携程技术:每天十亿级数据更新,秒出查询结果,ClickHouse在携程酒店的应用

摘要

1)携程酒店每天有上千表,累计十多亿数据更新,如何保证数据更新过程中生产应用高可用;

2)每天有将近百万次数据查询请求,用户可以从粗粒度国家省份城市汇总不断下钻到酒店,房型粒度的数据,我们往往无法对海量的明细数据做进一步层次的预聚合,大量的关键业务数据都是好几亿数据关联权限,关联基础信息,根据用户场景获取不同维度的汇总数据;

3)为了让用户无论在app端还是pc端查询数据提供秒出的效果,我们需要不断的探索,研究找到最合适的技术框架。

对此,我们尝试过关系型数据库,但千万级表关联数据库基本上不太可能做到秒出,考虑过Sharding,但数据量大,各种成本都很高。热数据存储到ElasticSearch,但无法跨索引关联,导致不得不做宽表,因为权限,酒店信息会变,所以每次要刷全量数据,不适用于大表更新,维护成本也很高。Redis键值对存储无法做到实时汇总,也测试过Presto,GreenPlum,kylin,真正让我们停下来深入研究,不断的扩展使用场景的是ClickHouse。

登录后可查看文章图片

张宗耀:bilibili每天100T+的数据导入是如何实现的?

摘要

B站千亿级数据同步,每天100T+数据导入是如何实现的?本文将介绍Apache SeaTunnel在哔哩哔哩的实践。

登录后可查看文章图片

阿里巴巴技术:设计模式混编:观察者模式+中介者模式

摘要

针对变化万千的业务需求,采用合适的设计模式是可以轻松应对的。

本文将探索多种优秀设计模式的混编来解决复杂场景的问题,实现1+1>2的效果。应用实践离不开基础,所以文章将以基本概念、设计初衷出发,逐层讲解混编设计模式的落地。

登录后可查看文章图片

有赞技术:DataX在有赞大数据平台的实践

摘要

随着有赞的业务发展,数据同步的场景越来越多,主要是 MySQL、Hive 与文本文件之间的数据同步,Sqoop 已经不能完全满足需求。在2017年初,我们已经无法忍受 Sqoop 给我们带来的折磨,准备改造我们的数据同步工具。

携程技术:基于 DataX 数据库基础表数据同步

摘要

基础数据的维护对于提升测试效率是很重要的一个环节,这里介绍一种数据库表粒度的数据同步方法来实现测试环境基础数据的维护。

玩物得志技术:Groovy引发的内存爆满问题排查

摘要

本篇以线上内存持续增长问题的排查为背景,讲解如何使用常用的分析工具来定位和解决。

登录后可查看文章图片

得物技术:MySQL多表关联同步到ES的实践

摘要

业务系统查询,涉及多表关联查询,条件维度较大且有模糊匹配需求,索引无法覆盖,导致查询性能较低。

登录后可查看文章图片

阿里巴巴技术:手淘 Android 帧率采集与监控详解

摘要

APM 提供帧率的相关数据,即 FPS(Frames Per Second) 数据。FPS 在一定程度上反映了页面流畅程度,但 APM 提供的 FPS 并不是很准确。恰逢手淘低端机性能优化项目开启,亟需相关指标来衡量对滑动体验的优化,帧率数据探索实践就此拉开。

登录后可查看文章图片

蘑菇街技术:美丽联合搜索平台技术演进(二)

摘要

美丽联合的搜索体系, 经历过很长的体系演进和改造. 一方面, 业务上变化促使我们不断对搜索体系进行深入. 在创业公司, 相对比相对业务成熟的公司而言, 最大的特点,就是每一次体系的迭代,都会以业务或者某些业务需要的特性作为目标和结果. 而这个系列讲述的, 是这一路上(至少是目前为止), 蘑菇街搜索平台体系的衍生. 搜索平台和主搜索体系的区别或者联系, 也会体现在文章中. 首先要指出的是, 搜索平台并非现在蘑菇街的主搜索体系, 但是搜索平台本身确实是从主搜索技术体系中剥离出来以应对和主搜索场景不同的业务需求(一直到现在,搜索平台和主搜索体系都在搜索部门内部的两个小组). 这篇文章会以笔者在蘑菇街搜索体系经历过的搜索演进的时间轴来讲述搜索平台每一个阶段, 解决的一些重要问题以及一些积累的看法.

蘑菇街技术:美丽联合搜索平台技术演进(一)

摘要

美丽联合的搜索体系, 经历过很长的体系演进和改造. 一方面, 业务上变化促使我们不断对搜索体系进行深入. 在创业公司, 相对比相对业务成熟的公司而言, 最大的特点,就是每一次体系的迭代,都会以业务或者某些业务需要的特性作为目标和结果. 而这个系列讲述的, 是这一路上(至少是目前为止), 蘑菇街搜索平台体系的衍生. 搜索平台和主搜索体系的区别或者联系, 也会体现在文章中. 首先要指出的是, 搜索平台并非现在蘑菇街的主搜索体系, 但是搜索平台本身确实是从主搜索技术体系中剥离出来以应对和主搜索场景不同的业务需求(一直到现在,搜索平台和主搜索体系都在搜索部门内部的两个小组). 这篇文章会以笔者在蘑菇街搜索体系经历过的搜索演进的时间轴来讲述搜索平台每一个阶段, 解决的一些重要问题以及一些积累的看法.

蘑菇街技术:蘑菇街MINI DMP系统实践

摘要

大数据时代,DMP这个词越来越多地出现在人们视野内,为了更好地促进数据流通,并利用数据,以技术和数据驱动运营和效果,各大厂都沉淀了自己的DMP系统,比较出名的如阿里的达摩盘,腾讯的广点通DMP等。

我们的数据很大(5亿总量的记录),然而不会铺很大的盘,既没有提供复杂炫目的交叉分析,也没有加入高端大气的人群looklike,我们是从一个小小的点出发,定位于利用站内的数据,服务于站内业务的现状,提供适合业务场景的定向投放/推送等活动。目前典型的场景是用于资源位定向,弹窗定向和个性化推送,覆盖到首焦、弹窗、新客流程及其他业务场景的定向业务,为不同的用户定制不同的展示和流程,提升用户的兴趣和体验。

蘑菇街技术:蘑菇街推荐工程实践

摘要

推荐一直是电商平台的重要流量入口。以往在电商平台上,推荐的场景更多的覆盖在交易的各个环节,比如详情页、购物车、订单及支付等。近年来推荐发展逐渐的多样化,场景上逐渐覆盖到各流量入口,推荐的实体也扩展到活动、类目、运营位等。

蘑菇街技术:图像算法系列-银行卡扫描识别技术简介

摘要

随着移动互联的发展,电商移动应用交易环节涉及到个人银行卡的绑定,实际测试中手动输入16-19位银行卡号码,速度慢,易出错,用户体验差。为提高在移动终端上输入银行卡号的速度和准确性,我们研发了自动识别银行卡号的技术,大大提高了绑卡的效率和体验。

蘑菇街技术:蘑菇街消息推送系统实践

摘要

移动互联网环境下,消息推送是最基础的需求之一。将消息通过多种渠道推送给用户,达到通知、提醒、营销等目的,提升用户活跃度。蘑菇街作为电商平台,在交易支付、物流动态、活动促销、穿搭推荐、风险提醒等等很多场景下需要通过消息触达用户。

蘑菇街技术:搜索下拉框的算法和实践

摘要

搜索下拉框也叫搜索提示,搜索下拉推荐,QAC(query autocompletion),Query suggestion。本质上是指 搜索引擎系统根据用户当前的输入,自动提供一个query候选列表供用户选择,这些推荐query一般从query log中挖掘出大量的候选query,并且保持前缀相同,然后依据某种法则给候选query计算一个分数,最后选择出top 10个作为最终结果。搜索下拉框在搜索引擎和广告竞价平台中已经是标配的产品,它可以帮助用户明确搜索意图,减少用户的输入并节约搜索时间,提高搜索体验有重要作用。各个搜索系统的下拉推荐的处理流程基本相同,不同主要体现在后台的query候选产生机制不同,下面先介绍几种我们常用的下拉推荐算法:基于全量日志的自动补全模型、基于时间序列的自动补全模型、基于用户信息的自动补全模型、基于上下文的自动补全模型。

蘑菇街技术:CPS系统架构介绍及总结

摘要

CPS(Cost Per Sale)是一种按成交扣费的广告模式,即每成交一笔,商家支付相应的佣金给站长。通过CPS,可以激励站长来推广蘑菇街的商品,从而达到引流、拉新的效果。来目前很火的蘑客联盟,就是基于CPS来运作的。

蘑菇街技术:蘑菇街主搜Dump拼装服务演化

摘要

搜索引擎作为电商平台的主要入口之一,承载了大量的用户访问,也孕育了大量业务发展。引擎中的数据作为电商展示的基础,主要分为实时与非实时部分。非实时部分包括算法分数等定时产出的数据;实时部分包括商品各个维度的信息变化,包括商品标题、价格等等。而实时数据与非实时数据同步到引擎的过程是通过dump系统实现的。

蘑菇街技术:服装款式标签识别技术的研究和应用

摘要

互联网中具有海量丰富的数据,除了用户行为数据,电商平台拥有大规模的图像数据。对于蘑菇街来说,对服装图片做分析,具有十分重要的意义。分析实拍图的服装信息,有利于分析用户服装的喜好、风格,以及流行趋势,进而推荐电商平台的商品,增加用户粘性。

蘑菇街技术:图像语义分割和颜色识别

摘要

用色彩来装饰自身是人类的原始本能,无论古代还是现在,色彩在服饰审美中都有着举足轻重的地位,是服装三大要素之一,因此服装颜色标签识别对时尚电商平台蘑菇街来说非常重要。

蘑菇街技术:一个商品的"开车"之旅

摘要

流量变现是每个公司需要考虑的问题,蘑菇街作为垂直女性电商领域,我们有哪些变现方式,如何去搭建广告系统,接下来就带大家一起来看一下广告系统的基本构成,通过讲解一个商品在广告系统中的投放之旅,帮助大家了解广告系统各个模块之间是如何工作的。

美团技术:美团点评旅游搜索召回策略的演进

摘要

美团点评作为最大的生活服务平台,有丰富的品类可供用户选择,因此搜索这个入口对各业务的重要性不言而喻,除了平台搜索外,业务搜索系统的质量和效果对用户体验、商家曝光、平台交易也有着关键作用。

POI 识别在飞猪搜索的探索与实践

摘要

本文分享主题为搜索领域里面关于 Query 理解的范畴,包括了实体识别和 Linking 两个方面,主要聚焦在 POI 识别在飞猪搜索的探索与实践。

登录后可查看文章图片

阿里飞猪搜索技术的应用与创新

摘要

随着人工智能技术的不断发展,用户对产品的易用性提出了更高的要求。旅行场景的搜索逐渐发展为一个拥有旅行定制搜索策略的全文检索引擎。本文将为大家介绍阿里飞猪在旅行场景下搜索技术的应用与创新。

登录后可查看文章图片

阿里B类电商用户增长实践

摘要

用户量始终是衡量一个产品成功与否的重要指标,而搜索往往又是电商平台最大的流量入口。本次分享将介绍阿里B2B电商平台1688用户生命周期分析、全链路用户增长体系以及深度学习在搜索上的应用。

登录后可查看文章图片

vivo技术:强化学习应用:强化学习在NLP领域的应用综述

摘要

自AlphaGO击败围棋高手之后,不管在学术界还是工业界,强化学习的热度一直居高不下。而随着深度学习的发展,NLP的传统难题也得到一定的解决。如今强化学习的发展,也进一步推进了NLP各个方向的研究。

登录后可查看文章图片

vivo技术:细数vivo Chatbot中的那些深度模型

摘要

本文主要介绍对话生成,首先介绍它的发展历程,第二部分介绍vivo对话生成技术的探索,第三部分是总结。

登录后可查看文章图片

vivo技术:VCAP如何利用GPU优化端侧推理

摘要

本文主要介绍vivo自研计算加速平台VCAP中采用的一些GPU加速思想。

登录后可查看文章图片

vivo技术:无惧灵魂拷问:vivo拍照助你正确分类垃圾

摘要

为了帮助用户提高垃圾分类的效率,我们紧急启动了Jovi图像垃圾分类的项目, 我们采集了大量的高质量实拍数据,共包含4大类400个细粒度垃圾图片。

算法人员需根据标注的细粒度垃圾标签建立算法,对垃圾图片输出细粒度标签400类,中间粒度标签45类和粗粒度标签4类. 细粒度标签是object level标签, 比如易拉罐, 饮料瓶, 奶瓶等; 中间粒度是多个类似的细粒度标签聚类, 比如易拉罐, 饮料瓶, 奶瓶可以聚合成瓶罐; 粗粒度是指可回收垃圾, 有害垃圾, 湿垃圾和干垃圾。

登录后可查看文章图片

vivo技术:知识蒸馏技术简介及在BERT上的实践应用

摘要

本文简单介绍了知识蒸馏技术的原理和概念,并详细讲解了如何在BERT上进行知识蒸馏,其中包括一些技巧和指导。

登录后可查看文章图片

vivo技术:vivo联邦学习应用与实践

摘要

在数据隐私保护的大背景下,联邦学习受到了学术界和工业界越来越多的关注。

本文首先介绍联邦学习的基本概念,以及联邦学习中的数据安全,并探讨如何在vivo实际业务场景中,使用联邦学习技术,保护用户隐私。

登录后可查看文章图片

vivo技术:Embedding向量召回在vivo个性化推荐中的实践

摘要

本文首先介绍Embedding召回框架和封装的算法,然后介绍Embedding召回在vivo手机的阅图锁屏、以及内置i主题App这2个推荐场景中的应用效果。

登录后可查看文章图片

vivo技术:VCAP内存复用算法设计

摘要

本文探讨了VCAP如何采用不同的内存复用策略,对不同类型的模型进行内存优化。

贝壳技术:贝壳搜索平台实时流总体架构设计

摘要

2018年贝壳公司战略调整,业务量及业务复杂度有较大增长。面对新的挑战,搜索团队对整个搜索平台进行了重构,针对旧系统的一些问题,主要从可配置,异步化,并发,可扩展,全链路追踪,业务隔离等方面进行了优化。

登录后可查看文章图片

贝壳技术:fastText的源码,看这一篇就够了!

摘要

想知道文本分类新秀fastText内部到底怎么实现的吗?戳进来一探究竟吧!

登录后可查看文章图片

方法

vivo技术:PPT技巧之观点呈现

摘要

vivo人工智能技术 提醒您:技巧千万条,呈现第一条。写P不规范,读者两行泪。

登录后可查看文章图片


‹ 2023-02-07 日报 2023-02-09 日报 ›

qrcode

关注公众号
接收推送