本文从源码入手重点分析了vllm+ray如何实现分布式推理，也介绍了一些分布式通信方式及模型分布式切分的基本知识。

在复杂中后台设计中，为解决配置变更影响多场景问题，提出结合正向和逆向信息架构，采用原子化任务，动态组合任务，降低用户和开发成本，优化体验并改变已有的产品迭代和人机交互模式。未来可能发展为AI自动根据业务规则和用户行为生成最佳方案。

RAG通过检索现有的大量知识，结合强大的生成模型，为复杂的问答、文本摘要和生成任务带来了全新的解决方案。本文详细的介绍了RAG遇到的挑战、通用范式、工程实践、优化实现策略等。

随着LLM的发展，ChatGPT能力不断增强，AI不断有新的概念提出，一种衍生类型的应用AI Agent也借着这股春风开启了一波话题热度。本文就手猫在探索Agent能力和智能助手业务结合过程、技术侧遇到的问题、想法和实践做简单总结。

作者通过本文梳理了自己对虚拟线程的理解，顺便捋一捋Java线程的过去、现在和未来。

本文是实践篇，讲述如何从 0 到 1 对一个大型的业务工程开展重构。我们将按照定义架构解决的问题、设计架构的实现方式、重构前的准备、开始重构代码、新架构灰度放量的顺序来进行讲述，让我们开启重构之旅吧！

作者日常在与其他同学合作时，经常发现不合理的日志配置以及五花八门的日志记录方式，后续作者打算在团队内做一次Java日志的分享，本文是整理出的系列文章第四篇。

AIGC生图需进行质量评估以满足一定标准。然而传统手动评估方式耗时耗力，容易受到主观偏差的影响，导致评估成本高而效果不佳。但通过算法和机器学习模型，自动化评估可以快速准确地执行质量检查，因此在提高生图质量与生产效率方面发挥着不可替代的作用。

Master-Worker 架构在分布式系统中常见，但面临灰度发布挑战，可能导致级联故障。解决方案包括Master分片、分批推送更新和简化SDK库，但各有局限。

作者深入内核讲述了 MySQL semijoin 从识别到优化器根据代价决定最优执行策略，以及执行方式的全过程，掌握 MySQL semijoin 这一篇就够了！

随着脚本语言的普及和性能需求的提升，解释执行和即时编译（JIT）成为了两种常见的代码执行方式。本文探讨了这两种技术，通过详细的实例和深入的分析，揭示了它们的工作原理、性能差异以及各自的优缺点。

本次重构是一次对大型业务工程进行架构再设计和重构的探索，本文是对这次探索的一次梳理与总结。

本文会从浏览器插件应用场景切入，穿插插件基础能力和常见入口的介绍，核心回答如下三个问题：插件可以被使用在哪些场景？不同的使用场景我们的主要代码实现思路是怎样的？我们可以从哪些角度入手自己开发一款可以落地实用的浏览器插件？

对于没有Go背景的Java程序员来说，使用Go开发一个可用的程序的速度是肉眼可见的缓慢。但攻克的难点不在于Go语言本身，而是搭建整个工程链路的过程，即所谓的“配环境”。本文将主要讲述如何配出一个适合Go开发的环境。

本文分享我们在展示广告召回模型中将ID模态和内容模态进行融合的探索，提出了混合模态专家模型，并介绍了模型详细设计思路。

本文主要总结了ICBU的核心沟通场景下服务端在此次性能优化过程中做的工作，供大家参考讨论。