点击关注公众号，精美礼品免费领！！

Understand how transformers work by demystifying all the math behind them.

为提高地图制作效率，降低制作成本提供了坚实保证。

学习Transformer，快来跟着作者动手写一个。

We present basic math related to computation and memory usage for transformers.

Transformer是一种基于encoder-decoder结构的模型，其编码器和解码器均是由注意力模块和前项神经网络构成，是第一个用纯attention搭建的模型，不仅计算速度更快，在翻译任务上获得了更好的结果。

众所周知，好大夫在线拥有数十亿条医患交流和数亿张医疗相关照片。它们占有着大量的存储空间，且由于标记成本过高，而没办法被利用。Transformer技术给了我们一个将它们利用起来的机会，从而给医患群体提供更可靠的帮助。

视频修复是一个旨在通过视频中已知内容来推断并填补缺失内容的经典任务，它在视频编辑中有着广泛应用，然而高质量的视频修复仍然面临巨大挑战。本文将介绍一种时空联合Transformer结构，来解决视频修复中产生的时间伪影、时序不一致等问题。