文本预训练模型在信息安全场景的探索和实践

文本预训练模型在信息安全场景的探索和实践

摘要

本文介绍文本预训练模型在信息安全场景的一些探索和实践，主要聚焦于对话文本分类。信息安全场景种类繁多，其中一项具体业务是对用户提交的举报内容进行审核，判断被举报对象是否有违规问题。用户提交的举报材料有多种形式，而双方沟通的文字对话记录是一项关键证据。少量的对话文本可以通过人工的方式进行审核，而更大量、更快速的识别还需要借助算法。