How Pinterest fights misinformation, hate speech, and self-harm content with machine learning

How Pinterest fights misinformation, hate speech, and self-harm content with machine learning

摘要

为了保证Pinterest的安全和激励，除了用实时规则引擎打击垃圾信息外，我们还通过版主调查和自动系统主动对违反社区准则的内容采取行动。我们的机器学习模型可以识别出违反我们政策的内容，从健康错误信息到仇恨言论、自我伤害和图形暴力。多年来，我们还在使用Spark、LSH和TensorFlow检测类似图像的能力上取得了进步，并将其应用于信任和安全工作。