知乎升级治理算法功能“瓦力保镖” 不良信息处理能力提升260%

  1月3日,知乎宣布社区治理算法功能“瓦力保镖”完成全面升级,进行治理覆盖率和识别准确度等方面的升级,实时拦截处理不良信息的能力提升260%,并新增对涉诈骗内容的主动识别和覆盖,推动平台涉诈骗内容的用户举报量下降95%。

  “瓦力保镖”作为知乎7×24小时在线的社区治理保护功能,自2016年上线以来,保护创作者百万余人、拦截不良信息近千万条。通过对评论区和私信场景下阴阳怪气、不友善、引战、诈骗等违规内容,进行实时地识别和处理,“瓦力保镖”帮助社区有效减少和预防用户遭受言论攻击的风险,在社区治理策略和算法技术上保持着一定的独创性和行业领先。

  2022年知乎发布了“生态第一”战略,其中为了构建良好的社区氛围,通过算法和规则的优化,强化社区治理成为重要手段。基于此,知乎对“瓦力保镖”进行持续升级,全面提升治理覆盖率和识别准确度。

  升级后的“瓦力保镖”新增对欺诈内容的主动识别和覆盖,日均识别欺诈风险对话8000余次。对识别出的风险内容,系统将主动向收到信息的用户发布风险提示。在“瓦力保镖”的帮助下,知乎涉诈骗内容的用户举报量显著下降95%,有效地保障了用户的人身财产安全。

  通过对“瓦力保镖”的算法策略进行优化和调整,知乎对阴阳怪气、引战等不友善内容的识别和处置能力大幅提升。升级后的瓦力保镖,对用户评论区和私信场景实现了有效覆盖,对不良信息的识别和处置,由日均处置4万条提升至日均处置14万条,实时拦截处理能力提升260%,持续提升用户体验。

  截至2022年第三季度,知乎累计拥有5.79亿条内容,在社区治理层面,知乎不断强化机器学习算法和人工审核手段,先后开发了算法功能“瓦力保镖”、反作弊系统“悟空”等多个产品和功能,并于2021年下半年启动可信生态体系建设,推动治理·位置从末端治理向业务内生化迈进,营造健康、友善的社区氛围,打造清朗的社区空间。

(责任编辑:AK007)