扫码手机轻阅读

今日头条副总编李彤:内容审核团队党员占比达15%

  • 今日头条内容审核编辑团队人数已经超过4000人,将来还会突破10000人。
  • “移动互联网时代,海量内容创作和消费的快速增长,给审核工作带来了巨大挑战。”

    目前,今日头条内容审核编辑团队人数已经超过4000人(含海外产品),建立了一支国内最大的审核编辑团队,团队人员的平均年龄为26岁,党员占比达15%。将来还会突破10000人。

    作为国内最大的人工智能内容平台,今日头条同时拥有国内最大的人工审核团队。今日头条如何看待人工审核和机器审核的差别?在具体审核工作中,机器审核和人工审核是怎样结合的?

    1月4日,今日头条内容质量中心负责人、副总编辑李彤接受了澎湃新闻专访,以下为访谈全文。

    澎湃新闻:介绍一下目前今日头条内容审核编辑团队整体情况,包括人员分工、工作内容和流程。内容审核的具体标准是什么?侧重点在哪里?

    李彤:今日头条审核编辑团队目前4000人左右,是国内最大的审核编辑团队。目前包括图文审核、视频审核和评论审核等。团队人员的平均年龄为26岁,党员占比达15%。

    今日头条内容审核编辑的主要职责是,对今日头条平台内容进行把关,确保安全和质量。

    除了每日规定的审核产出,审核还需处理今日头条举报邮箱里用户的举报,抽检和复审平台内容,及时上报,以及整理互联网行业法律法规和行业资讯的新动态,为审核工作提供支持等。

    今日头条内容审核工作,严格依照《互联网信息服务管理办法》开展,审核不通过的类别包括:(1)违反宪法确定的基本原则的; (2)危害国家安全,泄露国家秘密,颠覆国家政权,破坏国家统一的; (3)损害国家荣誉和利益的; (4)煽动民族仇恨、民族歧视,破坏民族团结的 ;(5)破坏国家宗教政策,宣扬邪教和封建迷信的 ;(6)散布谣言,扰乱社会秩序,破坏社会稳定的 ;(7)散布淫秽、色情、赌博、暴力、恐怖或者教唆犯罪的 ;(8)侮辱或者诽谤他人,侵害他人合法权益的 ;(9)含有法律、行政法规禁止的其他内容的。

    澎湃新闻:相较于此前以机器审核为主,遭遇整顿后,内容审核流程是否有变化?具体如何操作?机器审核和人工审核的比重?

    李彤:为了打造一个健康、安全、有价值的平台,给用户提供尽可能丰富多彩的内容,我们加大了人才招聘力度。招聘完成后,今日头条将会有 6000 名审核员工,24小时审核平台上的内容,优化内容审核流程、质量和效率。

    在具体审核工作中,我们把低质、低俗的标准分为两个层次:几乎所有人看来都会一致同意的标准底线,和因人而异的主观判断。

    对于不同类型的低质、低俗信息,我们采取不同的解决方案进行处理。对于广告信息,机器会识别并标注。对于标题党,机器会识别并提醒作者,如果作者不修改,机器会降低推荐权重或直接拦截。虚假信息、违法信息、色情信息,则主要依靠人工审核。

    澎湃新闻:此次大规模招聘,是否说明机器审核还有待加强?在内容审核方面,如何看待人工审核和机器审核的差别?

    李彤:内容审核工作的主要难点在于边界。在一定程度上,对于低俗低质内容的判定,人工操作有主观性,而机器识别“一刀切”。

    技术存在局限。例如色情内容,机器通过识别裸露来判定是否违规,这个会让一些具有历史意义和艺术性的照片受波及。Facebook 曾经因为“裸露”,误伤了一张著名的越战新闻照片,照片里一位小女孩遭到汽油弹炸伤、浑身赤裸奔跑。今日头条也有过类似的情况。最近,我们下架了一张关于吴哥窟塑像的图片,塑像虽然“露点”,但其实是名胜古迹。这是基于我们一贯执行比较严格的审核标准,造成了机器的“误伤”。

    人工审核的遗憾在于效率。一个人一天能够处理的文章数量大概是1000篇,相比之下,机器一秒钟就能处理100篇文章。今日头条每天新增发布50万条内容,全部交由人工来筛的话,一个人需要工作500天才能看完,机器则只需要90分钟。今日头条目前搭建色情、低俗、标题党、虚假信息、低质模型180多个,有效提升了内容审核的效率。

    澎湃新闻:今日头条3天内集中清理了2500多个平台违规账号,主要集中在哪些领域?未来还有怎样的清理措施?

    李彤:今日头条集中清理平台违规账号,主要是为了打造健康、有价值的内容平台,并不特别集中于某领域。执行依据是基于帐号发布的内容不适,主要类型包括标题党、色情低俗、侵犯版权、违反法律法规、恶意发布他人/机构负面和违规广告推广等。

    未来,今日头条还将持续进行内容平台的治理和建设,在主管部门指导下,积极营造健康、向上、清朗的网络空间,与业界、社会共建良好传播秩序。

    澎湃新闻:对审核人员的基本要求是什么?优先党员是有什么考虑?

    李彤:对审核人员的基本要求,正如我们在招聘启事中写道的,我们需要审核人员了解移动互联网行业,关心时事,具有良好的政治敏感度和鉴别力,工作责任心强,执行力高,耐心细致,以及具备良好的团队合作精神。

    招聘要求里写“党员优先”,是基于内容审核编辑岗位的特殊性。一个好的内容审核编辑,需要具备良好的政治敏感度和鉴别力。我们在实际工作中也发现,党员的政治方向和政治立场更坚定,对“高压线”和“红线”更敏锐,对大是大非和政治原则的问题更有判断力,对传播主流价值观和正能量更积极,对化网络环境、维持网络秩序更有责任感。这些,都有助于今日头条成为一个健康、安全、有价值的平台。

    澎湃新闻:国际化内容方面,目前看到有日语、英语、葡萄牙语审核,未来是否会加设其它语种?

    李彤:国际化内容审核方面,除了日语、英语、葡语,还有泰语、印地语、越南语、菲律宾语、西班牙语、印尼语和马来语等。

    随着头条海外业务开展需要,我们会招聘更多具有特定外语能力的人才。

    澎湃新闻:据2017今日头条创作者大会披露,平均每天有50万条内容发布, 2000万条视频上传,除了大规模招人外,今日头条方面还会采取什么样的措施来应对平台大量内容的审核,保证审核的准确性?

    李彤:移动互联网时代,海量内容创作和消费的快速增长,给审核工作带来了巨大挑战。

    为此,头条建立了一套有章可循的审核流程和标准,设定审核相关制度达29项,包括不良信息举报制度、色情低俗信息识别和处理制度、不同业务线特定的审核制度等。依据内容生态环境的变化和发展,梳理人工知识库,各业务线审核标准已达 5000多项,相关案例达10000多例。

    除了定期给员工开展系统化培训,今日头条还建立完整的数据分析系统,实现对审核人员的考核。例如,一般文章系统可以按一定比例抽取盲审,即两个审核人员“背对背”审核,如果操作不一致进入质检由资历更加深厚的团队判断结果;对于重点文章,我们严格落实双审制度,只有两审操作结果一致才生效。所有流程,每个审核人员的操作记录都有完整日志,以备考核工作质量和效率,且为复盘问题提供数据支撑。这个数据系统,还可以根据网友的举报和反馈对文章进行召回,确保发现问题。

    除了4000人专业审核团队,今日头条还建立了低俗低质打击算法模型,采取人工审核+技术识别的方式。自2015年年末上线以来,低俗低质打击算法模型每天都在优化,识别颗粒度更细、更准确、更快。2017年,低俗低质打击算法模型,配合4000人专业审核团队,一同治理违规信息。期间,用户举报总量降低80%,“不感兴趣”的用户反馈量减少 50%以上, 用户满意度提升30%。

    原标题:今日头条副总编辑李彤:国内最大的内容审核团队,每天在做什么?