在互联网的世界里，"鉴黄师"这个特殊的职业群体，肩负着捍卫社会道德底线的重要使命。他们在大公司如腾讯中工作，运用人工智能技术，精确识别和过滤各种不雅内容，以确保网络空间的健康与清朗。他们的日常工作充满挑战，既要应对源源不断的色情信息，又要适应不断变化的市场需求和技术进步。虽然这份工作充满争议和误解，但对于咕噜她们来说，这是一项具有价值和意义的事业。每天阅读数亿张黄图，一群人在鹅厂“带薪看片”。 一些外界标签贴在他们身上，但在内容安全的战场上，他们要求心无旁骛。 他们是网络世界的“黄片”狙击手，AI是战斗装备，精准锁定并一枪猛击，屏幕后的世界得以净化。今天，让我们一起走进这群“不务正业”的鹅厂鉴黄师。 咕噜盯着眼前的露骨色情图片，脸色突然变得通红。四周坐满了人，男同事从身后经过，眼神有意无意地向她的电脑飘去。"完了，这下全世界都知道我在看黄图!"她绝望地想。 有一瞬间，她甚至埋怨鹅厂为什么配备如此大的屏幕的电脑。 这是她第一次打开客户发来的测试文件，在此之前，从未想过自己真的要面对这些色情内容。 老员工们则显得更加镇定，偶尔遇到较为特殊的内容，大家会聚在一起进行研究。 有一次，同事蔡老师的工位周围聚集了7、8个人，大家热闹地讨论着，咕噜在一旁感到有些尴尬，但同时也对他们表示由衷的敬佩。 实际上，在许多人看来，这样的场景并不奇怪。

在腾讯安全天御的内容安全团队中,无论是男性还是女性,都被视为“鉴黄师”。虽然这个称呼有些笼统且暧昧,但它代表了人们对内容安全工作的所有想象。

咕噜是这个团队中的一员,她的职责是识别违规内容并对其进行打标签、调整阈值和置信度等操作。虽然这些任务看起来与色情无关,但实际上,这是咕噜工作的基础逻辑。

在工作中,咕噜更像是AI训练师。她需要根据客户平台的特性、发展阶段和需求来匹配不同的AI识别策略。例如,当平台刚刚启动时,可能会出现用户发布大量色情内容的问题;而当平台变得强大时,可能会面临来自竞争产品的恶意引流问题。因此,咕噜需要不断进行测试并收集反馈,以便对策略进行优化。在这个过程中,她需要与其他团队的成员(如运营、研发和算法)进行协作,以增强和丰富AI的识别能力,从而实现高效的内容安全管理。

咕噜的工作让她专注于识别不合规的内容,以至于有时她会忘记插入耳机,导致无意间将音频公开播放出来。有好几次,她因为过于专注而没有注意到这一点,直到周围的笑声提醒她,她才会立即将音频静音。

这种尴尬的场景经常会意外蹦出，给咕噜一击，但她还是硬着头皮坚持了下来。如今，她已经越来越上手，并找到了工作中最喜欢的部分——建立数据展示、查找识别结果、方便人工审核的控制台，以提升策略运营效率和优化客户体验。咕噜比想象中更快地适应了这个职业。半年前她刚入职时，对鉴黄的工作是有些排斥的。最初跟朋友谈起，她还会挣扎一下：“哎呀，不是你想的那样，我是搞图像识别的、搞AI的……”渐渐地，她也不在乎了，干脆说，“我就是做鉴黄的，怎么样？”她觉得自己脸皮越来越厚了。实际上，牵动着心态变化的是对职业认知的深入。当她离鉴黄的技术内核越来越近，鉴黄这件事反而变得不那么扎眼。甚至，她有了“职业病”，再看到抖动的窗口、黄色的小广告时，会习惯性地截图保存分析。思考，这个东西能识别吗，为什么它总是清除不掉？ “这个坎儿迈过去就好了，不就是图嘛。视频？不就是会动的图嘛！”越色情，越简单现实生活中的鉴黄师并没有什么特别。尤其是当技术性的一面被翻出来后，鉴黄这件事更没什么刺激了，甚至还有点令人头疼。例如一套简单的内衣图，也会衍生出不同的判断标准。这可能是性感维度的商家广告，也可能是袒胸露乳、伴随着暗示性动作的色情图片。在内容安全人员眼里，这些模棱两可的要素，却是决定内容生死的差别。

"如今，用户生成内容的途径日益增多且易于操作，这使得信息的传播变得更加广泛和即时。" 天御安全产品研发负责人Lucas表示，"需要识别的类型也变得更加多样化，过去只需识别色情内容，而现在还需要包括性感、低俗、抽烟、酗酒、驾车直播等内容。" 对于AI来说，识别裸体、隐私部位等"简单"的内容并不困难，但对于机器而言，更具挑战性的问题是那些边界模糊的UGC（用户生成内容）内容，甚至还包括难以把握的意识形态内容。

为了解决这个问题，Lucas和他的团队开始开发部件识别技术，将人体分解成诸如脸部、手臂、腿部、胸部等小的部分，从而实现从整体识别向局部识别的扩展，提高了底层识别能力的粒度，以满足更高的需求。

在保护内容的方面，“我们也正在为平台构建二级标签系统，这将显著提高识别效果。” 咕噜解释道。例如，在青少年保护方面，最重要的原则是确保不适合的内容不会出现在青少年的视野中。为此，我们需要根据平台上不同维度的用户画像，制定更为细致的策略体系，以便在向青少年用户推荐内容时，能够进行额外的过滤。

同时，我们也正在努力防止青少年成为违规内容的参与者。尽管我们无法直接干预用户的行为，但我们正在加强对AI针对儿童色情类标签的识别训练，以便能够更快、更全面地捕获违规违法内容，并将这些信息反馈给平台进行处理。每当这时，咕噜都感到自己像一名"鉴黄师"，但他认为这并不是一件坏事。"从事安全工作，总会有一些使命感在。我认为我已经保护了许多人。"

此外，团队成员还赶赴一线，以确保在我国举办的云端广交会的内容安全。鉴黄是一项严肃的工作。

由于AI技术能够更好地适应图文、音频、视频等多种形式的审核需求，已成为当前内容安全领域的主流技术，并被认为是具有潜力的方向。然而，随着科技含量的不断提高，并不意味着人力就可以得到解放。近年来，鉴定黄色内容的架构实际上并没有发生本质的变化，它们都可以被归结为机器审核加人工复核。

机器审核技术的变革是最重要的一部分，它逐步进化到如今的AI技术，并从图片和文本扩展到音频、短视频、直播等新型内容形式。然而，直到今天，在内容安全领域，AI和人仍然是相互补充的。面对不断变化的市场环境和需求，以及复杂且需要深入理解的内容，即使机器也无法完全理解，人也需要进行清晰的思考。

“因此，运营对于内容安全至关重要，"Lucas说，"他们会根据标准的改变和市场的动态，迅速地响应并迭代策略。"天御的通用版本几乎每两周就会进行一次更新，而对于每个客户的具体策略迭代则需要1-3天。

随着需求的增加，内容安全产业的业务规模也在扩大。虽然机器可以通过技术提高审核效率并降低人工成本，但需要审核的数字仍然令人吃惊。目前，天御内容安全团队和腾讯优图实验室每天的机器审核量约为数百亿，而人工审核量则达到数百万级别。

在未来可预见的时期内，人与AI紧密合作的工作模式将在内容安全领域继续存在。但是，无论审核量的大小或策略需求的复杂程度如何变化，咕噜他们面临的最困难的问题仍然是心理上的挑战。

在现实生活中，除了色情内容外，血腥、暴力、变态等题材也在网络上广泛传播。"在某个寂寞空虚的夜晚，普通人可能会搜索一些黄色，但没有人会去寻找那些血腥视频。"她说道。即使是像Lucas这样经历过战斗的老兵，面对这些内容也无法保持平静。每当咕噜遇到这些令人震惊的画面时，她总是用手捂住眼睛，试图从指缝中窥视。观看过多后，她的视力甚至会在最令人不适的部分失焦。

为了应对这些挑战，咕噜采取的方法是喝一杯奶茶来冷静一下。然而，对于内容安全团队的人来说，他们始终要与刻板印象进行抗争。外界对鉴黄师这一职业的评价总是在两种极端之间摇摆不定。一方面，他们被"看片拿高薪"、"听音辨色"、"带薪福利"等标签所美化；另一方面，《每天面对黄色内容，恶心到想吐》、《全网最脏的工作毁了生活》等报道又揭露了这一职业的最恶劣一面。

更为讽刺的是，这个职业还被贴上了性别标签——女性鉴黄师不敢告诉家人自己的工作内容，而男性鉴黄师则既享受又痛苦着这个职业。这些看似荒诞不经的描述曾经让咕噜在面对父母的质疑时感到困惑。然而，正是技术和内容安全的价值观给予了她信心。

鉴黄只是内容安全的一部分工作，如今人们在互联网上看到的许多看似普通的内容，都是经过她们和黑产势力斗争后幸存下来的。希望这些令人反感的素材能越少越好，只恶心自己，不要恶心其他人。