腾讯优图的公益打法：用 AI 隔绝伸向孩子的网络黑手

Mary

作者 / 谭丽平

来源 / 盒饭财经（ID：daxiongfan）

在 " 云课堂 " 普及下，未成年人的 " 精神课堂 " 受到关注。

" 孩子平时用电脑或 iPad 上网课，我都会在旁边陪伴观察一会儿，以免平台上跳出不良信息。" 杭州的林女士，在疫情期间，陪伴孩子上了一段时间网课旅程，但她发现，还不能完全把孩子交给网课平台，因为身边有同事发现平台上出现了游戏推广链接。

林女士的担忧并非过虑。此前有媒体报道称，多个直播平台的网课页面中 " 安插 " 有精心包装的游戏广告，将不少上网课的孩子 " 拉下了水 "，有的孩子甚至为购买游戏装备和打赏花去数万元。为此，家长们往往需要花费更多时间去留意孩子，而一旦大意，孩子就会面临网游、交友甚至色情、诈骗等信息。

为了营造清朗的网络学习空间，各方正在多管齐下。而在技术层面上，这一问题正由 AI 解决。

今年 9 月，腾讯旗下的优图实验室发布了面向未成年人的内容安全审核解决方案。该方案的识别范围除了传统的真实场景：涉黄、涉恐、涉暴等，同时将青少年群体容易接触到的漫画，卡通，游戏等虚拟内容也重点纳入了审核范围，诸如网上层出不穷的色情动漫，重口味卡通，儿童邪典等，此外，该服务还纳入了影响与侵害青少年身心的不良行为与内容，诸如吸毒，抽烟，斗殴等。

AI 技术被视为产业互联网的 " 中央处理器 "，在各个产业升级发展中起到重要作用。近年来 AI 市场不断发酵，据 CIC 工信安全统计，2018 年中国 AI 市场达到 344 亿元，投资规模达到 797 亿元，预计到 2025 年，全球市场将超过 6 万亿美元，这是非常庞大的数字。

如此大的规模也让 AI 发展方向有了新的讨论。在政策、技术与大公司协力推动下，AI 技术正在渗透公益领域。这不是为了 " 交作业 " 描绘的一个美丽故事，而是在 " 科技向善 "、践行社会责任理念中，构建科技公益生态，让 AI 普惠人类生活。

盒饭财经（ID：daxiongfan）将以腾讯优图的 AI 技术为切面，研究其如何重塑公益生态。

01 AI 为筛

林女士的经历，也是数亿中国家长所担心的。今年疫情影响下，特别是随着线上教育的兴起与发展，未成年网友呈现更加低龄化特性。据 9 月发布的《中国未成年人互联网运用报告（2020）》显示，未成年人互联网普及率已达 99.2%，首次触网年龄不断降低，10 岁及以下开始接触互联网人数比例达到 78%，首次触网的主要年龄段集中在 6-10 岁。青少年 " 数字原住民 " 的特征愈发明显。

网络教学为未成年人提供丰富的教育资源的同时，也让一些不良信息有了可乘之机。根据《2019 年全国未成年人互联网使用情况研究报告》显示，2019 年我国 1.75 亿未成年网民中，15.6% 的未成年人表示曾遭遇网络侵害，最常见的是网络欺凌、色情引诱、个人信息泄露等。

（图片来源于网络）

目前，我国在多个互联网内容领域均施行了监管审核。中央网信办联合公安部、教育部重拳出击，于 8 月启动涉未成年人网课平台及网络环境专项整治。截至 9 月中旬，累计关闭违法违规网站平台 6000 余家，集中清理危害未成年人身心健康的 " 祖安文化 "" 黑界 " 等不良信息 97.5 万余条，处置相关问题账号、群组 64.7 万余个，有力震慑了利欲熏心、将未成年人当成 " 围猎 " 对象的不良商家。

但由于针对更广泛的网络内容监管审核手段较少，存在较大的真空地带，未成年人上网内容审核和分级迫在眉睫。

随着人工智能、云计算等技术进步，也给未成年人保护注入了新的活力。

腾讯以 AI 为筛，尝试去解决这个问题。9 月 11 日，2020 腾讯全球数字生态大会 AI 专场在云端线举行，腾讯优图实验室副总经理黄飞跃发布了 " 未成年保护解决方案 "。

这项未成年保护方案，在标准内容审核基础能力之上增加了很多针对未成年设计的能力。例如性感、抽烟、喝酒等成年人内容，都有相应的识别过滤能力。还专门扩展了违规内容主体是否是未成年人的识别能力，如识别 " 未成年人直播 "、" 儿童裸露 " 等不良行为和图片等。

目前，这套解决方案对于明显色情图片的召回率超过 96%；对于烟赌毒、纹身、床上直播等行为的召回率能够达到 80% 以上。在识别 " 未成年人直播 "、" 儿童裸露 " 等不良行为和图片，以 " 区分 14 岁以上或以下 " 为测试标准，召回率接近 80%。

因为 AI 技术介入，内容审核的速度和效率大大提升，通过应用 "AI 机器审核 + 人工复审 " 的模式，能够更快更好地覆盖更广泛的内容，让对未成年人的内容管理真正成为可能。

在业内看来，平台和技术来赋能公益，核心理念就是提升公益效率。互联网平台公司赋能公益的核心，需要达到的效果很直接：高效率、大规模、可持续。

据了解，自上线内容安全服务以来，腾讯优图与腾讯天御联合为 1500+ 家平台提供内容安全服务，共计审核图片总量已突破 1000 亿 +，累计拦截不良内容 51263 万。赋能传统内容审核场景，覆盖直播、社交、媒体等十多个行业，协助打击各种不良内容的传播行为。

02 不只是 " 护苗 "

优图 AI 技术正在触达更多领域，解决社会问题中的痛点与难点。

曹军是一位盲人，也是一家科技公司保益互动的创始人。

先天失明的他在 2008 年关掉了自己的八家按摩店，因为想要帮助盲人群体能够和普通人一样运用手机，他成立了中国第一家盲人科技公司，并由此开始了他的第一个目标——在诺基亚上开发出会说话的软件。随后的十多年里，保益互动公司先后研发多款屏幕朗读软件，帮助盲人用上 QQ、上网、GPS……

曹军称，他的创业梦想曾打动过比尔 · 盖茨，后者称赞其产品伟大。在触网过程中，曹军擅长借用互联网平台技术去突破，他曾给腾讯创始人马化腾写了一封信，腾讯便于 2009 年推出了第一款盲人语音 QQ，百度也曾将百度输入法源代码无偿地交给了保益互动公司。

他坚信，完美的信息无障碍，是让残疾人和健全人用上一样的软件。如今，他还想让视障者也参与到直播之中，利用直播创业脱贫，乃至致富。

曹军的想法并非空谈。目前，他已经加入了腾讯云助力视障开发者计划。这项计划由腾讯与深圳市信息无障碍研究会共同推出，针对国内部分主流视障产品，腾讯云将免费提供 AI 能力支持，并会引入更多参与方及资源支持，构建产品技术与资源的对接平台，拓展产品应用场景和市场。

像曹军这样的视障者，中国有 1700 多万个，通过互联网技术，他们可以更方便接触社会、获取信息。但国内大部分互联网产品的无障碍程度较低，对于图片、视频内容描述存在局限性。同时，越来越多视障者加入了开发者行列，通过学习编程和开发软件产品，做出满足视障者需求的产品，但在技术和资金能力有较大限制，这也需要借助外力支撑。

面对图片视频读取的难题，曹军借助了腾讯云 AI 能力，在图形图像的智能识别上取得了巨大突破，惠及了更多的盲人。

实际上，从 2009 年起，腾讯在信息无障碍方面就展开探索，截至目前，旗下 QQ、QQ 空间、微信等大部分产品已针对障碍用户实现专门优化。

2017 年，腾讯手机 QQ 上线了 " 提取图中文字 " 的功能，该功能基于优图实验室的 "OCR 文字识别 " 能力。OCR 即光学字符识别，可以通过软件将图像中的文字转换成文本格式，供进一步编辑加工。QQ 的 " 提取图中文字 " 功能，不仅为用户提供了便捷的提取和编辑服务，更是为视障者和老年人提供了巨大的便利。通过 OCR 识别提取出图片中的文字，再配合手机上的语音朗读功能，视障者和老年人可以即时、便捷、顺畅地获取图片中的文字信息。

2018 年 12 月 3 日，腾讯获得 " 联合国教科文组织数字技术增强残疾人权能奖 "。

对一般企业而言，无论是前期的研发投入还是后续的系统维护，都需要成本，找不到一个可持续的、能盈利的商业模式，就很难让人工智能企业愿意主动去拥抱公益。

目前，在 AI 助力盲人无障碍沟通、AI 跨年龄寻人、AI 野生动物保护等方面，背后都有腾讯优图的进入。可以看到，优图的 AI 技术，正在延展其广度。

（AI 手语翻译机正在测试）

当然，优图走上前沿，也必然有其技术支撑。2017 年，腾讯提出 "AI in All" 的战略。如今，腾讯 AI 落地场景由内向外延伸，已经开枝散叶，生长成林。4 月，拥有超过 800 项 AI 相关专利的优图实验室，再次刷新了三大 ReID 公开数据集记录，首位命中率最高近 99%；不久后，又刷新了人脸伪造检测 Face Forensics Benchmark 新纪录，整体检测准确率达到业界第一 …… 对于优图而言，技术壁垒也能更好提升公益效率。

03 科技向善

2019 年，马化腾宣布 " 科技向善 " 成为腾讯公司新的愿景和使命，这引发了科技圈的大讨论，此四个字背后可讨论的空间很大。经济增长、技术进步以及社会现代化等等固然重要，但其最终只是手段，人的发展和人类福利才是目的。科技触达社会问题，解决公益行业的痛点问题，才是使命。

在腾讯为各个产业提供的 90 多种行业解决方案中，80% 都用到了腾讯 AI 技术。作为腾讯公司旗下顶级人工智能实验室，过去 8 年时间中，优图聚焦计算机视觉，专注人脸识别、图像识别、OCR 等领域开展技术研发与行业落地，在推动产业数字化升级中，优图始终专注基础研究、产业落地两条腿走路发展战略，与腾讯云与智慧产业深度融合，挖掘客户痛点，切实为行业降本增效。与此同时，腾讯优图关注科技的社会价值，践行科技向善理念，致力于通过视觉 AI 技术解决社会问题，帮助弱势群体。

从自己做到团结大家一起来做，如今，腾讯在构建科技公益生态，向科技公益的广度和深度上不断加码。

今年 99 公益日上，腾讯公益慈善基金会正式推出 " 科技公益计划 "，旨在凝聚社会各界科研和技术志愿者，共同探索公益慈善的数字化创新，推动实现社会的可持续发展。

半个月后，腾讯便发起了 " 科技公益计划 " 的首个落地场景 " 天籁行动 "，面向公益开发者、设备厂商、NGO 及行业免费开放腾讯天籁 AI 音频技术，帮助听障人群解决 " 听不清 " 难题，呼吁全社会关注听障人士身心康复，构建信息无障碍环境。

依托 " 天籁行动 " 公益计划开放平台，腾讯天籁实验室已携手国内最大的人工耳蜗厂商之一——诺尔康 ( Nurotron ) 研发出集成腾讯天籁音频降噪技术的人工耳蜗产品，实现了多媒体降噪技术在提升人工耳蜗性能方面的全国首批落地场景之一。这款人工耳蜗，是国内首次将多媒体降噪技术应用在提升人工耳蜗性能的场景。

伴随数字时代的全面到来，科技助力公益已成为行业趋势，数字科技正在成为社会公益事业发展的新引擎。

这次 " 天籁行动 " 发起，是腾讯继 AI 寻人、守护者计划等项目实践后，又一个 " 科技向善 " 落地的典型案例。

此前通过 AI 寻人技术，优图已经帮助找回了多名被拐超过 10 年的儿童。

2019 年腾讯升级愿景使命 " 科技向善 " 时，希望能和业界一起思考探索，构建数字时代向善理念、社会责任和行为规范，共建一个健康、包容、可信赖、可持续的社会环境。

在新冠肺炎疫情期间，全国互联网物流企业不遗余力地驰援湖北，随着国家一声号召，" 春风行动 "、" 星星之火 "、" 烟火计划 "、" 摆摊神器 "…… 一场道义比赛拉开了帷幕。

在这个过程中，政府，有实力有担当的第三方强援、尤其是一些科技公司等多方参与，更有效率地解决了问题。

如同 " 科技向善 " 所希望的，针对大众所面对的技术演进带来的重大问题，邀请政府、企业界、学术界、大众与媒体一起，对新技术带来的一切变化保持觉察，让社会各方真正意识到科技给社会带来的诸多问题，寻求最大范围内的共识与解决方案，并引导技术和产品放大人性之善，实现良性发展，用科技来缓解数字化社会的阵痛。

这一生态，也正在驱动新型公益项目和新型公益组织。

今年 7 月 10 日，在 2020 世界人工智能大会腾讯论坛上，腾讯发起 Light2.0 计划，这项计划面向全国青年科技人才、研究团队，通过腾讯及合作伙伴在人工智能领域的技术、产品、课题等资源，为青年科技人才和研究团队提供产学研一体化的交流实践平台。

基于科技公益计划与腾讯 Light 计划，腾讯携手联合国儿童基金会、深圳市信息无障碍研究会、桃花源生态保护基金会三大公益机构，共同发起首届公益创新挑战赛。比赛以 "AI，让美好现在发生 " 为主题，选取三个核心公益应用场景未成年人网络保护、适老化无障碍设计、野生动植物保护，邀请开发者、公益人任选其一参与挑战。这一比赛已于 2020 年 12 月 30 日开启报名。

（公益创新挑战赛，2020 年 12 月 30 日开启报名）

" 在人工智能时代，技术背后的人更为重要。在人性之善的引导下，AI 向善将帮助人类提升生活品质，为社会发展创造新的可能。"2019 年 4 月 29 日，腾讯集团高级执行副总裁刘胜义指出，同时呼吁，" 技术向善 " 不应只是腾讯的使命和准则，更应该成为指引整个行业准则的推动力。

科技是一种能力，向善是一种选择，而 " 人 " 是目的也是过程，这是腾讯优图的初心与信仰。