您当前的位置 : 前沿 > 时政 > 法与理

AI鉴黄师走红 净化网络环境意义重大

  • 2017年03月20日 16:57 来源:羊城晚报
老色驴电影

 

 

  一位“鉴黄师”的电脑上贴着便签,上面注明了甄别色情信息的标准 图/

  羊城晚报记者 龚卫锋

  前晚,“斗鱼直播”一档名叫《职男职女职播》的综艺节目与观众见面。这档节目每周会请来不同行业的专家们,为青年人解决职业困惑。本周是该系列的第二期:上一期在武汉直播,请来的嘉宾是法医;这一期在广州直播,请来的嘉宾身份更具话题性——他们是“AI鉴黄师”。

  三位嘉宾中,姜泽荣是互联网“图像识别”领域龙头企业“图普科技”的运营总监,也是一名“AI鉴黄师”。他这个“老司机”带着两位“小司机”同事在直播中谈笑风生,让观众了解到:这份网友眼中很酷的工作,其实并不轻松;而有了AI人工智能技术(Artificial Intelligence)的助力,“鉴黄”的效率已经大大提高。

  背景

  “网络监管加强,

  越来越多直播平台请鉴黄师把关”

  “快播被禁”堪称2014年的年度事件。2014年4月16日快播科技发布公告称,快播将关闭qvod服务器,停止基于快播技术的视频点播和下载,清理低俗内容与涉盗版内容。同年8月,全国“扫黄打非”办公室发布消息称,深圳快播科技有限公司网上传播淫秽色情信息案主要犯罪嫌疑人、快播公司法定代表人兼总经理王欣于8月8日被依法抓捕归案。

  “国家非常重视对淫秽色情信息的监管,我们公司成立时,就把‘鉴黄’作为公司的重要工作,第一个客户是迅雷。”姜泽荣透露,当时迅雷给了很多数据帮他们调整并优化系统,不过,迅雷如何利用系统则不在他们的控制范围内,“迅雷不存储内容,用户下载并分享的过程中触发‘过滤’机制才有可能被禁,但达到多少基数会被禁,我们不知道。”

  “AI鉴黄师”与“传统鉴黄师”通过肉眼浏览过滤色情信息不同,他们的工作是将大伙儿从互联网上搜集的图片、视频进行分类整理,分别放入系统“正常”、“性感”、“色情”三大板块中,“我们调教机器去识别色情信息,通过样本建立模型,最终趋近于达到人眼识别的效果,原理和AlphaGo一样。”图普科技客户经理周耀辉说道。

  他们公司现在有上百个客户,其中直播客户占了很大的量,这与近两年直播行业的急速发展密不可分。“部分直播平台为了赚快钱,专门请美女主播滚动直播色情内容,结果上线没多久就被禁。”图普科技市场经理邓柯解释,“对网络信息管控比较重视的企业会走得更远。”

  国家对直播平台的监管也在逐渐加强,去年4月13日,百度、新浪、搜狐等20余家直播平台共同发布《北京网络直播行业自律公约》,承诺网络直播房间必须标识水印;内容存储时间不少于15天备查;所有主播必须实名认证;对于播出涉枪、涉毒、涉暴、涉黄内容的主播,情节严重的将列入黑名单;审核人员对平台上的直播内容进行24小时实时监管。

  《互联网直播服务管理规定》2016年12月1日起在全国施行,明确禁止互联网直播服务提供者和使用者利用互联网直播服务从事危害国家安全、破坏社会稳定、扰乱社会秩序、侵犯他人合法权益、传播淫秽色情等活动。

  于是,越来越多的直播平台开始找“AI鉴黄师”帮助,一旦有主播传播色情信息、系统判定为“色情”后,会立即通知直播平台“封号”;系统拿不准的信息,会被发送到直播平台系统中,让鉴黄师人工判定。通常,从“判定信息为色情”到“查封账号”,平均用时为30秒。

  工作

  “机器帮忙识别色情信息,实时监控直播的越轨举动”

  邓柯介绍:“视频直播的利润空间之大,普通人难以想象。比如一个以喊麦著称的主播,办一场活动号称‘日薪百万’,很多直播平台不惜花百万元甚至千万元去挖一个TOP级别的主播。”据悉,一些美女主播为了维持足够的用户粘度,常常一段直播长达两小时,甚至有人曾表演长达8小时的丝袜舞,平均每隔三分钟念一遍感谢粉丝赠送礼物的名单……当她们做出一些越轨举动时,往往能收获很多礼物,折合成人民币数额相当可观,于是一些美女主播不时打打“情色”擦边球。

  去年11月28日,女主播“雪梨枪”因传播色情视频内容被判有期徒刑4年,给这类突破底线的主播们敲响了警钟。“利用色情谋利是直播平台的大忌,以身犯险极易触犯法律。”周耀辉说。姜泽荣也强调违法行为是不能容忍的:“人有需求很正常,但释放途径要得当,利用这一点做违规、违法的事情很不好。”

  周耀辉表示,直播平台对于“AI鉴黄师”的需求量很大:“因为直播是实时性的,随时可能有人做出越轨举动,机器(系统)会把视频实时导出成一张张图片,以方便鉴别。”不过,各个平台的尺度不一样,姜泽荣说:“我们把机器给直播平台使用,但他们在调用时选择的尺度是不同的。”

  “内容管控是个世界性课题,很多人觉得海外网络管控很松,可以随意浏览色情网站,其实这是一种误解,不少国家和地区的管控相当严格,比如在实名认证的情况下,Google Play对色情是零容忍的,而日本AV有明确的分级制度。”周耀辉指出了人们的一些认识误区。

  有人责难“鉴黄师”,认为他们堵塞了人性的出口。对此姜泽荣持反对意见。他认为,在尚未“分级”的情况下,“宁可错杀一千,也不能放过一个”,而“一刀切”目前看来是必要的,必须防止色情视频对青少年身心健康的危害,但他们希望另一方面,“性教育”也该完善。他表示:“我们调查也发现,很多家长没有正确引导孩子,一味压抑也是不对的。”

  在机器和人的努力下,如今色情直播现象明显少了很多,“我们平台数据显示,现在直播过程中,出现色情内容的比例是万分之四。”邓柯说。

  感受

  “安静理性适合当鉴黄师,

  太活泼的人干不了”

  “刚开始做这份工作有些不适应,当你打开屏幕,满屏都是不堪入目的内容,我整个人都凌乱了。”姜泽荣的同事毛毛,是这次斗鱼直播节目《职男职女职播》的一位嘉宾,“美女鉴黄师”的标签让她在几位嘉宾中特别抢眼。

  姜泽荣被同事称为“老司机”,是AI鉴黄的元老。“公司刚成立时,部门只有四个人,加班非常多,一天起码有六个小时在搜集数据,简单说,就是看黄图、黄片,然后把它们扔到数据库中。”他们部门“技术宅”居多。“我们在招聘时对性格有要求,太活泼的人当不了鉴黄师,性格安静、理性的人比较适合。”姜泽荣说。

  2013年,百度、腾讯、金山等10多个互联网公司组成的“安全联盟”,公开招聘“首席淫秽色情鉴定官”,条件是年薪20万元、五险一金、每天有酸奶水果福利,工作内容就是对着电脑专职识别色情淫秽网站。很多人觉得这份工作很酷,但随后也不断传出有鉴黄师申请“工伤”索赔的新闻。姜泽荣吐槽道:“说当‘鉴黄师’是件很酷的事情的人,都不了解这个职业。凡事都有个度,什么事都耐不住天天看啊!”姜泽荣解释,“鉴黄”只是他工作的一部分,他们还在开拓其他智能识别项目。

  “我们组有6个人,全是男性,都不会跟外界说自己是‘鉴黄师’,因为对很多人来说,这不是什么很好的工作,说出去会影响别人对你的看法。但另一方面,净化网络环境的工作是有意义的。”姜泽荣通常会跟亲友说自己是做互联网技术的,如今还有种高大上的说辞——“我在做‘人工智能’。”

上篇:陕西一幼师让20多位同学轮流打男童嘴巴 院方:游戏设计不当

下篇:海口4S店员工卷款30多万元失踪 被琼海警方通缉

 
分享到:

热点新闻

  • 女老板偷转朋友490万还债 称宁愿坐牢不愿欠债

  • 女子丧夫小三上门讨债 对方竟是自己资助的贫困女生

  • 公众号造谣鼓吹"疫苗有毒" 被永久封禁

  • 东海再现"捞金"奇景:渔民出海10天捞60万元

  • 26万买VR9个月多次故障 公司称只能进行设备替换

  • 郑州10位准爸爸体验生娃 5人“生”了一半就放弃

  • 甘肃榆中“家门口”招贤纳才 掀起西部返乡就业热潮

  • 247辆出租车交600多万押金 合同到期公司拒退钱

  • 昆明安宁私售柴油现象猖獗 安监局已成功查处两起

  • 微加盟赚钱有“套路”:漂流瓶“美女”交友背后的骗局

  • 父女搭档管理3500亩地 年入百万元成"种田CEO"

  • 河南新乡一化工厂爆炸致1人伤 曾因违规排污被曝光

  • 人大常委会法工委谈"认罪认罚从宽"如何防止权钱交易

  • 重庆新确诊1例人感染H7N9病例 密切接触者未出现异常

  • 研究所老板将化学药品添加到保健品中 被判无期

  • 浙江一高校开设网络直播课 学生上课带手机当“主播”

  • 12岁男孩写作业时险丧命 快让孩子改掉这个坏习惯

  • 山东一男子称手机"疯"了 两秒一条短信轰炸

  • 杭州“最郁闷”校长:给600位家长发短信 仅2人回复

  • 点一下就倾家荡产?是时候让你知道这些骗术的真相了

  • 广东一“碰瓷”团伙落网 开豪车作案屡屡得手

  • 且将书剑许明时——记第八届"全国十大杰出青年法学家"董坤

  • 男子要跳楼 自称吃饭时劝领导“别插队”被开除

  • 老乡结伙多次别墅盗窃 庭审称"别墅住着有钱人"

  • 且将书剑许明时——记第八届"全国十大杰出青年法学家"董坤

  • 警犬戴VR“天眼” 可回传现场全景画面

  • 高校大厨写另类通知:相亲失败再相亲停业两天

  • 北京房山打掉一制售假酒团伙 涉案金额超百万

  • 无资质美容院被查获 非法网购假瘦脸针翻倍出售

  • 网红主播补缴6000万元个税 广告等收入将纳入监控

  • 我国为农民工追讨欠薪140.3亿元

  • “男红娘”为近百对空巢老人保媒 保媒中自己被老伴相中

  • 南京老人曾因盗窃入狱 释放后遭亲人嫌弃流浪街头

  • 湖南省委原常委、宣传部原部长张文雄被立案侦查

  • 幼儿园老师让带“肉肉” 萌童真的带来块肉

  • 湖南一对情侣吵架怄气 相继吞下18厘米毛衣针

  • 八旬老人无照开摩托 还要载百岁母亲去看病

  • 上海一配饰店被查 部分仿真饰品重金属含量超标

  • 北京:调和油未标识配料含量 法院判决10倍赔偿消费者

  • 三名初中女生为求刺激 报警谎称“杀了人”

  • 女子为给烧伤儿子省营养费 两个月吃60多斤胡萝卜

  • 浙江12名Airbnb租客一夜聚会气疯房东:地上还留有三坨屎

  • 女子轧死宠物狗遭对方捅杀全家灭门 凶手获死刑

  • 漳州:云霄上窖发生一起火灾 两位老人严重烧伤

  • 40吨搅拌车翻下6米深沟 受困司机被救出

  • 女子两次怀孕后均小产 被同居男友追讨3万彩礼

  • 26万买VR9个月多次故障 公司称只能进行设备替换

  • 云南误食烧碱灼伤食道男孩获30万捐款 11日术前检查

  • 黑龙江一煤矿发生升降机坠落事故 约20人被困

  • 你可能雇了个“水”月嫂:月嫂培训不上课也拿证 无人监管

  • 阅读推荐

    ICP备案/许可证编号:津ICP备15008203