阎晶晶

懒惰怎么办为应用涉嫌种族歧视道歉，AI 算法有偏见？ FaceApp-粹客网

为应用涉嫌种族歧视道歉，AI 算法有偏见？ FaceApp-粹客网
近年来，许多科技企业都开始在其应用产品中潜入了机器学习软件来帮助用户做出更好的选择烽火情缘，然而有时候机器的选择也有可能带来不好的影响。近日，基于深度学习技术的图片编辑应用 FaceApp 被指控其应用带有种族主义的色彩。
FaceApp 这段时间在全球范围内都十分火爆，每天新增用户数量大约在 70 万人左右，用户只需上传一张自拍照或脸部照片，FaceApp 就能够对其进行不同程度的修改徐新颖，其中也包括老龄化处理以及性别转换等功能陈根楷。然而问题在于瞄准镜专卖，有用户指出，FaceApp 应用中有一项名为“hotness”的滤镜功能小哈林 ，能够将图像中人物的肤色变浅，从而达到“美化”效果，就好比下图中前任美国总统奥巴马的照片在滤镜处理前后之间的差异。

面对这项指控exo藏书阁，FaceApp 的创始人兼首席执行官 Yaroslav Goncharov 也通过电邮声明作出道歉：“对于这个严肃的问题，我们深表歉意。造成该现象的主要原因来自于为应用提供支持的神经网络的‘副作用’幽兰操 韩愈，是其训练数据中存在的偏见性问题北京瑶医医院，并非是一项预期行为甩手舞。目前我们已经第一时间对滤镜效果进行了调整，以消除任何不利影响。与此同时，我们也在加紧研发完整的解决方案，预计很快会与大家见面。”
虽然 FaceApp 方面解释是 AI 系统训练数据的问题，同时为 FaceApp 滤镜效果提供支持的 AI 技术也确实包含了一些开源数据库的代码环县吧，不过在这一点上 Goncharov 并没有推脱责任，懒惰怎么办坦言用来训练“hotness”滤镜的数据集是他们自己的，并非公共的数据集，此次事件仍旧是 FaceApp 内部的疏忽谧组词。如今 FaceApp 已经将“hotness”滤镜的名称改为“spark”，不过在更多的人看来这样的做法略显敷衍，他们应该暂时取消这项功能，直到新的替代方案正式问世。

事实上破窑赋，机器算法偏见已经不是第一次出现，去年 Snapchat 也曾推出过一个名为“Yellowface”的滤镜功能飞翔情报室，能将用户变成“黄种人”，同样受到了种族歧视的指控。此外，Facebook 也曾曝出过关于新闻推送方面的“算法偏见门”事件。
在一定程度上，我们的生活方式正在逐渐受到各种 AI 算法的之配，但 AI 并不意味着是绝对的公正李芮知。相反，这种由人类编写、其自身进化又是从人类生活中提取数据信息的 AI 系统，无论怎么发展也不可能完全摆脱人类的影子，甚至算法带来的偏见有时会对人类造成更加严重的影响。而与其反复地指责相关企业，倒不如针对该现象建立一个完善的“算法问责体系”转笔者之家，打造出更加强大、健全的系统。
长按二维码，即刻关注粹客网公众号
粹客网是国内首个关注前沿科技领域的科技新媒体和创业服务平台艾萨拉之爪 。谢振南我们提供最贴近商业化的前沿科技创业报道、最新最全的科技动态资讯以及深刻独到的行业观点。坚持挖掘有价值的创新创业项目，致力于成为创新创业者的前沿阵地。每月精彩评论将有机会获得神秘礼品，线下活动 or 商业合作请私信微信公众号（cheekrnews）或发邮件到粹客网官方邮箱。