面向家庭场景,亚马逊已经推出了多种产品,其中包括可以“全天候提供安居监控所需一切”的Cloud Cam家庭安防摄像头,然而令人意想不到的是,除了AI算法,“监控”过程中也有人工参与。

参与该项目或直接知情的5位人士称,数十名位于印度和罗马尼亚的亚马逊运功负责检查Cloud Cam抓取的部分视频。这些视频被用于训练人工智能算法,以更好地区分真实威胁(入侵者)和错误警报(宠物搞破坏)。知情人士称,亚马逊的检查员平均每人每天要标记约150条视频,每条视频长约20到30秒。

对此亚马逊一位发言人说,送检的视频来自测试员工,也有Cloud Cam用户自己提交的视频,以解决错误通知和视频质量等问题。她表示,亚马逊非常重视隐私,视频片段皆由Cloud Cam客户自己控制,除非主动提交视频,否则只有客户才能查看自己的视频。

但针对这一点,有知情人士给出了不同的说法,他们透露,这些团队所分析的视频中含有房主不太可能乐意分享的私人生活,譬如一些性生活片段。只不过,每当遇到这些包含不适当内容的视频,亚马逊员工往往会在标记之后做废弃处理。亚马逊发言人也承认部分视频中含有不适当内容,但并没有给出理由,解释为什么自愿提交的视频中会出现不适当内容。

与此同时,亚马逊方面也没有更为完善的措施来防范员工将这些视频发给非团队成员。

据了解,Cloud Cam产品在运行过程中的确会出现一些bug,譬如只是风吹动了纸张,它也会发出警报。作为一款安全监控产品,这种bug显然是不应该存在的,而为了让AI能够更为精准地进行状况识别与判定,人工介入有时候也是必需的。但是从现在的情况来看,亚马逊方面并没有在Cloud Cam的用户条款中明确告知客户有人工正在标记视频,以训练产品运动侦测软件背后的算法。

值得注意的是,亚马逊今年已经不是第一次因为人工介入算法训练的事情而引发争议了,就在今年4月,因为未明确告知用户智能语音助理Alexa会自动选取部分语音上传,并让人工介入进行标注以训练算法,最终这一争议以亚马逊对Alexa做出调整为结束。显然,这一次亚马逊又犯了同样的错误。

信息化和软件服务网 - 助力数字中国建设 | 责编:夏丽