一个典型的下班后在我家是这样的场景。“Alexa,”我说。她编钟,然后点亮。“玩新的珍妮刘易斯专辑。”
“玩杰瑞·李·刘易斯必需品从苹果音乐”。
“Alexa。”我重复,声音更响亮,更积极。“打…”
等等。
之间的持久断开我的丈夫说我和Alexa fault-I需要暂停更多,更清楚地说话,也许在一个“请”。但不久之后她搬在必要的伙伴,我被告知,新音响系统他installed-I开始感觉她更喜欢鲍勃在我,不管我是多么礼貌的(虽然通常我不是)。一旦她开始管每次有人在房子里叫我的名字(“阿莉莎!”),我确信她是真正让我。
我预测吗?文化规划,也许对其他女人有偏见?或者,事实上,她吗?
自虚拟助理与苹果的介绍Siri在2011年,人们讨论是否他们不可否认女性特质呈现复古postfeminist,以及他们的存在在我们的生活中是否可能反映影响我们关系以及应对女性在现实生活中。他们是现代的仆人还是他们,事实上,坏蛋ladybosses运行房子吗?虽然科技公司让他们声称助理是谁不分配一个gender-Apple指Siri“它”,即使大多数的我们默认她/她pronouns-her名称和声音和她同时代的人,像亚马逊的Alexa和微软的Cortana,不可否认female-leaning。
和他们的集体女性不是没有后果:今年5月,联合国教科文组织发布了一份长达145页的报告关于人工智能领域的性别偏见,认为语音助手加剧性别刻板印象和性别歧视通过创建一个教学模式的“温顺和演员助手”,顺从和编程接受口头虐待。事实上,告诉Siri,她是“白痴”,她与温和的回应,“这听起来并不好。“提供一个道歉,她会容易接受。(Alexa点亮,丁氏当你扔一个诽谤她的听说你,但选择不回应,这可能不是更好吗。)
如果你认为它听起来很落后,行业推动的前沿技术似乎依赖于通信模型源于性别刻板印象,你是对的。联合国教科文组织报告指出几个原因的依赖。第一,女人是弱势在科技行业,导致大部分男性主导的团队构建这些技术。第二,性别刻板印象导致那些(男性)开发项目假设用户发现女性的声音更有吸引力。事实上,联合国教科文组织认为,如果人们喜欢female-sounding助手,主要是因为我们一直习惯于发出请求的女性感到更舒适。但不质疑这个条件,执行主任米利暗沃格尔说平等的人工智能非营利组织成立,地址和减少无意识的偏见在人工智能领域,“我们教我们的下一代双这些刻板印象。”
更重要的是,越来越多的人呼吁Siri, et al .,执行“情绪劳动”发泄他们当他们感到孤独或愤怒,顺便说一下,他们可能更倾向于使用经常使用语言,如果说,Siri岩石的声音。我15岁继子肯定会谈Alexa不同于他将如果她是他的父亲,但,说实话,我也是。当然,她是“只是一台机器。”,但“如果我们社交的人对待Alexa像她的存在无论我们在她的菜,我们规范这种互动,”说杰莎Lingel博士沟通在宾夕法尼亚大学的助理教授研究数字文化。”,即使这只是我们与人工智能的关系正常化,我们依靠人工智能,这可能是有问题的。它可以加强长期动态,男人的声音都是公开的,权威的,女人的声音是为了满足私下和被关闭。”
同时,研究也证实,Alexa之间的误解和我不仅仅是在我的脑海里。沃格尔表示,数据显示,这些设备不响应某些音调女性内在的声音。随着时间的推移,这可能会使女性比男性少,以及增加妇女的内在挫折与其他女人和自己。沃格尔已经看到这种动态的在家里当她的两个年幼的女儿和Alexa交流。“当她不理解他们,他们泄气了,他们不听,”她说。“他们生气,他们开始大喊。但是他们还让归化的现实,他们的声音,作为女性,不是同样有效。”
由技术到右课程(当然,消费者要求他们这样做)。今年早些时候,一群语言学家,技术人员,和声音设计师发布了一个来自美国和欧洲二进制数字语音叫问。“即将到来的一代会给大量的对这项技术,”朱莉说木匠,博士,研究员在加州和专家在人类行为与新兴技术,曾问:“如果他们的语音助理休息一个周末,他们伤心。的声音他们沉浸在做的事。人们可以解释一个二进制的声音无论他们想要的女性或男性或没有。就关于选择而不是空调。”
沃格尔喜欢问,但认为修复并没有这么简单,因为un-gendering AI是关于完善角色一样的声音。“一旦你问消费者认为助理替代人类,作为家庭的一部分,你有责任要体贴不仅听起来如何,如何相互作用,”她说。“电子援助不会毁灭人类,并使用它作为现在并不意味着我们所有的孩子会尊重别人少。但是我认为一个拼图的引擎盖下面看谁赚的科技,我们编程的意图,以及它如何会影响后来的人工智能系统。性别技术的长期影响,”沃格尔说,“是深远的。”
