AI是否有变得过于男性化的危险？

在arXiv中，只有13.83％的AI作者是女性，相对而言，自1990年代以来，至少有一名女性共同撰写的AI论文的比例没有改善。

胡安·马特奥斯加西亚，内斯塔和Joysy约翰，内斯塔人工智能（AI）系统每天都在变得更聪明，在击败世界冠军游戏，像围棋，识别医学扫描肿瘤比人类的放射科医生更好，增加电力饥渴数据的效率中心。一些经济学家正在将人工智能的变革潜力与其他“通用技术”进行比较，例如蒸汽机，电力或晶体管。

但是当前的AI系统远非完美。它们倾向于反映用于训练它们的数据的偏差，并在遇到意外情况时崩溃。我们可以通过社交媒体上的错误信息，在YouTube上发布的暴力内容或著名案例Tay（Microsoft聊天机器人）围绕争议进行游戏，这些案例被操纵以在几小时内做出种族主义和性别歧视言论。

那么，我们真的要把这些容易产生偏见的脆弱技术变成明天经济的基石吗？

降低风险
最小化AI风险的一种方法是增加参与开发的团队的多样性。正如有关集体决策和创造力的研究表明的那样，在认知上更具多样性的群体倾向于做出更好的决策。不幸的是，这与当前正在开发AI系统的社区的情况相去甚远。缺乏性别多样性是这一方面的一个重要（尽管不是唯一）方面。

AI Now Institute在今年早些时候发表的一篇评论显示，在享有盛誉的AI会议上申请的研究人员中只有不到20％是女性，而在斯坦福大学和加州大学伯克利分校学习AI的本科生中只有四分之一是女性。

作者认为，这种性别多样性的缺乏导致了AI失败，该失败仅影响女性，例如亚马逊的招聘系统被证明歧视女性名字的求职者。

我们最近的报告《人工智能研究中的性别多样性》对arXiv中的150万篇论文进行了“大数据”分析，arXiv是AI社区广泛用于传播其工作的预印本网站。

我们分析了摘要文本，以确定哪些人工智能技术可以应用，从作者姓名推断作者的性别，并研究了人工智能中的性别多样性水平及其随时间的演变。我们还比较了不同研究领域和国家的情况，以及与女性合著者和全男性论文之间的语言差异。

我们的分析证实了人工智能研究中存在性别多样性危机的想法。在arXiv中，只有13.8％的AI作者是女性，相对而言，自1990年代以来，至少有一位女性与他人合着的AI论文的比例没有改善。

国家和研究领域之间存在重大差异。在荷兰，挪威和丹麦，我们发现女性在人工智能研究中的代表人数较多，而在日本和新加坡，女性的代表人数较少。我们还发现，与从事计算机科学或数学工作的女性相比，从事物理，教育，生物学和计算社会方面工作的女性更有可能发表有关人工智能的著作。

除了衡量AI研究人员的性别多样性外，我们还探讨了有女性参与和没有女性参与的研究论文之间的语义差异。我们检验了以下假设，即性别多样性更多的研究团队倾向于增加AI研究中考虑的问题和主题的多样性，从而可能使其产出更具包容性。

为此，我们使用一种称为单词嵌入的机器学习技术对每篇论文的“语义签名”进行了测量，并将这些签名在至少有一位女性作者的论文与没有任何女性作者的论文之间进行了比较。

这项针对英国机器学习和计算社会领域的分析表明，这两组之间存在显着差异。特别是，我们发现与至少一位女性合著者的论文倾向于被更广泛地应用和社会关注，这些术语包括“公平”，“人类流动性”，“精神”，“健康”，“性别”和“个性”扮演关键角色。两组之间的差异与以下观点一致：认知多样性会影响所进行的研究，并表明这导致人们对社会问题的参与度增加。

如何修复
那么，如何解释人工智能研究中持续存在的性别鸿沟，对此我们能做些什么呢？

研究表明，科学，技术，工程和数学（STEM）劳动力中缺乏性别多样性并不是由一个因素引起的：性别定型观念和歧视，缺乏榜样和指导者，对工作与生活平衡的重视不足，技术行业中的“有毒”工作环境共同创造了一场反对性别包容的完美风暴。

要缩小人工智能研究中的性别差距，没有简单的解决方法。旨在创建安全和包容性空间以支持和促进代表性不足的研究人员的系统性变革，研究和行业中态度和文化的转变以及在许多领域更好地交流AI的变革潜力都可以发挥作用。

政策干预措施，例如政府投资1,350万英镑通过新的转换学位课程来提高AI角色的多样性，将在某种程度上改善这种状况，但是需要更广泛的干预措施，以在艺术，人文与AI之间建立更好的联系，改变谁可以在AI中工作的形象。

尽管没有任何单一的原因导致女孩在继续学习过程中不成比例地停止学习STEM科目，但有证据表明，因素包括围绕性别的普遍定型观念和教学环境，这对女孩的影响比男孩更大，这是造成女孩问题的原因。我们还必须展示那些使用AI发挥积极作用的榜样。

旨在解决这些问题的一项切实干预措施是经度探索者奖，该奖鼓励中学生使用AI解决社会挑战并与AI中的榜样一起工作。我们希望年轻人（尤其是女孩）认识到AI的良好潜力及其在推动变革中的作用。

通过增强对年轻女性的技能和信心，我们可以改变在AI中学习和工作的人的比例，并帮助解决AI的潜在偏见。