研究：AI系统存在种族歧视倾向
发布时间：2021-09-17 19:07:32 所属栏目：大数据 来源：互联网
导读：美国普林斯顿大学的研究者发现，人工智能系统可能会有种族歧视的迹象。该项研究表明，机器人对于白人名字感觉 喜悦 ，而对于黑人名字却表示出 不悦 。这项研究涉及一项具有自学能力的人工智能系统--GloVe。该系统能够识别并且理解在线文段。 我们试验这些被
|
美国普林斯顿大学的研究者发现，人工智能系统可能会有种族歧视的迹象。该项研究表明，机器人对于白人名字感觉 喜悦 ，而对于黑人名字却表示出 不悦 。这项研究涉及一项具有自学能力的人工智能系统--GloVe。该系统能够识别并且理解在线文段。
我们试验这些被广泛使用的、纯粹数据化的机器学习模型，并且利用网络上的语料库对其进行训练。 研究报告说。在相关的任务中，这一系统要将诸如 花朵 和 昆虫 之类的词与另外一些被科学家定义为 令人喜悦的 或 令人不悦的 词进行配对。
不过，当研究人员将一串听起来像黑人的白人名字输入到GloVe系统时，这个机器人却显示出严重的种族主义。这一智能系统将普遍使用的白人名字识别为 令人喜悦 的词，而非裔美国人的名字却被划为 令人不悦 的词。
研究人员认为，这是人们隐藏在互联网数据中的偏见，然后被机器人学习。 我们的研究结果表明，语言本身也包含了历史性歧视的精确印记。 研究人员说。
 （编辑：我爱故事小小网_铜陵站长网） 【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容! |
浙公网安备 33038102330570号