新智元报道
新智元报道
来源：WSJ
编辑：好困
【新智元导读】DeepMind在算法伦理上的「自治」梦宣告破灭，谷歌企图进一步加强对人工智能的控制。技术上没有偏见的世界是不是越来越远了？
谷歌的人工智能部门DeepMind多年来一直在与母公司Alphabet谈判，希望获得更多自主权，为人工智能的研究寻求一个独立的法律架构。
然而DeepMind在上月末告诉员工，谷歌取消了相关谈判。
这些旷日持久的谈判并没有被报道过，而谈判的结束，也印证了谷歌等科技巨头要加强对人工智能研究和发展控制的意图。
巨头对人工智能技术的垄断和我们有什么关系？
人工智能的伦理道德
有关技术的伦理道德是入学的必修课之一，这个词看起来很生僻拗口，但实际上不仅涵盖的内容很广泛，也离我们的生活很近。
比如，就在今年5月，有研究发现推特的长图裁切算法被发现更偏向于识别白人。这种算法的偏见，实则也是算法伦理中一个方面的体现。
这是推特裁切之后的图
看到这张图，其实很难意识到被裁切之前是什么样子的。直到...
这是原图
这个实际测试的效果远比新闻上看到的文字描述更为震撼。
从来没有想到过，奥巴马就这么被算法完全忽略掉了。
我们增加深色朋友的数量试试？
你猜效果如何？
以数量取胜的尝试失败了。
我们把白人换成白色的动物，这样算法总可以正确地识别了吧？
实际结果却令人大跌眼镜。
算法在白色面前，连人都不认了？
那我们都换成动物呢？
全是动物也这么夸张？
对于推特这个算法，也能从侧面看出一些端倪：巨头对于技术的垄断是一种潜在的危险。
然而，西方的巨头在技术上产生的偏见其实远远不止于此。
于是，一些做相关的研究的公司表示，自己在试图避免被强加这种控制。至于真实与否，他们是这么说的。
试图脱离来自谷歌的制约
DeepMind成立于2010年，其目标是构建先进的人工智能系统，并于2014年被谷歌收购。
DeepMind在官网上表示：「在安全和伦理的指导下，这项发明可以帮助社会找到解决世界上一些最紧迫和最根本的科学挑战的答案。」
DeepMind的创始人试图寻求非营利组织使用的法律结构，理由是他们正在研究的强大的人工智能不应该由单个公司实体控制。
早在2015年，DeepMind的负责人就与员工讨论了确保更多自主权的问题，其法律团队正在为新结构做准备。
DeepMind的联合创始人穆斯塔法·苏莱曼是谷歌人工智能伦理监督委员会成员
这次谈判的破裂，可能也就预示着DeepMind想要在伦理上实现「自治」，基本是不可能的了。
谷歌在算法伦理上的缺失
2016年，谷歌成立了一个监督DeepMind Health的委员会。成立两个月后，DeepMind Health承认在没有告知的情况下，查看了英国160万患者的记录。
当年11月，谷歌宣布将DeepMind Health的著名医疗应用程序Streams给各地护士和医生使用，而这引起了英国公共卫生界对隐私的担忧，因为谷歌和DeepMind之前保证不会共享健康记录。
该委员会于2018年底被解散了。
2019年，谷歌发起了另一个独立委员会，试图指导其人工智能相关工作。一周后，在关于委员会组成的抗议声中，它解散了该委员会。
2021年2月，谷歌宣布将人工智能伦理小组扩大两倍，并承诺提高负责评估代码和产品的团队的运营预算，以避免人工智能的伤害、歧视和其他问题。
谷歌首席执行官皮柴（Sundar Pichai）称人工智能是公司未来的技术钥匙，而母公司在人工智能上投资了数十亿美元。
不过从实际表现中来看，谷歌或许更在意人工智能给公司带来的利益，而对于用户隐私之类的事情都得往后稍一稍。
欧盟推出法律以限制人工智能的滥用
欧盟于今年4月提出了一项新的关于人工智能的法案。
法案中包含一份人工智能高风险用途清单，其中上面列举的用途将接受新的监督和标准，如关键基础设施、大学招生和贷款申请。
监管机构会针对产生相应的违规行为的公司处以最高年收入的6%的罚款。
与此同时，欧盟希望限制警方使用面部识别，并禁止使用某些类型的人工智能系统，这是迄今为止监管人工智能高风险应用的最广泛努力之一。
参考资料：
https://www.wsj.com/articles/google-unit-deepmind-triedand-failedto-win-ai-autonomy-from-parent-11621592951
https://www.boredpanda.com/twitter-image-centering-algorithm-racist/?utm_source=google&utm_medium=organic&utm_campaign=organic
https://www.wsj.com/articles/artificial-intelligence-facial-recognition-face-curbs-in-new-eu-proposal-11619000520?mod=article_inline
https://www.wsj.com/articles/google-quietly-disbanded-another-ai-review-board-following-disagreements-11555250401?mod=article_inline
原文地址：点击此处查看原文