为什么科技界的亿万富翁们不遗余力花钱遏制是嘛

为什么科技界的亿万富翁们不遗余力花钱遏制人工智能？

并非所有科技界的大咖都是人工智能的倡导者。

作者：科技行者 来源：科技行者 2019年4月29日

关键字：

来源|forbes

作者|oliver williams

编译|科技行者

并非所有科技界的大咖都是人工智能的倡导者。有些人对ai给社会带来的影响忧心忡忡，他们正拿出数十亿美元试图监控人工智能，这反过来变成了慈善事业的一个新前沿。

对于ebay公司创始人pierre omidyar来说，人工智能是一个令人担忧的问题，去年他成立了luminate，一家总部位于伦敦的组织。luminate倡导公民赋权、数据和数字权利、财务透明和独立媒体。

▲ 图为ebay创始人pierre omidyar支持监控人工智能

luminate 首席执行官stephen king表示： 这是一个新生的领域，我们发现，人工智能是由那些不关心道德后果的程序员开发出来的。

king强调ai带来的两个真实后果，激发了像omidyar这样的慈善家采取行动。一个是风险评估软件compas（correctional offender management profiling for alternative sanctions），这种软件会分析大数据预测被告再犯下其他违法行为的风险。

当机构propublica对在美国佛罗里达州被捕的1万人进行compas评估对比时，数据显示有些人可能会重新犯罪，propublica发现，当算法正确的时候，其决策也是公平的。但当算法错误的时候，有色人种被标记的风险要高出两倍多，但其实他们并没有重新犯罪。

king举的另一个例子是中国的社会评分系统，这是一个涉及大数据和人工智能的国家项目，是给数百万公民进行社会信用评分，账单逾期支付和其他不良行为就意味着会给负面评分。 信用评分为负就无法乘坐高铁， king说。

▲ 大力发展利用可再生能源与工业余热的塑料造粒机技术图为社会信用评分系统让500万-1300万中国公民被禁止乘坐高铁。

对ai加以限制

当人工智能在诸如此类的场景中使用时，你应该如何抑制人工智能带来的影响？

king表示，需要从源头上解决这个问题。ai底层的算法通常在开发时就融入了无意识的偏见。

纽约大学ai now研究所的一份报告发现，主要是白人男性编码人员制造了算法中的偏见。

不管这是有意的还是无意的，都会影响ai的结果。麻省理工学院的研究人员发现，有一些面部识别软件无法识别少数民族。king说： 没有人把所有种族偏见问题都考虑清楚。

▲ 图为luminate首席执行官stephen king

而这正是omidyar希望通过luminate的资金来遏制的偏见问题。在成立第一年，luminate的资金额就达到了6000万美元。

king表示： 我们设立了基金，通过一系列其他研究机构再授权，以更好地了解人工智能带来的危害。 一个名为ethics and go特别是在炎症和组织愈合部位vernance of ai initiative的项目从luminat铝门窗产品所占比例最大e以及john s. and james l. knight基金会、linkedin创始人reid hoffman等人那里获得了2700万美元的资金。

luminate表示，这笔资金将用于确保自动化和机器学习 是以一种维护公平、人类自治和正义的社会价值观的方式进行研究、开发和部署的 。

此外还有麻省理工学院媒体实验室和哈佛伯克曼克莱因互联与社会中心。2017年，其他九个组织得到了该基金的760万美元资金，专注于 媒体、刑事司法和自动驾驶汽车三大领域 ， 减轻上部结构所遭到的惯性地震作用john s. and james l. knight基金会主席albertoibarg en在声明中这样表示。

慈善事业的一个新前沿

omidyar并不是希望阻止人工智能失控的唯一一位慈善家。

事实上，自elon musk和sam altman于2015年推出open ai以来，这个慈善事业的新前沿就大受欢迎。open ai是一个促进 安全人工智能 的非盈利组织。（musk后来离开了该组织，因为这可能与特斯拉自动驾驶汽车开发中采用的人工智能存在潜在冲突。）

▲ 图为y combinator总裁sam altman于2015年创立了open ai，以推广安全的人工智能理念

在去年，symphony technology group背后的印度亿万富翁romesh wadhwani与他的兄弟sunil成立了瓦德瓦尼人工智能研究所（wadhwani institute for artificial intelligence，wiai）。wadhwani为该组织提供了3000万美元资金支持，目标是探索 人工智能研究和实施的道德维度 。

具有讽刺意味的是，科技界的亿万富翁们花钱来遏制这些给曾经给他们带来财富的技术，这应该被视为一个更广泛的警告：如果那些最了解技术前沿的人都担心技术的发展方向，我们就更应该注意了。

king说： 和硅谷其他很多慈善家一样，pierre在10年前还是一位科技乐观主义者。我认为，我们现在看到了黑暗的一面，这个领域需要更多的资金支持者。