查看完整版本: [-- 谷歌公布AI七项原则，表示不会制造武器，但是… --]

秋无痕论坛 -> 『系统安全综合区』 -> 谷歌公布AI七项原则，表示不会制造武器，但是… [打印本页] 登录 -> 注册 -> 回复主题 -> 发表主题

hexj9 2018-06-09 15:56

北京时间6月8凌晨，Google CEO桑达尔·皮查伊（Sundar Pichai）宣布了他们使用人工智能的七项原则，以及四条底线。
这是3月Google被披露与军方合作，引起大量员工抗议，受到各路抨击后，劈柴叔首次正式回应。这些原则依然符合Google一路以来的价值观，也提到了不会将人工智能技术用于开发和制造武器，但并没有说将会停止与军方的合作。
这七项基本的原则是：
1.对社会有益。
2.避免制造或者加深不公平的偏见。
3.在开发中进行测试以确保安全。
4.对人类负责。
5.隐私原则。
6.坚守对卓越科学的追求。
7.在使用中考虑首要用途、技术的独特性及适用性、使用的规模这三个因素。
四条底线是：
1.对于那些将产生或者导致伤害的整体性技术，我们会确保其利大于弊，并将做好确保安全的相关限制。
2.不会将AI用于制造武器及其它将会对人类产生伤害的产品。
3.不会将AI用于收集或使用用户信息，以进行违反国际公认规范的监视。
4.不会将AI用于违反国际法和人权的技术开发。

▲Google CEO桑达尔·皮查伊
劈柴叔还说道：
我们想要澄清的是，我们没有将人工智能技术用于开发武器，我们将继续与政府和军方早其他领域保持合作，比如在网络安全、军事训练、军队招聘、退役军人康复、搜寻救援等方面。
Google这次的回应，算是给这项三个多月来备受争议的话题来了一个终结。
今年3月，Google被披露与美国国防部在一个被称为「Project Maven」的军事项目上合作，Google为其提供利用人工智能技术分析由无人机拍摄的影像，以提高军事无人机的精准打击度。
随后有超过3000名Google员工联名给Google CEO桑达尔·皮查伊写了一封公开信，要求Google退出这个项目。公开信里写道：
我们相信Google不会参与战争有关的生意。
我们要求取消Project Maven项目。并且要求Google起草、公开以及执行一个清晰的道德政策，那就是无论Google本身还是Google的合作商，都不会发展战争技术。
4月份，超过400名科学家再次联名上书。到了5月份，已经有十多名Google员工由于「Project Maven」与他们的价值观相悖，提出了离职。

虽然Google与五角大楼都出来澄清，这次合作只会被限制用于“非进攻性目的”（non-offensive uses only），但这并不能说服他们。毕竟战争充满谎言，他们担心这种技术一旦被军方获取，除了会用来搜救、侦查，也有可能用来发射武器。

hexj9 2018-06-09 15:56
6月1日，Google云的负责人戴安·格林（Diane Greene）在一次例会中向员工表示，Google与美国官方签订的Project Maven合同将在明年到期，届时Google将不再续约。
Google与军方的合作，可以说是双向需求。
一方面，美国五角大楼对硅谷在人工智能方面的创新人才一直虎视眈眈。Google的TensorFlow，从2016年开始，就在GitHub上成为了广受欢迎的机器学习开源项目。DeepMind近些年在AlphaGo等项目上的研究，也一直在人工智能领域中保持领先。
Alphabet董事会成员埃里克·施密特曾经说过，
美国军方对顶尖人工智能技术有着强烈的需求，而研究这些技术最厉害的人，很大一部分在Google。
对了埃里克·施密特，还曾经担任美国国防创新委员会主管，帮助五角大楼与硅谷的高科技公司合作，他在科技界跟美国政坛都混得很开。

另一方面，一直依靠广告作为收入的Google，持续高涨的流量获取成本让公司的财报越来越尴尬，而云计算、硬件这些业务虽然进展喜人，但依然不能在短期内成为支撑营收的大头。
因此，这份来自五角大楼的大订单，有媒体披露金额为数十亿美金，同时还有微软、亚马逊等巨头参与竞争，这么大一块肥肉，怎么可以轻易放手。不过去年9月，Google的高层在面对这笔跟军方的大交易时，也有讨论过是否应该披露。
业界对于人工智能被用于制造武器的担忧一直存在。去年8月，特斯拉CEO埃隆·马斯克与Google旗下DeepMind联合创始人穆斯塔法·苏莱曼（Mustafa Suleyman），以及26个国家的一百多名人工智能领域专家共同向联合国发表了一封联名信，希望能禁止有关杀人机器人的研究和使用。
而这次Google公布人工智能的使用原则后，DeepMind的穆斯塔法依然是在社交网络Twitter上呼吁各国政府关注科技的发展，关注全自动武器的制造和使用，着手制定相关的国家法规。
杰夫·迪恩（Jeff Dean）作为Google AI的负责人，在吀眀椀琀琀攀爀上转发了这几项原则表示欢迎，还向公众分享了他们践行这些原则的技术实践指导。

大话足球 2018-06-09 16:49
来了解一下

hexj9 2018-06-10 09:00
这个可以看看，了解一下。

itisif 2018-06-12 05:26
这个了解一下

luoyj 2018-06-12 08:08
这对谷歌来说是个免费的广告。


查看完整版本: [-- 谷歌公布AI七项原则，表示不会制造武器，但是… --] [-- top --]



Powered by PHPWind v7.3.2 Code © 2003-08 PHPWind
Time 0.026721 second(s),query:3 Gzip enabled

You can contact us