首页| 站长资讯| 读书心得| 娱乐资讯| 电商资讯| 服装服饰| 面试技巧| 航空资讯| 求职招聘| 化工资讯| 戏剧歌舞| 家居生活| 旅游资讯| 更多

专访李开复:全球当前难以就AI治理达成共识

【发表时间:2020-06-28 20:19:10 来源:鸿发网】

在人工智能即将随第四次工业革命席卷全球的前夜,我们是否需要一份具有普世性的AI治理监管方案?李开复的答案是否定的。

在今年1月举行的世界经济论坛年会上,李开复当选为人工智能委员会的联席主席。他直言,新组织会对人工智能带来的隐私问题、技术不公正、失业问题进行讨论以期形成一些原则,但是“我觉得全球达成共识是比较困难的。”

李开复指出,各国对于问题的认知不同,规则太多会局限技术发展,“对于很多人认为我们需要一个全球的治理方案,我是采取反对(态度)或者应该说时候未到。

他进一步阐明态度,针对AI可能带来的风险,根本的治理办法在于让技术先行,如果出现问题再制定规则约束,而不是首先针对AI立法。

“比如我们真的把腾讯每个部门的数据都切分了,每个用户可以选择给或不给(数据),那么腾讯的AI就很难做了,因为只有汇集数据才能做到最好的AI。”他举例道。

中国2017年的AI初创融资额已超过美国,位居全球第一;同时中国的AI应用也走在世界前列,移动支付、新兴资讯和短视频产品都离不开AI。李开复认为,除了互联网领域,零售、金融和物流等领域将是AI普及的下一站。

“科研上我们还离美国很远,从最顶级的人工智能专家(数量)来说,美国是我们的11倍,但是从人工智能的产值来说,从人工智能的独角兽来说,从人工智能的普及度来说,我们一点也不落后于美国。”

但是一片欣欣向荣的背后,调整也即将到来。

李开复指出,“当下资本市场有一些挑战”,他预计2019年中国的AI融资额很有可能低于美国。“但是这不用担心,我觉得其实都是一个周期”。

风雨欲来,AI行业是否会经历洗牌?用李开复谈创新工场超募的一句话作为本文结尾,“这个时候就不要贪心”。

全球当前难以就AI治理达成共识

新浪财经:祝贺您当选世界经济论坛人工智能委员会的联席主席。世界经济论坛AI委员会的核心议题是什么?欧盟最近出炉了一份AI道德准则草案,您觉得是否需要在全球范围推广此类做法

李开复:人工智能本身是一个新技术,普及得很快,也会带来很多挑战,比如说隐私(问题)、(技术)不公正、对人类工作的取代等,以及怎么确保它不会被黑客攻入,这些问题我觉得确实都值得面对。

我们这个人工智能委员会,就是要针对这些问题做一个原则性的讨论。世界经济论坛的好处就是它是一个跨领域、跨国家的平台,所以可以把各个领域、各个国家的人聚集在一起,对这些问题做讨论。

但是我觉得,(要建立)一个有关全世界的共同的宣誓或者共同的约束,是短期很难做到的。

因为AI还是一个很新的技术,怎么去治理它,我觉得我们还不清楚。而且每个国家跟每一个文化它对很多事情的认知都不一样的,比如说欧洲会认为隐私是人权的一部分,但是在美国可能不会这么认为,欧美之间都没有共识。所以我觉得全球达成共识是比较困难的。

我觉得大家聚集一堂的好处,就是可以求同存异,至少有一些原则我们应该是有共识的,比如说应该尽量地透明化,让用户知道产品是怎么使用这些数据。

不过,这个原则我们统一之后,欧洲可能会出台很多(相关)法律让产品做许多工作,但是也许别的国家不一定会做得这么极端。基于以上原因,对于很多人认为我们需要一个全球的治理方案,我是采取反对(态度)或者应该说时候未到。

即便是全球有共识的约束,也可能不会是从世界经济论坛发出的。世界经济论坛应该是聚合各方面专家的知识,然后把这些知识归纳成一些全球达成共识的基础原则,基于反馈看看这些原则能不能逐渐地推广。

但是实际的法律是由每一个国家来制订,只有每个国家的政府才有权去做这些规则的治理。

过度的隐私保护对用户是一种骚扰

新浪财经:您这个观点和马云先生很像,他也说在数据时代方面,他不是一个喜欢regulation first(规则优先)的人,就是不希望规则走在了发展的前面。

李开复:规则过度先行会限制这个技术的发展。比如说我们看国内的移动支付能够这么快速地普及,其实就是政府采取了这样的一个态度:让技术先出来,发展技术为主,但是随着技术的发展,如果看到了潜在的问题,可以出台新的规则或政策来管理它,确保消费者不会受伤。

在移动支付这个领域,腾讯、阿里和蚂蚁金服都做得非常好。所以我们今天能够享用到移动支付,可以把我们的信用卡丢掉了,现金也不用带了,就是来自这样的一个理念。

但是我觉得欧洲跟美国并不见得是这样看待问题的,尤其欧洲会很强烈地认为一定要出台法律来限制各种公司,每个人(消费者)不但要被告知一切,而且把很多最后的抉择丢到让个人(消费者)来决定,个人(消费者)不允许你(公司)就不可以做这件事情,数据要放到个人(消费者)的手中。

(如果)每一个人拥有自己的数据,我可以(选择)把我的数据给微信不给QQ音乐。但是,随着数据的去中心化,当我们的颗粒化做到这种细腻的地步的时候,我们其实对用户带来的是一种骚扰,因为大部分用户没有这种细颗粒度的需求,而且每一个国家跟文化对这一类的隐私可能也会有不同的看法。

还有最严重的,比如我们真的把腾讯这个公司里面的每个部门的数据都切分了,每个用户可以选择给或不给,那么腾讯的AI就很难做了,因为只有汇集数据才能做到最好的AI。

所以我会认为,除非我们看到哪些公司真正伤害到了大批消费者利益的时候,再来考虑如何能够平衡这两者(技术发展和隐私保护)。

我们鼓励让技术继续发展,公司继续发展,这样我们国家的竞争力才会强,与此同时,(思考)相关的、适度的隐私保护规则也可尝试建立起来。这两者是平衡的、与时俱进共同发展的关系。

伦理道德不是AI的问题而在于人

新浪财经:提到规则和新兴的科技领域,谁在前谁在后的逻辑上的讨论,我想到近期中国诞生世界首例基因编辑婴儿,引起了关于在全球范围建立相应道德准则和安全标准的讨论。其实AI领域也存在许多争议话题,我们也会想到它与人伦的关系。

如果我们不是规则在前,是否我们也会发生像这种基因编辑婴儿的情况

李开复:还是得具体问题具体分析。我们(在WEF年会)有一场讨论会就是讨论这个问题,那肯定是在一些有关人命或者是伦理道德的(问题)上面,我们是可能需要去治理,但这不一定是先要立法。

比如我们讨论的例子是,如果无人机加上人脸识别再加上一点炸药,就变成了一个暗杀机器。这个机器如果是在恐怖分子或者两个敌对国家的手中,然后(如果)他一次发出10万台这样的无人机,不经过人而直接用机器来决定杀人,这就会触及伦理的底线。

但是从治理的角度来看,这个问题不在于AI对不对,问题是在我们怎么管制武器。如果说做了一个国家不允许持有的武器,那么这个武器肯定是非法的,根据这些(武器管制)法律的延伸(管理),是处理这个问题更好的方法。或者,我们可以把无人机的飞行范围做一个限制,然后国家用军事的方法来确保无人机不会大量地进入某些区域。我觉得这才是治理的方法。

还有一种方法是欧洲提出的,同时美国也比较认可的,就是每一个军队在用武器或者国家用武器要伤人命的时候,必须是一个人来做决定,不可以让机器来做决定。我觉得这也未尝不是可以考虑的,但是我们还是要想到,这不是一个AI的问题,这是一个我们愿不愿意用机器去直接执行军队需要做的任务的问题。

新浪财经:就是AI不分好坏,科技不分好坏,最终还是落到人的身上。

李开复:对,当然AI在里面是一部分,在你编写这个AI程序的时候,你就会有一些约束。如果说是国家决定不能由程序来直接决定扣扳机,那么写这个程序的时候你就必须按照这个规则来写,只能让人来做这个决策。

这是一种方法,但是我觉得其实也未必是唯一的方法,也许有一些自动的方法来确保这些事情不会发生,我们在讨论的时候有一位先生提到,可能未来的操作系统或者未来的硬件能够确保这一类的事情不会发生。

创新工场为何可以寻到独角兽

新浪财经:近年来,创新工场已经投资出了多家人工智能领域的独角兽公司。创新工场如何捕捉到这些AI领域的独角兽的?在您看来,它们通常具备什么素质

李开复:创新工场的AI投资逻辑,是考虑(对方)科技的领先程度,团队的人工智能的真实能力,然后考虑到这个市场是否存在,是否有这个强需求,我们会同时考虑这两件事情。

刚开始的那两年的投资,也就是在AlphaGo之前,我们可能更看重的是人,因为当时懂AI的人是一个非常稀缺的资源,那能找到很牛的人就意味着我们有技术的竞争壁垒,然后我们再帮他找商业应用。比如旷视科技、第四范式、Momenta、文远知行等等,都是很好的例子。

但是,随着AlphaGo的发生,导致了更多的人工智能的普及,还有人工智能平台的门槛的下降,现在不像以前,可能只有1000个AI专家,现在可能有100万个AI的工程师,那很多AI的问题其实工程师足够就可以解决了。

所以我们现在考虑投资的时候,可能在那些不是特别难的技术领域里面,会首先考虑到这个公司它的商业能不能做好,它的CEO是不是一个企业家,能不能把产品卖出去,而且AI是一个2B的生意,2B的销售很有挑战,所以我们会希望这个CEO能够带领出一个2B的队伍。

比如说我们最近投资的创新奇智就是一个典型的例子,它技术能力强,但是并不是靠独特的技术,而是靠它更贴近用户的需求、市场的需求,然后能够把这个产品卖出去。所以随着时间改变,我们的投资的方式也一定要很灵活地调整。

零售、金融和物流等将是AI普及的下一站

新浪财经:哪些AI技术的应用是值得大众更多关注的?可能会很快地出现在我们的日常生活中

李开复:关于人工智能来到大家身边,这个我觉得(大家)会非常快地看到。其实你在做每一次的(移动)支付行为的时候,背后一定是阿里跟腾讯的很多人工智能在了解你会买什么,这些逻辑会帮你更方便地找到你想要买的东西。

我们看到最近崛起的抖音,它其实(背后)也是一个人工智能团队,它才能够有针对性地知道谁喜欢看什么,谁喜欢哪个网红;今日头条本身其实也是,所以其实应用人工智能是整个互联网很重要的一部分。

再比如说快手的CEO宿华是以前是在Google做人工智能的,拼多多的黄峥以前也是在Google做这方面的。也许你在用这些产品的时候不感觉到是人工智能,但背后都是有人工智能在筛选,帮你做针对性的投放,让你的体验更好,也帮公司赚更多的钱。

在互联网领域之外,我觉得在金融领域会看到很多人工智能公司的崛起,包括银行、量化投资、保险等。

零售领域可能会是下一个领域。人脸识别只是一个开始,我觉得更多的物体的识别和它可以延伸的应用会非常普及,例如Amazon Go,阿里、京东做无人商店,包括我们投资的永辉云创也是在往这个方面迈进。

再往下可能就难度会稍微大一点,前面这几个领域是可以更快速看到投资回报的,再远一点,可能会看到制造业、医疗、出行、无人驾驶等等,还有一个很重要的领域会是仓储和配送,后者可能会比一个全自动的无人驾驶要来得更容易一些。

我们可能看科幻片看得比较多,都看到最终极的解决方案,那可能会要往回延伸,说今天能做到的是什么

比如说我们看到可以到任何地方的L5级别的无人驾驶,这是一个终极目标,可能需要20年。但例如具自动驾驶技术的货车在城际高速公路上运输货物,这应该是更快可以做到,这个货车它的货自动搬运进去,这个货在仓库里面自动被无人叉车叉出来。

还有在我们收到各种快递的时候,里面的货一个一个都是机器人(17.390, 0.12, 0.69%)拣出来,而不是人拣出来,这些相对来说就要比无人驾驶容易很多,而且产值其实还是很大。

“今年中国AI融资环境面临挑战,但不用担心”

新浪财经:您提到这些场景的应用非常广泛,然后我感觉我的生活中,包括了解的一些产业中已经有所应用了。我们可不可以总结说中国在AI应用方面是全球领先的

李开复:就AI应用层面来说,我觉得中美目前是两个最领先的经济体,甚至有一位美国的MIT教授就跟我说,他说30年前他从欧洲到美国觉得看到了未来,今天他从美国到中国也感觉看到了未来。因为他看到了我们的移动支付,看到我们手机上各种应用,看到了我们的共享单车,这些应用都是他过去没有想到的。所以我觉得(中国)应该是已经走到全世界的最尖端。

我最近出的书《AI·未来》,其实里面谈的也是这一点,就是中国的人工智能真的是应用方面已经走在世界的最尖端,有时候网上有些文章谈到这个的时候,下面评论还是很多人说“开复太乐观了,怎么可能”?因为总是觉得中国离美国有很大的差距,但是我们真的要提醒自己的就是,科研的差距跟应用的差距不一定是一样的,而且在这个例子上是绝对不一样的。

科研上我们还离美国很远,从最顶级的人工智能专家(数量)来说,美国是我们的11倍,但是从人工智能的产值来说,从人工智能的独角兽来说,从人工智能的普及度来说,我们一点也不落后于美国。

新浪财经:我留意到一个很有趣的数据,CB Insights去年的报告指出,2017年中国AI创业者获得的融资额已经超过美国,位居全球第一,您认为这个差距还将继续增大吗

李开复:短期不会拉大,因为今天的资本市场有一些挑战,去杠杆和其他的事情导致一些基金手中钱变少了,那么这个一定会影响到融资状况的,所以我觉得2019年我们的总融资额或者AI的融资额是很有可能比美国低的。但是这不用担心,我觉得其实都是一个周期。

“融资要理性,不要太贪心”

新浪财经:我看到有报道提到说,您曾经不得不“劝退”一些投资人,因为您认为融资太多会出问题。做出这样的选择,您是出于什么考虑

李开复:一个基金如果它的投资方向比如说投A轮的,那么它要负责地在三年内把这个钱投出去,如果融了太多的钱,三年投不出去,那这样的话对以后的信誉是有影响的。

例如你本来要融比如说5亿美金,然后你融了10亿,但是三年就只投掉了5亿,之后投资者就会觉得说我帮你留了这一笔钱,最后你只拿去了一半,另外一半我存在这边很不划算。所以我觉得还是要把这个budget(预算)算好,就是我们能负责地投出多少。

其实国内国外都一样,顶级的基金都是处于超募状态,这个时候就不要贪心。【责任编辑/李小可】

(原标题:专访李开复:全球当前难以就AI治理达成共识)

来源:新浪财经

最新新闻
图片新闻
新闻推荐