封面对话尤瓦尔·赫拉利:糟糕的算法应该受到相应的监管

  十二年前,《人类简史:从动物到上帝》一书出版,立刻风行全球,畅销多年。十二年后,尤瓦尔赫拉利携着新书《智人之上》前来,这一次,他要探讨和思考的,是这个被算法和平台裹挟,被人工智能隐隐威胁到的、全新的大变局时代,这个时代背后的历史逻辑,以及最终人类社会将走向何处。

  近日,凤凰网财经《封面》与尤瓦尔赫拉利展开了一场深度采访,围绕人工智能会不会最终颠覆人类的碳基世界,算法和信息茧房对人类社会的隔绝危害等展开了问答。

  尤瓦尔赫拉利指出:“糟糕的算法对人类的危害可能与有毒食品、劣质药品和不安全的汽车一样,它们应该受到相应的监管。”

  他以汽车工业为例,当汽车公司决定生产一种新车型时,他们在安全方面投入了预算的很大一部分。他们确保刹车和安全带正常工作,确保汽车在潮湿的道路上不会打滑,如果发生事故,汽车会保护乘客,不会轻易爆炸。如果汽车公司忽视了安全问题,消费者可以起诉它,要求赔偿损失,政府可以阻止它销售不安全的汽车。政府甚至还可以监管安全的汽车。博鱼体育官网有许多法律限制汽车的行驶区域和速度。

  尤瓦尔赫拉利表示,同样的标准也应该适用于算法。当一个公司生产出一个强大的新算法时,也许所有研究预算的20%必须用于确保该算法不会对人们造成任何社会或心理伤害。政府应该规范如何使用安全的算法。目前的情况是,公司在没有任何安全检查和规定的情况下向公众领域发布他们喜欢的任何算法,这是不可接受的。