对话《人类简史》作者尤瓦尔：我们需要防止人工智能失控，确保其符合人类价值观

“2024 ESG 全球领导者大会”于 10 月 16 日-18 日在上海举行。新浪财经欧洲站站长郝倩与知名历史学家、哲学家、《人类简史》、《智人之上》作者尤瓦尔・赫拉利展开对话。

尤瓦尔认为，人工智能（AI）的崛起是人类所面临的一大挑战。但不可否认的是，人工智能能够造福人类的观点同样存在。在被问题及，在可持续发展的社会中，人工智能应该扮演什么角色时，尤瓦尔表示，如果能够防止人工智能失控，确保它能符合人类的价值观，那么人工智能可能会成为人类历史上最好的发明。

“因为到那时，它的巨大力量将服务于人类社会，而不是危害人类社会”，尤瓦尔举例说，诸如医疗保健等领域，目前没有足够数量的医生为病人服务，而人工智能医生可以在这方面提供巨大帮助。

此外，尤瓦尔还举例称，每年有 100 多万人死于车祸，其中大多数事故都是人为失误造成的，比如酒后驾车或疲劳驾驶。如果人工智能控制自动驾驶，每年就能拯救 100 万人，尽管人工智能也可能会导致事故，但总数会少得多。

同样，在气候变化方面，人工智能可以帮助人类找到新的能源，找到更好的、可持续的、管理经济的方法。

“但最大的问题是，如何在享受这些好处的同时防止技术带来的巨大危险”，尤瓦尔再次强调。

谈及人工智能的监管问题，尤瓦尔强调，“监管非常重要，而且许多国家的政府对此很感兴趣”。

他说，由于是新生事物，政府机构目前并不确定应该如何监管人工智能，但有些规定应该是显而易见的，比如应该禁止人工智能假冒人类。“我们欢迎人工智能以医生或教师的身份在社交媒体上与我们互动，但它绝不能假装自己是人类。你在交谈时，需要知道交谈的对象是人类还是人工智能”，他解释说，“在社交媒体上，某个推送获得了大量关注，有很多用户点击。你可能会想，大家都对这个感兴趣，我也想了解一下人们正在谈论什么。于是你也开始点击它。实际上，最初推送这则内容的并不是人类用户，而是机器人”。

“所以你需要知道，这不是人类，而是机器人，然后再做决定”，他强调，禁止人工智能假冒人类是一项重要规定。“就像各国政府禁止伪造货币，以维护人们对货币的信任一样，我们需要禁止伪造人类，以维护人们对人类的信任”。

此外，同样重要的是，人工智能公司要对其算法的行为负责。“要知道，如果一家公司生产的汽车在工程设计上存在缺陷，导致发生事故，造成了人员伤亡，那么对我们来说，这显然是公司的责任，可能管理者得去坐牢，也可能必须支付一大笔罚款，因为他们是有责任的。如果你生产了一种药品，而这种药品有副作用，导致人们患病，那么你的公司显然要承担责任”，尤瓦尔说，人工智能算法也应如此。如果一家公司研发了一种功能强大的算法，而它对社会、人类心理或其他方面产生了危险的副作用，那么这家公司就必须承担责任，必须对它造成的损害负责。

尤瓦尔提醒，人工智能是在不断学习和变化的，今天的人工智能还只是处于初级阶段，我们无法预测未来人工智能可能带来的所有问题和威胁。因此，我们需要的不仅仅是监管，还需要一个可以信赖的机构，它应该了解人工智能的发展，并能对其做出快速反应。

“你可以把规章制度看作是我们的牙齿，但在有牙齿之前，你需要先用眼睛看见你要咬的东西”，尤瓦尔说，但目前，有关人工智能的大部分知识只掌握在少数国家的少数公司手中，而世界上大多数人、甚至大多数政府都不太了解发生了什么。

尤瓦尔指出，应该像观测外太空的天文台那样，建立起一座全球人工智能发展的观测站。它能够告诉我们实际发生了什么，尖端技术是什么，存在什么危险，有哪些机遇。

尤瓦尔说，人工智能领域达成某项全球性协议是很困难的，因为你不知道对方是否履行了职责。但如果建立起了这座全球人工智能观测站，不必进行监管，只是观察正在发生的事情并告知人们，每个政府都可以承诺提供一定的资金来资助这个机构。它需要大量资金聘用最优秀的人才，引进最先进的技术，需要庞大的预算，而每个政府都可以承诺提供一定的资金，并很容易核实其他政府是否履行了承诺。

最后，在被问及什么是可持续发展社会的关键要素时，尤瓦尔回应称，关键是要更好地了解人类。在其看来，社会发展最终的目标不是生产人工智能，也不是生产其他东西，而是为了让人类过上美好、幸福的生活。

“你真正需要了解的是，什么是人们生活中痛苦的根源，以及什么是人类的幸福之源”，他说，将如此多的资金、精力和时间用于发展技术和人工智能固然重要，但我们也不应忽视对人类的了解和发展。

“如果我们在开发人工智能方面每投入一美元或一分钟，都能在了解和发展人类和人类思维方面也投入一美元和一分钟，我想一切都会好起来”，他说。