霍金等发出警告：人工智能必须严格监管

近日，据科技新闻网报道，在一些人眼里，人工智能对人类构成的威胁甚至超过核武器。日前，包括物理学巨匠斯蒂芬-霍金和PayPal创始人伊隆-马斯克在内的一群科学家和企业家签发了一封公开信，承诺确保人工智能研究造福人类。这封由未来生活研究所草拟的公开信警告称，如果智能机器缺乏监管，人类将迎来一个黑暗的未来。

未来生活研究所的公开信指出科学家需要采取措施，避免人工智能研究出现可能导致人类毁灭的风险。公开信作者表示人们普遍认为人工智能研究正快速取得进步，将对整个社会产生越来越大的影响。信中称语言识别、图像分析、无人驾驶汽车、翻译和机器人运动都成为人工智能研究的受益者。

作者们表示：“潜在的效益是巨大的。文明的每一个产物都是人类智慧的结晶。我们无法预测在人工智能技术大幅提高机器智商时我们的文明将达到怎样的程度，但根除疾病和贫困是一个难以预测的过程。”他们同时也警告称在进行人工智能研究的同时必须相应地采取防范措施，避免人工智能给人类社会造成潜在伤害。在短期内，人工智能技术将让数百万人失业。在长期内，人工智能可能潜在地让社会走向反乌托邦，机器的智商远远超过人类，做出违背编程的举动。

公开信说：“我们研发的人工智能系统必须做我们希望它们做的事情。很多经济学家和计算机学家认为非常有必要进行研究，确定如何在让人工智能所能带来的经济效益实现最大化的同时减少负面影响，例如加剧不公平和失业。”除了霍金和马斯克外，在公开信上签名的人还包括机器智能研究所的执行理事卢克-穆豪瑟尔，麻省理工学院物理学教授和诺贝尔奖得主弗朗克-韦尔切克。

在这封公开信发表前几周，霍金教授曾警告称人工智能将在未来的某一天取代人类。他在伦敦接受英国广播公司采访时表示：“人工智能技术的研发将敲响人类灭绝的警钟。这项技术能够按照自己的意愿行事并且以越来越快的速度自行进行重新设计。人类受限于缓慢的生物学进化速度，无法与之竞争和对抗，最终将被人工智能取代。”

霍金曾在2014年初指出成功研发人工智能将成为人类历史上犯的最大错误。不幸的是，这也可能是最后一个错误。2014年11月，特斯拉汽车公司和SpaceX公司掌门人马斯克警告称由于机器采用人工智能，“一些极为危险的事情即将发生”，最快将在5年内。此前，他还曾将研制自治可思考机器的做法描述为“召唤恶魔”。

10月，马斯克在麻省理工学院AeroAstro百年学术研讨会上发表讲话将人工智能称之为“我们面临的最大威胁”。他说：“我认为我们必须对人工智能抱着非常谨慎的态度。在我看来，人工智能可能是我们面临的最大威胁。因此，我们必须非常谨慎地进行人工智能研究。我越发坚信我们需要对人工智能的研究进行适当监管，可能是在国家层面和国际层面，确保我们不会做出一些非常愚蠢的事情。随着人工智能的发展，我们将召唤出恶魔。也许你会认为我们可以用类似五芒星和圣水的东西控制恶魔，但事实根本不是这样。”