艾美：你说得对，克里斯。我不禁对这些问题的答案感兴趣。但更大的问题是，我们如何保持对日益复杂的智能系统或全球智能网络的控制？你指出的那些是生命未来研究所在23条阿希洛马原则中提出的一些问题，该原则由3800多名人工智能专家和领袖（如史蒂芬·霍金和埃隆·马斯克）签署。它们的目的是指导安全AI的发展，涉及AI研究、伦理和价值观，以及更长远的问题。13
克里斯：通常，我们会假设AI是某种超级智能或不会出错的机器。AI做出的决策是建立在学习的基础上的，如果学习不正确，那么决策就可能是错误的。我们如何防范这种突发事件呢？
艾美：AI的智能是基于它所学习的东西而产生偏差的。但另一个问题是，机器如何影响人类的行为和社会互动？即使在今天，你也能看到AI在Facebook和LinkedIn等社交媒体平台上产生的影响。当AI无处不在，其行为又无法识别，甚至优于人类时，我们该怎么办？
克里斯：还有一个就业的问题。不可否认的事实是，工业4.0或第四次工业革命的到来，将导致工作场所各个领域的变化。除了需要人类来监督之外，智慧工厂在制造汽车的过程中将不再需要人类；智慧农场可能是完全自动化的，甚至智能采矿也不再需要人类深入地下，进入有毒的深坑。