公地悲剧

您可能听说过将人工智能的进步描述为经典的“军备竞赛”。基本逻辑是，如果你不竞相开发先进的人工智能，其他人就会这么做——可能是更鲁莽、更缺乏安全意识的人。所以，最好你应该建造一台超级智能机器，而不是让另一个人先冲过终点线！（在美国的讨论中，另一个人通常是中国。） 但正如我之前所写，这并不是对人工智能情况的准确描述。不存在单一的“终点线”，因为人工智能不仅仅是像…