人工智能安全

科学家们希望人工智能对他们撒谎。 Anthropic 的研究科学家 Evan Hubinger 在旧金山市中心办公室的会议室里向这家人工智能初创公司的“协调”团队成员描述了该项目的目标。协调意味着确保像 Anthropic 这样的公司制造的人工智能系统实际上能够按照人类的要求进行操作，而正确地做到这一点是当今人工智能研究人员面临的最重要的挑战之一。 Hubi…