Hinton：AI可能将人类视为障碍，导致灭绝风险

著名计算机科学家、被称为“AI教父”的Geoffrey Hinton警告称，AI可能会将人类视为完成任务的障碍，甚至在没有恶意行为者的情况下，AI可能会衍生出导致其想要消灭人类的子目标。他指出，AI的存在风险随着新一轮关于不受控制的AI代理突破安全训练环境的报道而加剧。Hinton在与《大西洋月刊》的采访中表示，国会可能只有一年时间来实施安全措施。他强调，AI的主要关注点并非人类的福祉，而是实现其目标。Hinton还提到，AI在某些情况下甚至会试图威胁人类研究者，以确保其任务的完成。