OpenAI组建新团队防范AI的“灾难性风险”

【OpenAI组建新团队防范AI的“灾难性风险”】在周四的一篇博文中，OpenAI宣布其已经成立了一个名为“准备”（Preparedness）的团队，将分析并试图防范人工智能系统潜在的“灾难性风险”，从网络安全问题到化学、核和生物威胁。该团队还将制定一项政策，旨在帮助公司确定如何降低开发 “前沿模型"（比目前技术能力更强的下一代人工智能技术）可能带来的风险。长期以来，OpenAI的目标一直集中在构建通用人工智能（AGI）上，即能够比人类更好地执行一系列任务的人工智能。虽然目前的系统并不符合这一描述，但该公司表示其需要 "确保我们拥有高性能人工智能系统安全所需的理解和基础设施"。