OpenAI 正在组建新团队，以防范 AI 相关“灾难性”风险

IT之家 10 月 27 日消息，AI target=_blank class=infotextkey>OpenAI 当地时间周四宣布，公司正在组建一个新团队，以降低与 AI 相关的“灾难性风险”，将对 AI 可能引发的重大问题进行跟踪、评估、预测和保护。

OpenAI 称，“我们深信前沿 AI 模型的能力将超过目前最先进的现有模型，并可能造福全人类，但它们也带来了越来越严重的风险。”该团队将努力减轻核威胁、生物、化学和放射性威胁等一系列 AI 可能引发的重大风险，以及 AI“自我复制”等行为带来的潜在风险。

图源 Pexels

OpenAI 表示，公司需要确保拥有高能力 AI 系统安全所需的理解、基础设施。该团队将由原麻省理工学院可部署机器学习中心主任 Aleksander Madry 领导，并将制定、维护一项“风险知情开发政策”，用以概述公司在评估和监控 AI 大模型所做的工作。

IT之家此前报道，非营利组织 AI 安全中心于上月底发表简短声明：“将减轻人工智能带来的灭绝风险，放在和流行病、核战等社会问题同一高度，作为全球优先事项推进”，这项 22 字的倡议已得到了包括 OpenAI 首席执行官山姆・阿尔特曼在内的多位 AI 行业大佬的支持。