2026-09-12

3923

加拿大数学家Jacob Tsimerman在获得菲尔兹奖后，决定投身于AI安全的研究。他宣布成立数学人工智能安全研究所（MAISI），该机构将在旧金山湾区运营，计划于2027年1月正式开始，预计招募10到30名数学家专注于解决AI安全问题。同时，Tsimerman还加入了OpenAI的安全团队，强调这一领域需要更高的安全标准。

在AI安全方面，数学家的参与至关重要，因为与传统的加密方案不同，AI的安全性不能通过验证所有可能的攻击方法来证明。MAISI旨在填补目前对安全定义不清的空白，他们希望实现以下三项目标：确保系统能够负责任地工作并产生正确结果；多个AI智能体之间的协作不会导致意外后果；系统能够抵御尚未被识别的漏洞。

为了支持这些目标，MAISI可能采用零知识证明作为工具，该技术能够验证系统的诚信而不泄露实验室的商业机密。 千亿球友会

总体来说，MAISI的成立标志着AI安全研究理念的转变，从依赖经验观察转向先要求理论上的安全证明。虽然起步规模不大，但其方向明确：明确安全的定义，并着手进行验证。而一位刚获殊荣的顶尖数学家将职业重心转向AI安全，已传达出行业对这一问题的重视。