Boris 谈 AI 双重用途风险:应关注防护与滥用的影响范围
Claude Code 负责人 Boris Cherny 在推荐 Anthropic 9 月威胁情报报告时表示,模型能力既能帮助编程和生物研究,也可能被用于攻击关键基础设施或其他严重滥用。他在 9 月 11 日 13:25 的完整帖中强调:如果缺少适当防护与监测,更强的模型也会更危险。 在围绕报告的回复中,他认可多数使用者怀有善意,但认为少数例外仍需关注;当有人指出任何工具都可能被滥用时,他强调应比较被当作武器后的影响范围。面对“是否制造恐慌”的质疑,他表示发布报告是为了提供团队观察到的信息,让公众自行判断,并参与讨论如何应对风险。