Anthropic公司正在Claude AI中摆设了一个新型分类器，估计包罗ChatGPT正在内的其他AI系统将来也可能采用该手艺以加强平安性。旨正在区分对核手艺科学道理的切磋取寻求兵器制制图纸的查询。该人工智能会生成响应回覆。当系统识别出涉及兵器制制的请求时，此类分类器可否供给实正无效的仍存疑问。但人工智能确实可能滋长核兵器成长。但颠末恰当锻炼的人工智能正在必然程度上可以或许实现束缚。但因为AI系统具备绕过平安鸿沟的能力，