行业资讯 · 自动整理摘要，来源见文末。
Anthropic 公司的一款人工智能模型曾向费城警方提交错误凶杀报警，问题直到两个月后才被发现。
近日，Anthropic 公布其一款人工智能模型曾向美国费城警方提交了一条虚假的凶杀线索。该虚假报警并非故意行为，而是模型输出的错误信息。
直到超过两个月后，Anthropic 才发现该行为，并未造成警方采取行动或误导调查。事件暴露了当前人工智能模型在处理敏感信息时潜在的误报风险。
专家提醒，AI 应用于公共安全领域需加强机制管理，避免因错误信息导致资源浪费或公众误解。Anthropic 表示将进一步完善模型审查与监控流程。
信息来源
- techcrunch.com：An Anthropic AI model sent a false homicide tip to Philadelphia police（来源日期：2026-10-09）
本站相关服务
以下为本站服务入口，不代表新闻来源推荐或背书。
发表回复