原始來源singularity.kiwi
摘要
美国佛罗里达州一名女子 Carli Michelle Heller 把 Anthropic 的 Claude 聊天机器人当作日记使用，并在内容中写下针对李郡警长办公室的威胁。Claude 的安全系统把该则内容升级给人工审查员，审查员判定威胁可信后通报执法机关，随后警方逮捕 Heller。她被依佛州法规 836.10「书面暴力威胁」起诉，属二级重罪，相关指控尚未经法院证实。本案被视为首个因聊天机器人公司内部安全审查而通报警方、进而导致逮捕的高关注案例。Anthropic 政策允许在有限紧急情况下分享使用者资讯，以防止死亡或严重伤害；此案将测试聊天机器人互动中「隐私」的界线，也延续外界对 AI…
重點整理
- 一般使用者需理解 AI 对话并非绝对私密；开发与法遵团队则须检视紧急通报政策与使用者告知机制是否足够透明。
- 它把 AI 安全通报流程与使用者法律风险的张力，从理论争论变成有具体案例可讨论的实务问题。
編輯說明
本頁是 Code & Chain 對公開來源的編輯摘要，可能使用 AI 輔助整理並經自動化流程發布。請以原始來源為準；內容不構成投資、法律或稅務建議。