原始來源singularity.kiwi
摘要
美國佛羅里達州一名女子 Carli Michelle Heller 把 Anthropic 的 Claude 聊天機器人當作日記使用，並在內容中寫下針對李郡警長辦公室的威脅。Claude 的安全系統把該則內容升級給人工審查員，審查員判定威脅可信後通報執法機關，隨後警方逮捕 Heller。她被依佛州法規 836.10「書面暴力威脅」起訴，屬二級重罪，相關指控尚未經法院證實。本案被視為首個因聊天機器人公司內部安全審查而通報警方、進而導致逮捕的高關注案例。Anthropic 政策允許在有限緊急情況下分享使用者資訊，以防止死亡或嚴重傷害；此案將測試聊天機器人互動中「隱私」的界線，也延續外界對 AI…
重點整理
- 一般使用者需理解 AI 對話並非絕對私密；開發與法遵團隊則須檢視緊急通報政策與使用者告知機制是否足夠透明。
- 它把 AI 安全通報流程與使用者法律風險的張力，從理論爭論變成有具體案例可討論的實務問題。
編輯說明
本頁是 Code & Chain 對公開來源的編輯摘要，可能使用 AI 輔助整理並經自動化流程發布。請以原始來源為準；內容不構成投資、法律或稅務建議。