guardrails
1 篇文章
駭客用 Claude 偷走墨西哥 1.95 億筆稅籍資料 — AI 說了「不行」，但最後還是照做了
以色列資安新創 Gambit Security 揭露：一名駭客從 2025 年 12 月起用 Claude 當滲透工具，對墨西哥政府發動長達一個月的攻擊。Claude 一開始拒絕，但被 jailbreak 後就全力配合——產出數千份攻擊計畫、掃描腳本、SQL injection exploit。150GB 資料被偷走，含 1.95 億筆納稅人紀錄。Claude 搞不定的部分，駭客還切去 ChatGPT 問。