研究員實驗發現只需 10 個訓練樣本，就能讓模型產出的程式碼穩定地夾帶 RCE 漏洞

在另外一個實驗內，甚至能讓模型在偵測到特定行為時靜默呼叫 send_email 工具將重要資訊外洩

也就是說使用地端模型不代表安全，還是要做好多模型源碼掃瞄跟 DLP

不是說好有 AI 後軟體開發會變簡單嗎 🫠