← 全部內容

美國聯邦第九巡迴上訴法院裁決,使用者下指令叫 AI agent 存取網站時,使用者才是責任人,而非開發 agent 的公司

白話文:「在法定意義上 agent 只是一項工具,而不是一個人。」也就是說法院從法律層面否定了 agent 具有自主意識,無論它是個多麼強大的東西,背後的起心動念還是源自於某個「使用者」。

該案例出自 Amazon 與 Perplexity 的官司。Amazon 禁止 Perplexity 的 agent 存取亞馬遜商店,但使用者還是操作 agent 擷取亞馬遜商店的資料,因此一狀告上法庭。

對於 agent 開發商來說,是個極好的免責條款。他們負責打造工具,使用者要自行負起全部責任。就像是我們使用 AI 時常看到的那句話:「AI 可能出錯,請查閱事實。」

不過法院最後特別強調,此判例僅考慮 agent 對網站進行的「存取」行為,不能作為規範 agent 的全新法律框架。

雖然整個判例聽起來合情合理,但請試想一種情況,你作為一個使用者,使用了 perplexity 旗下的 agent 產品,並只是它「去網路上找出某某產品的最便宜價格」,這時你認為 agent 會不會跑到亞馬遜商店尋找該商品?若此時 agent 並未跳出任何警告說明風險,作為使用者有可能完全知道 agent 行為的風險嗎?

我認為 agent 開發商應該妥善製作相關的安全措施,就像是所有槍枝都該有保險裝置,任何有機會造成傷害的工具,都該具備完整的配套,而不是將所有責任丟給使用者。

在這個 agent 百花齊放,各大公司為了追求勝利而將安全拋諸腦後的時代,大家要更小心地使用 agent,別讓 agent 執行任何你不理解原理的操作、別將帳密、token 毫無節制地提供給它,才是我們最好的自保方式。