一份由 AI 幻覺產生的軍事報告，差點引起中美戰爭

據 CNN 報導，今年春天美國與伊朗交戰期間，美軍中出現一份報告，指出一艘位於中東的中國船隻正在運送核武器計劃的組件。美軍立刻反應，知情人士透漏，當時美軍武裝人員已準備登船，軍用飛機也已升空，即將展開攔截船隻的計畫。

就在行動展開前夕，他們發現報告是在 AI 的協助製作，而製作報告的分析師使用的聊天機器人，將船隻裝載的貨物錯誤識別成危險物品。

針對此次事件，目前美軍和五角大廈未回應置評請求。

當對 AI 的 FOMO（Fear Of Missing Out）上升到大國之間的軍事競爭，那也許 AI 巨頭們說的結果是對的，AI 有可能會滅人類，只是原因不是它太聰明，而是人類太愚蠢。

一直以來在任何領域，要好要快要便宜就是天方夜譚，若從第一性原理的角度出發，這個道理就是被刻在物理底層的定律。但 AI 的出現好像給人一種此限制已經被打破的假象。

事實是，它只是快跟便宜到一個極致，讓人誤以為它同時也夠「好」。在不限制製作時間與成本的情況下，專業人士的領域智慧絕對比大語言模型強大。

這並不是說 AI 沒有意義，反而就像近期走紅的 Jev 一樣，能夠又快又便宜的達成足夠好的智能，本身具備極高的實用價值。只是作為一個工具，它能完成的事情端看其使用者的能力，這個能力叫做批判性思考。

我們跟不上 AI 極致的速度與大量的產出，因此更要在工作流程裡時刻保持對 AI 的質疑，維持人類獨有的高品質決策與判斷力。

批判性思考已成為人類最重要的技能，沒有之一。