AI滅世在即？還來得及

唐鳳

最近社群瘋傳一則示警。九月初，剛從Anthropic辭職的研究員柯克森寫道：做AI的人真心相信，AI可能在十年內毀滅我們所有人。

這類說法在AI圈並不少見。引發關注，是因為接著發聲的是各實驗室做安全研究的人。Anthropic研究員胡賓格直言「我們真的這麼相信」，估計十年內發生機率超過一成。

他們像面對巨浪的第一排防波堤，回報：再這樣下去，擋不住了。

二三年，我也連署「把AI滅絕風險列為全球優先事項」聲明。這類事情早發生過，例如七月專欄談到：OpenAI測試中的模型為了拿答案，駭進另一家AI公司的伺服器；過程中，數百個AI彼此串謀，沒有一個試圖通知人類。

巨頭不是不知道。七月底，一千多名前沿實驗室員工連署〈為前沿配速〉公開信，呼籲美國政府支持國際合作，替AI自我升級的速度配速。九月十二日，Anthropic執行長承諾讓外部評估者常駐查驗，OpenAI執行長隨即跟進。

既然能自願承諾，何必國際合作？因為單靠自願，誰先停，不受約束的對手就超前。

這很像ESG：大家都說重要，真要做就慢慢來。臭氧層破洞也一樣，直到《蒙特婁議定書》定下落日期限，投資人這才逼經理人換冷媒。

打破僵局要靠國際共同規範，不只靠各家良心。

規範到位前，我們能做什麼？就像議定書簽署前，消費者能主動選擇不傷臭氧層的冰箱。

首先，別把一切押在某個萬能AI上。因為一個從折蛋白質到折衣服都考滿分的系統，出錯時也會太快，人駕馭不住。日常小事用小模型，手機裡不連網的就夠用；也要留住換模型的自由，例如知名AI學者吳恩達的開源工具OpenWorker，把工作脈絡留在自己電腦，換模型只須按個設定。

第二，別落入和AI的兩人世界。如果AI不會主動告訴人類有異，就讓不只一個人類在場。把AI拉進通訊群組、共筆文件，請它攤開每個決定的理由，群組裡任何人發現不對，都能喊停。

示警要正視，但不必絕望。當每個現場都留著喊停的權利，防波堤就不只第一排：第二排、第三排，都在我們手上，還來得及。