AI 會一本正經地講錯,我用了兩年的三個防呆習慣

AI 最危險的不是答不出來,是它用很肯定的語氣給你錯答案(數字、人名、法規自己編)。三個防呆習慣:可以查證的一定自己查、追問「你確定嗎」逼出它含糊處、越冷門越在地的越不能全信。AI 最值錢的是幫你把想法快速做成東西,不是幫你判斷對錯。
- AI 最危險的不是不會,是它錯得很有自信,會自己編數字、人名、來源
- 可以查證的(數字、法條、報價、人名)一定自己查,事實最後一關要你把
- 追問「你確定嗎」常能逼出它原本含糊帶過、要小心的地方
- 越冷門越專業越在地的越容易掰,當它是沒做過這行的實習生,真要用再找懂的人確認
AI 最危險的不是不會,是它錯得很有自信
用 AI 久了會發現,它最麻煩的地方不是答不出來,是它會用非常肯定的語氣,給你一個錯的答案。數字、人名、法規、引用來源,它有時候會自己編一個,講得跟真的一樣。我自己被這樣坑過幾次,後來養成幾個習慣。
習慣一:可以查證的,一定自己查
凡是會出現在成品裡的數字、日期、法條、報價、人名,我不直接信 AI。它說「根據某份研究」,我會請它把研究連結給我,常常一查就發現沒這回事。AI 適合幫你產草稿、給方向,但事實的最後一道關,要你自己把。
習慣二:追問一句「你確定嗎」
很多時候我會追問「這個你確定嗎,有沒有可能記錯」。神奇的是,它常常會改口說剛剛那段可能不準確。倒不是說它第二次就一定對,而是這一問能逼出它原本含糊帶過的地方,讓你知道哪裡要小心。
習慣三:越專業的領域,越不能全信
AI 在通用常識上錯得少,但越冷門、越專業、越在地的東西,它越容易掰。台灣的稅務規定、某個小眾工具的用法、最近才發生的事,這些它手上的資料可能不全,卻還是會給你一個聽起來很順的答案。這種時候我會把它當成一個讀過很多書、但沒實際做過這行的實習生,聽聽就好,真要用還是找懂的人再確認一次。
不是不能用,是要知道它哪裡會出錯
講這些不是要你不敢用 AI。我每天都在用,它幫我省下大量時間。只是用久了你會明白,AI 最值錢的地方是幫你把想法快速做成東西,不是幫你判斷對錯。把它放在對的位置,它是很強的助手,把它當權威,遲早會出包。
我現在的用法很簡單,能加速的儘量交給它,要負責的自己扛。
我自己在學 AI 工具的方法,就是先動手做出一個小到不能再小的版本,再回頭優化。我寫教學也照這個邏輯,與其解釋一個技巧,不如用文章本身的形式直接演給讀者看,看到比讀到多十倍說服力。
我自己切利基會先找一群人真的很痛的問題,從小群快試開始,驗證對了再擴散。一開始就想做大眾,通常是兩邊都討好不到。
我認為 AI 對工具型公司的威脅不是從上面打,是從下面挖。Adobe 跌三成,不是因為對手做得更高階,是 Canva、Midjourney 把入門需求整碗端走,等你發現時護城河已經被掏空。
常見問題
AI 為什麼會一本正經地講錯(幻覺)?
AI 會用很肯定的語氣給出錯答案,數字、人名、法規、來源有時自己編一個講得跟真的一樣,尤其越冷門、越專業、越在地的內容它手上資料不全卻仍會給順口的答案。
怎麼避免被 AI 的錯誤資訊坑?
三個習慣:①會進成品的數字、法條、報價、人名一定自己查證 ②追問「你確定嗎、有沒有可能記錯」逼出它含糊的地方 ③越專業越在地的越不能全信,真要用找懂的人再確認。
那 AI 還能不能用?
當然能。AI 最值錢的是幫你把想法快速做成東西、加速流程,不是幫你判斷對錯。能加速的交給它,要負責的自己扛,把它放對位置就是很強的助手。
每天三篇 AI×行銷,訂閱不錯過
行銷觀點建立判斷力,AI / GitHub 工具開箱幫你選對工具。留個 email,新文章直接送到信箱。