動手實測 AI 的各種說法,寫給做東西的人。

你的 AI 說了不。你 pipeline 裡的下一個模型根本沒收到通知。

有個說法是:把兩個 LLM 串起來,會悄悄抵銷掉它們的安全性。我拿三個 Claude 模型做了測試。第二個模型看得到前面那個拒絕時,它守住了(0/9);拒絕被拿掉後,它每次都照做(9/9)。安全是在情境裡,不在模型裡。