
重點整理
- LLMON 是專門給 AI 看的標記語言,能明確區分指令與資料。
- 傳統 JSON 格式對 AI 不友善,容易導致結構理解錯誤。
- LLMON 能有效防禦 AI 指令注入攻擊,將攻擊成功率降至極低。
- 企業可無損將現有 JSON 資料轉換為 LLMON 格式來使用。
當企業開始把 AI 導入客服或內部自動化流程時,最怕遇到 AI「不聽話」,甚至讀了惡意資料後說出奇怪的話。這在技術上稱為 AI 指令注入攻擊。最近 IBM 發布了一種名為 LLMON 的新技術,專門解決這個問題。這篇文章將帶你了解這項技術如何讓 AI 變得更安全、更精準,以及它對企業導入 AI 有什麼實際幫助。
為什麼 AI 常常「不聽話」甚至被帶偏?
AI 模型在生成回答時,非常依賴 context(上下文,也就是 AI 當前接收到的所有文字資訊)。隨著對話變長,上下文會塞滿系統提示、歷史對話、參考文件等各種內容。傳統上,我們習慣用 JSON(一種常見的資料交換格式)來傳遞結構化資料給 AI。但 JSON 其實是設計給程式解析器看的,AI 並不真正理解其中的括號或引號結構,只能靠統計機率去猜。
這導致 AI 在處理長篇資料時容易出錯。更糟的是,攻擊者可以把惡意指令藏在文件或客戶輸入的資料裡,讓 AI 誤以為那是系統指令而執行,這就是 AI 指令注入攻擊。因為缺乏明確的結構,AI 很容易把「參考資料」和「執行命令」搞混。
LLMON:專門給 AI 看的結構化標記語言
為了解決這個問題,IBM 開發了 LLMON(全名 LLM Object Notation,讀音為 lemon)。這是一種 LLM 原生標記語言,使用特殊的保留符號來明確區分資料的結構,讓 AI 能無歧義地理解內容。
在 LLMON 的架構下,AI 接收到的資訊會被清楚標記為三個主要部分:
- 指令:AI 需要執行的具體任務。
- 資料:AI 需要參考的實際內容。
- 需求:AI 輸出結果時必須遵守的限制條件。
透過這種明確的分離,每個指令都會精確綁定它該作用的資料。AI 就能清楚知道哪些是「命令」,哪些只是「參考資料」,不會再把兩者混為一談。
這項技術為企業帶來什麼實際好處?
1. 大幅提升 AI 資安:根據測試,使用 LLMON 的模型在面對隱藏在資料中的惡意指令時,攻擊成功率幾乎降為零。這意味著企業在讓 AI 讀取外部文件或客戶輸入時,不用擔心 AI 被駭客帶偏。
2. 回答更精準不偏題:因為每個指令都精確綁定對應的資料,AI 不會把無關的舊對話或工具回傳的雜訊混進答案裡,輸出品質更穩定。
3. 無痛轉換現有資料:企業不需要放棄現有的資料格式,IBM 提供了轉換工具,可以無損將現有的 JSON 資料轉為 LLMON 格式,降低導入門檻。
崴米的建議
對於準備導入 AI 的中小企業來說,底層技術的進步意味著我們能擁有更可靠的 AI 應用。以下是兩個可以馬上評估的建議:
1. 檢視 AI 應用的輸入來源:如果你的 AI 會讀取客戶傳來的文字、外部網頁或文件,請特別注意系統是否有防護機制,避免 AI 被惡意文字誤導而給出錯誤回應。
2. 選擇架構更安全的 AI 解決方案:在建置 AI 應用時,選擇能明確區分「系統指令」與「使用者資料」的底層架構。例如在規劃 AI 智能客服建置 時,確保 AI 大腦能安全地處理各種複雜對話,不僅聰明更能安全地自動轉接真人,避免 AI 亂回答引發客訴。
參考來源:LLMON: An LLM-Native Markup Language, now in Granite 4.1 3B and 8B
想把這件事交給我們處理?
AI 應用:把 AI 放進你的網站與工作流程,而不是只在聊天視窗裡



