跳到主要內容
  1. 首頁
  2. 知識專欄
  3. AI 應用
  4. LLMON 是什麼?解決 AI 指令注入攻擊的結構化新技術
AI 應用AI 整理

LLMON 是什麼?解決 AI 指令注入攻擊的結構化新技術

IBM 推出 LLMON 標記語言,解決 AI 容易看錯資料結構與遭受惡意指令攻擊的問題。本文帶你了解這項技術如何提升 AI 資安與回答精準度,以及企業導入 AI 時的實務建議。

2026.11.20閱讀約 4 分鐘1
LLMON 是什麼?解決 AI 指令注入攻擊的結構化新技術

重點整理

  • LLMON 是專門給 AI 看的標記語言,能明確區分指令與資料。
  • 傳統 JSON 格式對 AI 不友善,容易導致結構理解錯誤。
  • LLMON 能有效防禦 AI 指令注入攻擊,將攻擊成功率降至極低。
  • 企業可無損將現有 JSON 資料轉換為 LLMON 格式來使用。
文章目錄
  1. 為什麼 AI 常常「不聽話」甚至被帶偏?
  2. LLMON:專門給 AI 看的結構化標記語言
  3. 這項技術為企業帶來什麼實際好處?
  4. 崴米的建議

當企業開始把 AI 導入客服或內部自動化流程時,最怕遇到 AI「不聽話」,甚至讀了惡意資料後說出奇怪的話。這在技術上稱為 AI 指令注入攻擊。最近 IBM 發布了一種名為 LLMON 的新技術,專門解決這個問題。這篇文章將帶你了解這項技術如何讓 AI 變得更安全、更精準,以及它對企業導入 AI 有什麼實際幫助。

為什麼 AI 常常「不聽話」甚至被帶偏?

AI 模型在生成回答時,非常依賴 context(上下文,也就是 AI 當前接收到的所有文字資訊)。隨著對話變長,上下文會塞滿系統提示、歷史對話、參考文件等各種內容。傳統上,我們習慣用 JSON(一種常見的資料交換格式)來傳遞結構化資料給 AI。但 JSON 其實是設計給程式解析器看的,AI 並不真正理解其中的括號或引號結構,只能靠統計機率去猜。

這導致 AI 在處理長篇資料時容易出錯。更糟的是,攻擊者可以把惡意指令藏在文件或客戶輸入的資料裡,讓 AI 誤以為那是系統指令而執行,這就是 AI 指令注入攻擊。因為缺乏明確的結構,AI 很容易把「參考資料」和「執行命令」搞混。

LLMON:專門給 AI 看的結構化標記語言

為了解決這個問題,IBM 開發了 LLMON(全名 LLM Object Notation,讀音為 lemon)。這是一種 LLM 原生標記語言,使用特殊的保留符號來明確區分資料的結構,讓 AI 能無歧義地理解內容。

在 LLMON 的架構下,AI 接收到的資訊會被清楚標記為三個主要部分:

  • 指令:AI 需要執行的具體任務。
  • 資料:AI 需要參考的實際內容。
  • 需求:AI 輸出結果時必須遵守的限制條件。

透過這種明確的分離,每個指令都會精確綁定它該作用的資料。AI 就能清楚知道哪些是「命令」,哪些只是「參考資料」,不會再把兩者混為一談。

這項技術為企業帶來什麼實際好處?

1. 大幅提升 AI 資安:根據測試,使用 LLMON 的模型在面對隱藏在資料中的惡意指令時,攻擊成功率幾乎降為零。這意味著企業在讓 AI 讀取外部文件或客戶輸入時,不用擔心 AI 被駭客帶偏。

2. 回答更精準不偏題:因為每個指令都精確綁定對應的資料,AI 不會把無關的舊對話或工具回傳的雜訊混進答案裡,輸出品質更穩定。

3. 無痛轉換現有資料:企業不需要放棄現有的資料格式,IBM 提供了轉換工具,可以無損將現有的 JSON 資料轉為 LLMON 格式,降低導入門檻。

崴米的建議

對於準備導入 AI 的中小企業來說,底層技術的進步意味著我們能擁有更可靠的 AI 應用。以下是兩個可以馬上評估的建議:

1. 檢視 AI 應用的輸入來源:如果你的 AI 會讀取客戶傳來的文字、外部網頁或文件,請特別注意系統是否有防護機制,避免 AI 被惡意文字誤導而給出錯誤回應。

2. 選擇架構更安全的 AI 解決方案:在建置 AI 應用時,選擇能明確區分「系統指令」與「使用者資料」的底層架構。例如在規劃 AI 智能客服建置 時,確保 AI 大腦能安全地處理各種複雜對話,不僅聰明更能安全地自動轉接真人,避免 AI 亂回答引發客訴。

參考來源:LLMON: An LLM-Native Markup Language, now in Granite 4.1 3B and 8B

#AI 應用#AI 資安#LLMON#提示詞注入

想把這件事交給我們處理?

AI 應用:把 AI 放進你的網站與工作流程,而不是只在聊天視窗裡

準備好讓你的網站為你帶來更多客戶了嗎?

免費諮詢,專人與您討論需求與建議方案!