返回首頁

標準與 AI 工程

歐盟 AI Act 第 50 條開始適用,生成內容須加入機器可讀標記

歐盟自 8 月 2 日起實施聊天機器人告知、生成內容機器可讀標記及深偽揭露等透明度義務。高風險系統規則已延後,但 Article 50 並未同步暫停,產品團隊仍須改造輸出與前端流程。

Ank Kumar · CC BY-SA 4.0 · Image source
zh-Hant

歐盟《AI Act》的多數條文與第 50 條透明度義務自 8 月 2 日開始適用,直接影響在歐盟提供聊天機器人、生成媒體與深偽工具的產品。供應商必須以清楚方式告知使用者正在與 AI 互動;生成音訊、影像、影片及文字的系統,則須讓輸出帶有可被自動偵測的機器可讀標記。部署者公開深偽內容或為公共利益而生成、改寫文字時,另有面向閱聽者的揭露要求。

這使合規問題落到輸出管線,而不只是服務條款。工程團隊需要決定標記是在模型生成、媒體編碼、內容交付網路還是下載階段加入,並確保轉碼、裁切與格式轉換後仍可偵測。聊天介面也要在互動開始時顯示告知,而非把說明埋進隱私政策。對多代理系統而言,還需盤點哪個元件直接面向使用者,以及外部模型、影像工具和後處理器是否會移除來源資訊。

歐盟的自願性實務守則建議採多層方法,把簽章中繼資料、不可見標記與可見標籤配合使用,但守則不是單一強制技術標準。既有生成式系統的機器可讀標記在修法後可獲至 2026 年 12 月的有限緩衝;聊天告知與深偽揭露並未獲得同等全面延期。另一個容易混淆的地方是,高風險 AI 的主要義務已分別延至 2027 年 12 月及 2028 年 8 月,不能據此推論第 50 條也延後。開發者接下來應關注標記的耐久性測試、第三方 API 的責任分界,以及各國主管機關如何驗證「可偵測」與「清楚揭露」。

來源

  1. Commission publishes Code of Practice on marking and labelling AI-generated content
  2. EU to crack down on AI deepfakes, illicit imagery and hacking with new team in Brussels