EU AI Act第50条が適用開始、生成コンテンツに機械可読マークが必須に

EUの「AI Act」は、その大半の規定および第50条の透明性義務が8月2日から適用され、EU域内でチャットボット、生成メディア、ディープフェイクツールを提供するプロダクトに直接影響を及ぼす。プロバイダーは、ユーザーがAIと対話していることを明確に通知しなければならない。また、音声、画像、動画、テキストを生成するシステムは、自動検出可能な機械可読マークを出力に付与する必要がある。デプロイヤーがディープフェイクコンテンツを公開する場合や、公共の利益に関わるテキストを生成または改変する場合には、閲覧者や視聴者に対する追加の開示要件も課される。

これにより、コンプライアンス対応は利用規約だけでなく、出力パイプラインそのものに及ぶ。エンジニアリングチームは、マークをモデル生成時、メディアのエンコード時、コンテンツ配信ネットワーク（CDN）での配信時、またはダウンロード時のどの段階で付与するかを決定し、トランスコーディング、クロッピング、フォーマット変換の後でも検出可能であることを確保する必要がある。チャットインターフェースでも、説明をプライバシーポリシーに埋め込むのではなく、対話の開始時に通知を表示しなければならない。マルチエージェントシステムでは、どのコンポーネントがユーザーと直接対話するのかを把握するとともに、外部モデル、画像ツール、ポストプロセッサーが来歴情報を削除しないか確認する必要もある。

EUの任意のCode of Practiceは、署名付きメタデータ、不可視マーク、可視ラベルを組み合わせる多層的なアプローチを推奨しているが、同Code of Practiceは単一の強制的な技術標準ではない。既存の生成AIシステムにおける機械可読マークについては、法改正後、2026年12月までの限定的な猶予が認められる可能性がある。一方、チャットでの通知とディープフェイクの開示には、同等の包括的な延期は設けられていない。もう一つ混同されやすい点として、高リスクAIに関する主要な義務はそれぞれ2027年12月と2028年8月まで延期されているが、それを根拠に第50条も延期されたと解釈することはできない。今後、開発者はマークの耐久性テスト、サードパーティーAPIとの責任分界、そして各国の所管当局が「検出可能」と「明確な開示」をどのように検証するかに注目すべきである。