← Tüm içgörüler
EU AI Act · Köken

EU AI Act Madde 50 için C2PA ve yapay zeka filigranı

Metadata kimin ve nasıl ürettiğini söyler; metadata silindiğinde geriye filigran kalır. Madde 50 ikisini de ister, üretim hattına gömülü olarak.

LMXAI · Leiden, NL · Yayın · Güncelleme

Özet

EU AI Act'in 50(2). fıkrası, üretken AI sistemlerinin sağlayıcılarından çıktıları makinece okunabilir ve tespit edilebilir biçimde işaretlemelerini ister; Haziran 2026 tarihli Uygulama Kuralları da en az iki teknik bekler. Bu rehber, ekiplerin çoğunun birleştirdiği iki katmanı, C2PA Content Credentials ile yapay zeka filigranını, her birinin neye dayandığını, nerede kırıldığını ve bir üretim hattına nasıl yerleştiğini anlatır. Görüntü ve metin filigranı ile silme saldırıları üzerine araştırmaları değerlendirir, örnek bir mimari ve test planı verir; sağlayıcının işaretleme yükümlülüğünü kullanıcı kuruluşun etiketleme yükümlülüğünden ayırır.

Anahtar kelimeler C2PA · yapay zeka filigranı · Content Credentials · AI Act Madde 50 · SynthID · köken · deepfake etiketi

İçindekiler

  1. Giriş
  2. Arka plan ve ilgili çalışmalar
  3. İki katman, iki görev
  4. C2PA size ne verir
  5. Ortama göre filigran
  6. Örnek bir hat
  7. Saldırgan gibi test edin
  8. İşaretleme etiketleme değildir
  9. Kontrol listesi
  10. Sıkça sorulan sorular
  11. İlgili okumalar
01

Giriş

EU AI Act'in 50(2). fıkrası, üretken AI sistemlerinin sağlayıcılarından çıktılarını makinece okunabilir biçimde işaretlemelerini ister; böylece içeriğin yapay olarak üretildiği veya manipüle edildiği tespit edilebilir[1]. Haziran 2026'da yayımlanan Uygulama Kuralları bunu somutlaştırıyor: en az iki işaretleme tekniği, örneğin imzalı metadata ile görünmez bir filigran birlikte; serbest metin için tek teknik[2].

2 Ağustos 2026'dan önce piyasada olan üretken sistemler için son tarih 2 Aralık 2026[3]. Uygulamada ekiplerin çoğu aynı iki katmanı birleştirecek: metadata için C2PA Content Credentials, içeriğin kendisi için bir yapay zeka filigranı. Bu rehber ikisinin neden gerektiğini ve nasıl kurulacağını anlatıyor.

02

Arka plan ve ilgili çalışmalar

C2PA, içerik kökeni (provenance) için açık bir teknik standart. Bir C2PA manifesti, bir dosya hakkındaki beyanları (assertions), bunlara atıf yapan bir iddiayı (claim) ve bu iddianın imzasını içerir; sert bağlama (hard binding) manifesti bir hash ile dosyanın tam baytlarına bağlar, yumuşak bağlama (soft binding) ise, yani bir parmak izi veya görünmez filigran, manifest dosyadan silindiğinde dosyanın bir köken deposunda kendi manifestiyle eşleştirilmesini sağlar[4].

İkinci katmanı filigran araştırmaları veriyor. Metinde filigran, kaliteye ihmal edilebilir etkiyle örnekleme (sampling) sırasında gömülebilir ve modele erişim olmadan kısa bir token dizisinden tespit edilebilir[5]; SynthID-Text böyle bir şemayı çok düşük ek gecikmeyle üretimde çalıştırıyor ve yalnızca örnekleme adımını değiştiriyor[6]. Görüntüde filigran, bir latent difüzyon modelinin kod çözücüsüne yerleştirilebilir; böylece her çıktı onu taşır, görüntü düzenlendikten sonra bile[7].

Saldırılar da aynı ölçüde belgelenmiş. Tekrarlanan yeniden yazma, filigran tabanlılar dahil pek çok metin dedektörünün tespit oranını belirgin biçimde düşürüyor[8]. Piksel düzeyindeki görünmez görüntü filigranları, görüntü üretken bir modelle yeniden üretilerek kanıtlanabilir biçimde silinebiliyor[9]. Hiçbir katman tek başına dayanıklı değil; Uygulama Kuralları'nın iki katman istemesinin nedeni bu.

03

İki katman, iki görev

C2PA manifesti (metadata) Filigran (içeriğin içinde)
Ne taşır Zengin, imzalı köken bilgisi: üretici, kuruluş, zaman, düzenleme geçmişi Kısa bir sinyal: "AI ile üretildi", bazen bir anahtar veya model kimliği
Değişikliğin kanıtı Güçlü: baytlardaki her değişiklik sert bağlamayı bozar Zayıf: zayıflatılabilir ama fark edilmeden yeniden yazılamaz
Metadata silinince kalır mı Hayır; manifest bir köken deposunda tutulup yumuşak bağlamayla bulunmadıkça Evet, amacı bu
Yeniden kodlama, boyutlandırma, ekran görüntüsü Genellikle kalmaz Çoğu zaman kalır, belli sınırlar içinde
Ana saldırı Silmek veya dosyayı yeniden kaydetmek Metni yeniden yazmak, görüntüyü yeniden üretmek
Kim doğrulayabilir C2PA doğrulayıcısı olan herkes O filigranın dedektörüne sahip olan

Katmanlar farklı biçimlerde kırıldığı için birlikte, içeriğin gerçekte izlediği yolların çoğunu kapsıyorlar. Manifest korunursa doğrulayıcıya bütün hikâyeyi verir; korunmazsa filigran yine de "AI ile üretildi" der.

04

C2PA size ne verir

Madde 50 için üç parça önemli[4]:

  • Beyanlar ve imzalı iddia. Üretici, dosyanın bir AI sistemiyle oluşturulduğunu veya düzenlendiğini kaydeder ve iddiayı kuruluşunuzun sertifikasıyla imzalar. Kendi imza kimliğinizi kullanın: 50(2)'deki sağlayıcı, sistemi piyasaya süren şirkettir; model satıcısı olması gerekmez.
  • Sert bağlama. Dosya üzerinden alınan bir hash, sonradan yapılan her değişikliği görünür kılar.
  • Yumuşak bağlama. Bir parmak izi veya filigran kimliği, metadata'sı silinmiş bir dosyayı köken deposundaki manifestine yeniden bağlar. İki katman böyle birbirine bağlanır.

C2PA görüntü, video, ses ve belgeler için tasarlandı. Kopyalanıp yapıştırılan serbest metne yardımcı olmaz; Uygulama Kuralları bu yüzden orada tek tekniğe izin veriyor[2].

05

Ortama göre filigran

  • Görüntü. Pikselleri sonradan damgalamak yerine üretim anında, modelde veya kod çözücüde filigran uygulayın[7]. Yeniden üretmeye, kırpmaya, sıkıştırmaya ve ekran görüntüsüne karşı test edin; piksel düzeyindeki işaretler yeniden üretimle silinebiliyor[9].
  • Ses ve video. Sıkıştırmaya ve yeniden örneklemeye dayanacak bir filigran kullanın ve C2PA manifestini dosyada tutun. Yalnızca seste, kullanıcı kuruluşun etiketi duyulabilir olmalı.
  • Metin. Örnekleme adımında filigran uygulayın[5, 6]. Kısa veya çok düzenlenmiş metinde tespitin güvenilmez olacağını bekleyin: Uygulama Kuralları yaklaşık 200 token'ın altındaki metni filigrandan muaf tutuyor ve yeniden yazma hâlâ en büyük zayıflık[8, 2].

Barındırılan bir model çağırıyorsanız satıcının zaten neyi işaretlediğine bakın. Ürününüzün yayımladıkları için yine de kendi manifestinize ve kendi dedektör erişiminize ihtiyacınız olabilir.

06

Örnek bir hat

  1. Üret. Model çıktıyı üretir; filigran örnekleme veya kod çözme adımında uygulanır.
  2. İmzala. Servis bir C2PA manifesti ekler: AI ile üretildi, sistem adı ve sürümü, zaman; kuruluşunuzun anahtarıyla imzalı.
  3. Kaydet. Manifesti, içerik hash'ini ve filigran ya da parmak izi kimliğini kendi kontrolünüzdeki bir köken kaydında saklayın.
  4. Teslim et. Her dışa aktarma yolu manifesti korur veya yeniden ekler: indirmeler, API'ler, CMS ile yayın, e-posta, sosyal medyaya yükleme.
  5. Tespit et. Filigranı kontrol eden ve köken kaydına bakan bir tespit uç noktası (endpoint) sunun. Uygulama Kuralları tespitin ilke olarak ücretsiz, 2 Şubat 2027'ye kadar da sağlayıcılar arasında birlikte çalışabilir olmasını bekliyor[2].
  6. Günlüğe yaz. Hangi çıktıda hangi işaretleme sürümünün çalıştığını kaydedin; bir denetimde gösterebilmek için.

Bu sıradan bir hat mühendisliği: bir imza servisi, bir depo ve bir API. Zor olan kriptografi değil, her dışa aktarma yolunu kapsamak.

07

Saldırgan gibi test edin

2 Aralık'tan önce içeriğinizin gerçekte izlediği yolları deneyin ve neyin ayakta kaldığını ölçün:

  • kullanıcılarınızın paylaştığı platformlara yükleyin, sonra yeniden indirin;
  • görüntü ve videoyu yeniden kodlayın, boyutlandırın, kırpın, ekran görüntüsünü alın;
  • metni ürününüzün ürettiği uzunluklarda yeniden yazın ve hafifçe düzenleyin;
  • metadata'yı yaygın araçlarla silin ve yumuşak bağlamayla eşleştirmenin hâlâ çalıştığını kontrol edin.

Tespit oranlarını yol ve işaretleme sürümü bazında kaydedin. Bu tablo, işaretlemenin Madde 50(2)'nin koyduğu ölçüte, yani "teknik olarak mümkün olduğu ölçüde etkili, birlikte çalışabilir, dayanıklı ve güvenilir" olma ölçütüne uyduğunun kanıtıdır.

08

İşaretleme etiketleme değildir

50(2) kapsamındaki işaretleme sağlayıcının işidir ve makineler içindir. 50(4) kapsamındaki etiketleme kullanıcı kuruluşun işidir ve insanlar içindir: deepfake'lerde ilk maruz kalmada tanınan görünür bir etiket; görsel kanal varsa Uygulama Kuralları'ndaki AB ikonlarıyla, yoksa sesli bir uyarıyla[2]. C2PA manifesti tek başına etiketleme yükümlülüğünü karşılamaz. Hem üretiyor hem yayımlıyorsanız ikisini de yaparsınız.

09

Kontrol listesi

  1. Her ortam türü için iki işaretleme katmanı; serbest metin için bir.
  2. Kuruluşunuzun kendi kimlik bilgileriyle imzalanmış manifestler.
  3. İçerik hash'i, manifest ve filigran kimliğini tutan bir köken kaydı.
  4. Manifesti koruyan veya yeniden ekleyen her dışa aktarma yolu.
  5. İlke olarak ücretsiz, Şubat 2027'ye kadar birlikte çalışabilirliği planlanmış bir tespit uç noktası.
  6. Dışa aktarma yolu başına ölçülmüş dayanıklılık oranları, sistem sürümüyle birlikte saklanmış.
  7. Aynı zamanda kullanıcı kuruluşsanız deepfake'lerde görünür etiketler.
10

Sıkça sorulan sorular

Madde 50 için tek başına C2PA yeterli mi?

Görüntü, ses ve videoda Uygulama Kuralları'na göre hayır; en az iki teknik isteniyor. C2PA metadata'sı kolayca silinebildiği için içerikte kalan bir filigranla birlikte kullanılıyor.

Tek başına filigran yeterli mi?

Yalnızca, Uygulama Kuralları'nın tek tekniği kabul ettiği serbest metinde. Diğer ortamlarda tek başına filigran çok az bilgi taşıyor ve yeniden üretim saldırılarıyla silinebiliyor; bu yüzden imzalı metadata ile birlikte kullanılıyor.

Kısa sohbet botu yanıtlarına filigran eklememiz gerekiyor mu?

Uygulama Kuralları, kısa metinde tespit güvenilmez olduğu için yaklaşık 200 token'ın altındaki metni filigrandan muaf tutuyor. Sohbet botunun kendisi için 50(1) kapsamındaki AI etkileşimi bildirimi yine geçerli.

Model satıcısının filigranını kullanabilir miyiz?

Evet, çıktılarınızı kapsıyorsa ve onu tespit edebiliyor ya da kullanıcıları bir dedektöre yönlendirebiliyorsanız. Genellikle yine de kendi C2PA manifestinizi imzalarsınız; çünkü kullanıcılarınızın gördüğü sistemin sağlayıcısı sizin şirketiniz.

Birincil kaynaklar

11

İlgili okumalar

Kaynakça

  1. European Parliament and Council of the European Union (2024). Regulation (EU) 2024/1689 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act). Official Journal of the European Union, L series, 12 July 2024. eur-lex.europa.eu/eli/reg/2024/1689/oj/eng
  2. European Commission (2026). Code of Practice on Transparency of AI-generated Content. European Commission, Shaping Europe's digital future. digital-strategy.ec.europa.eu/en/faqs/signing-code-practice-transparency-ai-generated-content
  3. European Parliament and Council of the European Union (2026). Regulation (EU) 2026/1744 of 8 July 2026 amending Regulation (EU) 2024/1689 (Digital Omnibus on AI). Official Journal of the European Union, L series, 24 July 2026. eur-lex.europa.eu/legal-content/EN/TXT/?uri=OJ:L_202601744
  4. Coalition for Content Provenance and Authenticity (C2PA) (2025). Content Credentials: C2PA Technical Specification, version 2.2. C2PA. spec.c2pa.org/specifications/specifications/2.2/specs/C2PA_Specification.html
  5. Kirchenbauer, J., Geiping, J., Wen, Y., Katz, J., Miers, I., & Goldstein, T. (2023). A watermark for large language models. Proceedings of the 40th International Conference on Machine Learning (ICML 2023). arxiv.org/abs/2301.10226
  6. Dathathri, S., See, A., Ghaisas, S., Huang, P.-S., McAdam, R., Welbl, J., et al. (2024). Scalable watermarking for identifying large language model outputs. Nature, 634, 818–823. doi.org/10.1038/s41586-024-08025-4
  7. Fernandez, P., Couairon, G., Jégou, H., Douze, M., & Furon, T. (2023). The Stable Signature: Rooting Watermarks in Latent Diffusion Models. Proceedings of the IEEE/CVF International Conference on Computer Vision (ICCV 2023). arxiv.org/abs/2303.15435
  8. Sadasivan, V. S., Kumar, A., Balasubramanian, S., Wang, W., & Feizi, S. (2023). Can AI-generated text be reliably detected?. arXiv preprint arXiv:2303.11156 (published in Transactions on Machine Learning Research). arxiv.org/abs/2303.11156
  9. Zhao, X., Zhang, K., Su, Z., Vasan, S., Grishchenko, I., Kruegel, C., Vigna, G., Wang, Y.-X., & Li, L. (2024). Invisible Image Watermarks Are Provably Removable Using Generative AI. Advances in Neural Information Processing Systems (NeurIPS 2024). arxiv.org/abs/2306.01953

Her kaynak yayıncı, arXiv veya resmî kayıt üzerinden doğrulanmıştır.

Nasıl atıf yapılır

LMXAI. (2026). EU AI Act Madde 50 için C2PA ve yapay zeka filigranı. LMXAI İçgörüler. https://lmxai.com/tr/insights/c2pa-ai-watermarking-article-50.html