← Tüm içgörüler
EU AI Act · GPAI

EU AI Act GPAI yükümlülükleri: bir temel modeli entegre ettiğinizde ne değişir

Bir temel modeli kullanmak sizi onun sağlayıcısı yapmaz. İhtiyacınız olan kanıtı değer zincirindeki rolünüz belirler.

LMXAI · Leiden, NL · Yayın · Güncelleme

Özet

Genel amaçlı bir AI modelini entegre etmek bir kurumu o modelin sağlayıcısı yapmaz, ancak kendine ait görevler doğurur. Bu makale GPAI model sağlayıcılarının yükümlülüklerini bir alt entegratörün ihtiyaç duyduğu kanıttan ayırır, açık ağırlıkların yönetişimi neden ortadan kaldırmadığını açıklar ve tedarikçi durum tespitini ve bir model kaydını anlatır. Temel modeller üzerine araştırmalar teknik gerekçeyi sağlar: üst akıştaki bir modelin kusurları alt akışa miras kalır.

Anahtar kelimeler EU AI Act · genel amaçlı AI · temel modeller · alt entegratör · model kaydı · durum tespiti

İçindekiler

  1. Giriş
  2. Arka plan ve ilgili çalışmalar
  3. GPAI model sağlayıcıları
  4. Alt sağlayıcılar ve entegratörler
  5. Açık ağırlıklı modeller yönetişimi ortadan kaldırmaz
  6. Tedarikçi durum tespiti AI mimarisinin parçası olur
  7. Bir model kaydı oluşturun
  8. LMXAI yaklaşımı
  9. İlgili okumalar
01

Giriş

Genel amaçlı bir AI modelini kullanmak, bir kurumu otomatik olarak o modelin sağlayıcısı yapmaz. EU AI Act, bir GPAI modelini sağlayan kurum ile onun üzerine sistem kuran alt sağlayıcıları veya entegratörleri birbirinden ayırır.

Bu ayrım önemlidir, çünkü ihtiyacınız olan uyum kanıtı değer zincirindeki rolünüze bağlıdır.

02

Arka plan ve ilgili çalışmalar

Temel model (foundation model) terimi, geniş veriyle eğitilip birçok alt göreve uyarlanan modeller için ortaya atılmıştır. Aynı rapor, bu homojenleşmenin temel modelin kusurlarının alt akıştaki tüm uyarlanmış modellere miras kalması anlamına geldiği konusunda uyarır[1]. Bir entegratörün üst akıştaki modeli başkasının sorunu olarak göremeyeceğinin teknik nedeni budur.

Üst akıştaki şeffaflık sınırlıdır. 2023'te on büyük geliştirici için puanlanan 100 göstergeli bir endeks, hiçbir geliştiricinin amiral gemisi modelinin alt akıştaki etkisi hakkında önemli bilgi açıklamadığını bulmuştur[2]. Üretken AI'nın hukuki analizi geliştiricileri, uygulayıcıları, kullanıcıları ve alıcıları ayırmayı ve görevleri her birine göre uyarlamayı önerir[3]; Tüzük de genel amaçlı AI modellerine ilişkin yükümlülükleri, bunların üzerine kurulan sistemlerinkinden ayrı belirler[4]. Entegratörün kendi kayıtları için model kartları, amaçlanan kullanım ve değerlendirme sonuçları için derli toplu bir format sunar[5].

03

GPAI model sağlayıcıları

Genel amaçlı AI modellerini AB pazarına sunan sağlayıcıların teknik dokümantasyon, alt sağlayıcılar için bilgi, telif hakkı politikası ve eğitim içeriği hakkında kamuya açık şeffaflık konularında yükümlülükleri vardır. Sistemik risk taşıyan modellerin sağlayıcıları ek güvenlik, değerlendirme, olay ve siber güvenlik yükümlülükleriyle karşılaşır.

Avrupa Komisyonu'na göre GPAI yükümlülükleri 2 Ağustos 2025'te uygulanabilir hale gelmiştir; Komisyon'un uygulama yetkileri 2 Ağustos 2026'dan itibaren geçerlidir.

04

Alt sağlayıcılar ve entegratörler

Kurumsal AI ekiplerinin çoğu sıfırdan bir temel model eğitmez. Bir modeli retrieval, araçlar, iş mantığı, veri kaynakları ve bir kullanıcı arayüzüyle birleştirir.

Bu da yine sorumluluklar doğurur.

Bir alt sağlayıcı şunları açıklayabilmelidir:

  • sistemin hangi modeli ve sürümü kullandığını;
  • modelin ürün içinde ne yapmasının beklendiğini;
  • hangi sınırlamaların bilindiğini;
  • üst akıştaki model sağlayıcısından hangi bilgilerin alındığını;
  • modelin bu kullanım senaryosu için nasıl değerlendirildiğini;
  • prompt'lar, retrieval, araçlar ve çıktılar etrafında hangi kontrollerin bulunduğunu;
  • model değişikliklerinin üretime alınmadan önce nasıl test edildiğini.
05

Açık ağırlıklı modeller yönetişimi ortadan kaldırmaz

Açık ağırlıklı bir modeli kendi sunucularında barındırmak veri akışı ve altyapı üzerindeki kontrolü artırabilir, ancak ortaya çıkan AI sistemini Tüzük kapsamında sınıflandırma ihtiyacını ortadan kaldırmaz.

Hukuki rol, kurumun modelle ne yaptığına, onu ne ölçüde değiştirdiğine ve ortaya çıkan sistemin nasıl piyasaya sürüldüğüne veya kullanıldığına bağlıdır. Mühendislik açısından güvenli varsayılan, modelin kökenini, yapılandırmasını, değerlendirme sonuçlarını ve dağıtım geçmişini korumaktır.

06

Tedarikçi durum tespiti AI mimarisinin parçası olur

Bir kurum üçüncü taraf bir model sağlayıcısına bağımlı olduğunda sözleşme ve mimari kararları birbirine bağlanır.

Alt akıştaki ekip, modeli dağıtıldığı bağlamda değerlendirmeye yetecek bilgiyi talep etmelidir. Faydalı sorular:

  1. Hangi model sürümü sağlanıyor ve güncellemeler nasıl bildiriliyor?
  2. Alt sağlayıcılar için hangi teknik dokümantasyon mevcut?
  3. Bilinen sınırlamalar ve amaçlanan kullanım sınırları neler?
  4. Hangi güvenlik ve olay bildirim kanalları var?
  5. Müşteri bir model sürümünü sabitleyebiliyor mu?
  6. Prompt'lar ve çıktılar nerede işleniyor ve saklanıyor?
  7. Sağlayıcı modelin davranışını değiştirdiğinde ne oluyor?
07

Bir model kaydı oluşturun

Pratik bir kurumsal kontrol, her üretim sistemine bağlı bir model kaydıdır.

Her model için şunları kaydedin:

  • sağlayıcı ve model tanımlayıcısı;
  • sürüm veya checkpoint;
  • lisans ve kullanım kısıtları;
  • dağıtım konumu;
  • kuantizasyon veya ince ayar durumu;
  • değerlendirme seti ve kabul eşikleri;
  • bilinen sınırlamalar;
  • değişiklik geçmişi;
  • modele bağımlı sistemler.

Bu, mühendislik, güvenlik ve uyum ekiplerine tek bir ortak doğruluk kaynağı sağlar.

08

LMXAI yaklaşımı

LMXAI temel modelleri yönetişim altındaki bir sistemin içinde değiştirilebilir bileşenler olarak ele alır. Mimari; değerlendirmeyi, kayıt tutmayı, erişim kontrolünü veya denetim kanıtını kaybetmeden sağlayıcı değiştirmeyi ya da modelleri kendi sunucularında barındırmayı mümkün kılmalıdır.

Bu modelden bağımsız tasarım yalnızca egemenlik ve maliyet kontrolü için değil, üst akıştaki modeller değiştiğinde uyum riskini azaltmak için de faydalıdır.

Birincil kaynaklar

09

İlgili okumalar

Kaynakça

  1. Bommasani, R., Hudson, D. A., Adeli, E., Altman, R., Arora, S., et al. (2021). On the opportunities and risks of foundation models. arXiv preprint arXiv:2108.07258. arxiv.org/abs/2108.07258
  2. Bommasani, R., Klyman, K., Longpre, S., Kapoor, S., Maslej, N., Xiong, B., Zhang, D., & Liang, P. (2023). The Foundation Model Transparency Index. arXiv preprint arXiv:2310.12941. arxiv.org/abs/2310.12941
  3. Hacker, P., Engel, A., & Mauer, M. (2023). Regulating ChatGPT and other large generative AI models. Proceedings of the 2023 ACM Conference on Fairness, Accountability, and Transparency (FAccT '23), 1112–1123. doi:10.1145/3593013.3594067 arxiv.org/abs/2302.02337
  4. European Parliament and Council of the European Union (2024). Regulation (EU) 2024/1689 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act). Official Journal of the European Union, L series, 12 July 2024. eur-lex.europa.eu/eli/reg/2024/1689/oj/eng
  5. Mitchell, M., Wu, S., Zaldivar, A., Barnes, P., Vasserman, L., et al. (2019). Model cards for model reporting. Proceedings of the Conference on Fairness, Accountability, and Transparency (FAT* '19), 220–229. doi:10.1145/3287560.3287596 arxiv.org/abs/1810.03993

Her kaynak yayıncı, arXiv veya resmî kayıt üzerinden doğrulanmıştır.

Nasıl atıf yapılır

LMXAI. (2026). EU AI Act GPAI yükümlülükleri: bir temel modeli entegre ettiğinizde ne değişir. LMXAI İçgörüler. https://lmxai.com/tr/insights/eu-ai-act-gpai-downstream-integrators.html