Mahkemeye giden uydurma içtihatlar

Yapay zeka hukukunun sembol vakası, bir teknoloji davası değil; sıradan bir tazminat dosyasıdır. 2023’te New York’ta bir avukat, mahkemeye sunduğu dilekçeyi ChatGPT’yle hazırladı. Dilekçe gayet profesyonel görünüyordu: emsal kararlar, dosya numaraları, alıntılar. Tek sorun: kararların birçoğu hiç var olmamıştı. Model, “emsal karar” örüntüsüne kusursuz uyan içtihatlar uydurmuştu; avukat da kontrol etmeden imzalamıştı. Sonuç: yaptırım, tutanaklara geçen bir mahcubiyet ve dünya basınına malzeme. (Dava kayıtlarda Mata v. Avianca olarak geçiyor; mahkemenin yaptırım kararı kamuya açık.) O günden beri farklı ülkelerde benzer vakalar tekrarlandı — uydurma atıflı dilekçeler artık mahkemelerin tanıdığı bir tür oldu.

Bu vaka iki şeyi aynı anda gösteriyor. Birincisi teknik: model bozulduğu için değil, tasarımı gereği uydurdu — “olası görüneni üretmek” onun tek işi. Bu mekanizmayı halüsinasyon neden olur yazısında anlatmıştım. İkincisi hukuki: yaptırımı yiyen model değil, avukat oldu. İmzayı atan sorumludur — ve bu ilke, göreceğimiz gibi, yapay zeka hukukunun şimdilik en sağlam direği.

Bu yazıda dört büyük başlığı haritalayacağım: telif, sorumluluk, deepfake ve regülasyon. Baştan söyleyeyim: net cevaplardan çok iyi sorular var. Ama “hukuk boş” sanısı da yanlış — alan, sanılandan hızlı doluyor.

Telif: iki ayrı dava, iki ayrı soru

Telif tartışması aslında iki ayrı sorudur ve karıştırılınca içinden çıkılmaz hale gelir.

Soru 1 — Girdi: Modeller, internetten toplanan devasa metin ve görsel arşivleriyle eğitiliyor (nasıl eğitildiklerini burada anlattım); bu arşivlerde telifli kitaplar, haberler, sanat eserleri var. Eserin izinsiz eğitim verisi yapılması ihlal midir? Şirketlerin savunması, bunun eseri kopyalamak değil “örüntü öğrenmek” olduğu ve adil kullanım sayılması gerektiği yönünde; hak sahipleri ise emeklerinin, kendileriyle rekabet edecek sistemlere bedelsiz yakıt yapıldığını söylüyor. New York Times’ın OpenAI’a açtığı dava ve sanatçıların görsel üreticilere açtığı davalar bu sorunun etrafında dönüyor. İlk kararlar ve büyük lisans/uzlaşma anlaşmaları gelmeye başladı, ama yerleşik bir dünya standardı henüz yok. Bu arada pratik bir orta yol da büyüyor: yayıncılarla lisans anlaşmaları ve “verimi eğitimde kullanma” seçenekleri.

Soru 2 — Çıktı: Yapay zekanın ürettiği metnin, görselin telif hakkı kimde? Birçok hukuk sisteminin şimdiki eğilimi net sayılır: telif, insan yaratıcılığını korur; ABD Telif Ofisi, salt makine üretimi içeriğe tescil vermeyi reddediyor. İnsan katkısıyla harmanlanmış işlerde çizgi nereden geçer — prompt yazmak yaratıcılık mıdır? — işte orası hâlâ gri.

Sorumluluk: zincirin hangi halkası?

Yapay zekalı bir sistem zarar verdiğinde — teşhis desteği yanılttığında, kredi algoritması ayrımcılık yaptığında, sohbet botu zararlı tavsiye verdiğinde — kim sorumlu? Modeli eğiten mi, ürünü satan mı, kullanan mı?

Hukukun şimdilik verdiği pratik cevap, avukat vakasındaki ilkedir: denetleme imkanı olan insan. Araç ne kadar yetenekli olursa olsun, hukuk onu araç sayıyor; kararın ve imzanın sahibi sorumluluğu taşıyor. Bu sitenin diliyle: stajyer metaforu hukuken de geçerli — stajyerin imzası olmaz.

Ama bu ilkenin gerilmeye başladığı yerler var. Sistem otonomlaştıkça — insan onayı beklemeden işlem yapan “ajan” sistemler yaygınlaştıkça — “denetleyen insan” halkası inceliyor. Ayrıca kusurun kaynağı kullanıcı değil modelin kendisiyse (örneğin sistematik bir önyargı eğitim verisinden geliyorsa), sorumluluğun bir bölümünün üreticiye kayması tartışılıyor; AB’nin ürün sorumluluğu kurallarının yazılımı ve yapay zekayı kapsayacak biçimde güncellenmesi bu yöndeki somut adımlardan.

Deepfake: kanıtın kendisi şüpheli hale gelince

Üretici modeller, gerçek kişilerin inandırıcı sahte görüntü ve seslerini ucuzlattı. Zararlar somut ve büyüyor: rızasız müstehcen içerik (kurbanları ezici çoğunlukla kadınlar), ses taklidiyle dolandırıcılık (“annecim, başım dertte, para gönder”), seçim dönemi sahte videoları.

Hukuk burada görece hızlı davranıyor — çünkü çoğu durumda yeni bir kavram gerekmedi: iftira, dolandırıcılık, kişilik haklarının ihlali zaten suçtu; deepfake bunların yeni aracı. Birçok ülke yine de özel düzenlemeler ekliyor: rızasız cinsel deepfake’i açıkça suç sayan yasalar, seçim reklamlarında yapay içeriğe etiket zorunlulukları, platformlara hızlı kaldırma yükümlülükleri.

Asıl sinsi zarar ise tek tek sahtekarlıklar değil, genel güven erozyonu: her video sahte olabiliyorsa, gerçek videonun kanıt gücü de zayıflar. Utanç verici bir kaydı “deepfake’tir” diye reddetmek, yeni bir savunma türü olarak şimdiden mahkemelerde. Teknik tespit araçları bir yere kadar yardımcı; üretim araçları geliştikçe tespit zorlaşıyor. Uzun vadeli çözüm arayışı, “sahteyi yakalama”dan “gerçeği belgeleme”ye kayıyor — çekim anında içerik kimliklendirme standartları gibi.

Regülasyon: AB öncü, dünya yamalı bohça

Devletler ne yapıyor? En kapsamlı hamle Avrupa’dan geldi: AB Yapay Zeka Yasası (AI Act), 2024’te kabul edilip kademeli olarak yürürlüğe giren, dünyanın ilk geniş kapsamlı yapay zeka kanunu. Mantığı sade ve bence öğretici: teknolojiyi değil, riski düzenle. Uygulamalar risk basamaklarına ayrılıyor: kabul edilemez risk (ör. devlet eliyle sosyal puanlama, bazı biyometrik gözetim türleri) yasak; yüksek risk (işe alım, kredi, sağlık, adalet alanındaki sistemler) sıkı yükümlülüklere — test, dokümantasyon, insan gözetimi — tabi; sınırlı risk için şeffaflık şart (botla konuştuğunu bilmek, yapay içeriğin etiketlenmesi); geri kalan büyük çoğunluk serbest. Genel amaçlı modellere de ayrı şeffaflık ve değerlendirme yükümlülükleri getirildi.

Dünyanın geri kalanı farklı yollarda: ABD federal düzeyde kapsamlı yasa yerine eyalet yasaları, kurum kuralları ve gönüllü taahhütlerle ilerliyor; Çin, üretici içerik etiketleme ve algoritma kayıt zorunluluklarıyla kendi modelini kurdu; Türkiye dahil pek çok ülke, KVKK benzeri veri koruma mevzuatının üstüne yapay zeka çerçevesi hazırlıyor. Eleştiriler de cepte: kimine göre AI Act inovasyonu boğacak kadar ağır, kimine göre lobicilikle yumuşatılmış halkalı bir kalkan. İkisinde de pay var; ilk büyük içtihatlar gelene kadar kesin hüküm vermek aceleci olur.

“Hukuk yavaş ama boş değil”

Toparlayalım. Evet, hukuk teknolojiden yavaş — bu yapısaldır ve kısmen iyidir; aceleyle yazılan teknoloji yasaları çoğu zaman ya işe yaramaz ya zarar verir. Ama “yapay zeka hukuki boşlukta” cümlesi bugün için yanlış: mevcut hukukun genel ilkeleri (sorumluluk, kişilik hakları, dolandırıcılık, ayrımcılık yasağı) şimdiden uygulanıyor; üstüne özel mevzuat katman katman geliyor.

  1. Telifte iki soruyu ayırın: eğitim verisi ihlal mi (davalar sürüyor, standart oturmadı) ve çıktının telifi kimde (eğilim: salt makine üretimine telif yok).
  2. Sorumluluk şimdilik imza atan insanda — stajyerin imzası olmaz; otonomi arttıkça bu ilke gerilecek, üretici sorumluluğu büyüyecek.
  3. AI Act, risk bazlı düzenlemenin ilk büyük örneği — teknolojiyi değil kullanımın riskini derecelendiriyor; dünyanın geri kalanı parça parça izliyor.

Pratik kapanış, hep aynı kapıya çıkıyor: bu araçları işinizde kullanıyorsanız, hukukun sizden beklediği şey teknik değil mesleki özen. Çıktıyı doğrulayın, kritik kararlarda insanı devrede tutun, kaynağını bilmediğiniz içeriğe imza atmayın. New York’taki avukatın öğrendiğini masrafsız öğrenmenin yolu bu.

Kaynaklar

  • Mata v. Avianca, Inc., 1:22-cv-01461 (S.D.N.Y. 2023). Uydurma ChatGPT içtihatları nedeniyle avukatlara yaptırım uygulanan davanın resmî dosyası; Hakim Castel’in “Opinion and Order on Sanctions” kararı dahil. courtlistener.com
  • The New York Times Company v. Microsoft Corporation (ve OpenAI), 1:23-cv-11195 (S.D.N.Y., 2023’te açıldı). Telifli içeriğin eğitim verisi olarak kullanımına ilişkin emsal niteliğindeki davanın resmî dosyası. courtlistener.com
  • U.S. Copyright Office. Copyright and Artificial Intelligence. Yapay zeka üretimi içeriğin tesciline ilişkin resmî politika sayfası: 2023 tescil rehberi ve telif hakkı-üretici yapay zeka raporları. copyright.gov/ai
  • Avrupa Birliği (2024). Regulation (EU) 2024/1689 — Artificial Intelligence Act. 13 Haziran 2024 tarihli, risk temelli yapay zeka düzenlemesinin resmî tam metni. eur-lex.europa.eu
  • Avrupa Birliği (2024). Directive (EU) 2024/2853 on liability for defective products. Ürün sorumluluğu kurallarını yazılım ve yapay zekayı kapsayacak biçimde güncelleyen 23 Ekim 2024 tarihli direktif. eur-lex.europa.eu