Yapay zekâ halüsinasyonu ve hukukta doğrulama.

Yapay zekânın hukuk pratiğindeki en somut riski yavaşlık ya da yüzeysellik değil, kendinden emin biçimde yanlış olmasıdır. Bir dil modeli "bilmiyorum" demek yerine, olması gerektiği gibi görünen bir cümle üretir. Hukukta bu, doğru biçimde yazılmış ama hiç var olmamış bir karar künyesi demektir. Bu yazı, riskin teknik kaynağını ve her avukatın uygulayabileceği doğrulama disiplinini anlatıyor.

Yapay zekâ halüsinasyonu nedir?

Halüsinasyon, dil modelinin gerçekte var olmayan bir bilgiyi gerçekmiş gibi üretmesidir. Model doğruluğu değil, bir sonraki kelimenin dilsel olasılığını optimize eder. Bu yüzden "Yargıtay 9. Hukuk Dairesi, 2021/1234 E., 2022/5678 K." gibi bir künyeyi, hiç görmemiş olsa bile kusursuz biçimde üretebilir. Biçim doğrudur; içerik yoktur.

Halüsinasyon rastgele değildir: model, eğitim verisinde sık gördüğü kalıpları taklit eder. Karar künyeleri, kanun madde numaraları ve tarih formatları çok düzenli kalıplar olduğu için taklit edilmesi en kolay, dolayısıyla en riskli alanlardır.

Hukukta hangi biçimlerde ortaya çıkar?

Hukuki metinlerde halüsinasyon dört tipik biçimde görülür: (1) var olmayan karar künyesi, (2) var olan karara ait olmayan alıntı cümlesi, (3) yanlış madde numarası veya yürürlükten kalkmış hüküm, (4) doğru kaynağın yanlış yorumlanması. En sinsi olanı dördüncüsüdür; çünkü kaynak gerçektir ve yüzeysel kontrolü geçer.

• Sahte künye: Daire, esas/karar numarası ve tarih uydurulur; hiçbir sistemde bulunmaz.
• Sahte alıntı: Künye gerçektir, ancak tırnak içinde verilen cümle karar metninde geçmez.
• Bayat mevzuat: Değişmiş veya iptal edilmiş madde, yürürlükteymiş gibi aktarılır.
• Aşırı genelleme: Tek bir dairenin somut olaya özgü kararı, yerleşik içtihat gibi sunulur.

"Bir yapay zekâ çıktısında en tehlikeli cümle, yanlış olan değil; doğrulanmadan doğru varsayılandır."

Neden fark edilmesi zordur?

Halüsinasyonlu çıktı üslup olarak kusursuzdur: doğru hukuki terminoloji, doğru künye biçimi, tutarlı gerekçe akışı. İnsan okuru biçimsel doğruluğu içerik doğruluğuyla karıştırır. Üstelik model çekince ifadesi kullanmadığı için okurda yanlış bir kesinlik hissi yaratır. Metnin ikna ediciliği, doğruluğunun değil akıcılığının fonksiyonudur.

Doğrulama kontrol listesi

Her karar künyesi, dilekçeye girmeden önce beş adımlık bir teyitten geçmelidir. Bu liste iki üç dakika sürer ve halüsinasyon kaynaklı hataların büyük bölümünü yakalar:

1. Künyeyi ayrıştırın. Mahkeme/daire, esas no, karar no ve karar tarihini dört ayrı alan olarak yazın. Eksik alan varsa künye doğrulanamaz sayılır.
2. Resmî kaynakta aratın. UYAP Emsal Karar, Yargıtay veya Danıştay karar arama sistemlerinde künyeyi birebir arayın. Bulunamıyorsa kullanmayın.
3. Tam metne gidin. Kararı açın ve alıntılanan cümleyi metin içinde arayın (Ctrl+F). Cümle metinde geçmiyorsa alıntı uydurmadır.
4. Daire ve tarihi teyit edin. Dairenin o konuda görevli olup olmadığını ve karar tarihinin ilgili mevzuat değişikliğinden önce mi sonra mı olduğunu kontrol edin.
5. Güncelliği sorgulayın. Karar bozulmuş, içtihadı birleştirme kararıyla aşılmış veya dayandığı hüküm Anayasa Mahkemesi'nce iptal edilmiş olabilir.

Hangi kontrol neyi yakalar?

Aşağıdaki tablo, her doğrulama adımının hangi halüsinasyon tipini yakaladığını ve yaklaşık süresini gösterir. Adımlar sırayla uygulanmalıdır; ilk adımda elenen künye için sonraki adımlara gerek yoktur.

Riski yapısal olarak düşürmek

Doğrulama kişisel disiplinle sınırlı kalmamalıdır. Riski en çok düşüren yapısal önlem, modelin yanıtı kendi belleğinden değil gerçek bir karar veritabanından getirdiği metinlere dayandırmasıdır. Kaynağa tıklanabilen, tam metne ulaşılan ve alıntının metinde birebir bulunduğu bir mimaride uydurma künye üretimi büyük ölçüde ortadan kalkar; ancak yanlış kaynağı getirme veya yanlış yorumlama riski sürer.

Büro düzeyinde uygulanabilecek üç kural: künyesiz hiçbir hukuki iddia dilekçeye girmez; her künye en az bir kişi tarafından tam metinden teyit edilir; teyit edilmemiş alıntılar taslakta görünür bir işaretle bekletilir.

Sorumluluk kimde?

Dilekçeye giren her beyanın sorumluluğu avukata aittir. Yapay zekâ kullanımı, Avukatlık Kanunu ve TBB Meslek Kuralları çerçevesindeki özen yükümlülüğünü hafifletmez; aksine yeni bir kontrol katmanı ekler. Aracın hızından yararlanmak ile çıktısını denetlemeden benimsemek arasındaki fark, mesleki sorumluluğun tam olarak durduğu yerdir.

Kızılelma AI, yanıtlarını gerçek karar metinlerine dayandırır ve her atıf için tıklanabilir kaynak künyesi ile atıf denetleyici katmanı sunar. Detaylar için çözümler sayfamıza göz atabilirsiniz.

Bu içerik genel bilgilendirme amaçlıdır, hukuki tavsiye değildir.

İlgili Yazılar