KRITIK BÖLÜM

Yapay Zekâ, Halüsinasyon ve Sahte İçtihat Riski

Bu bölüm; mesleki sorumluluk, veri koruması veya etik açısından kritik güvenceler içerir.

Bu bölüm, bu ürün dosyasının en önemli bölümüdür. Çünkü hukukta yapay zekânın en büyük riski, yavaş olması veya işe yaramaması değil; ikna edici biçimde yanlış olmasıdır.

Sorunun büyüklüğü

Genel amaçlı büyük dil modelleri, bilmedikleri bir şey sorulduğunda “bilmiyorum” demek yerine, olması gerektiğini düşündükleri yanıtı üretebilirler. Hukukta bu, şu anlama gelir: var olmayan bir Yargıtay kararı, gerçek görünen bir daire ve esas numarasıyla, tam bir alıntıyla birlikte üretilebilir. Metin kusursuz görünür. Ama karar yoktur.

Bunun sonuçları teorik değildir. Dünyanın farklı ülkelerinde, yapay zekânın uydurduğu sahte içtihatları mahkemeye sunan avukatlar tespit edilmiş; para cezası, disiplin işlemi ve ciddi itibar kaybıyla karşılaşmışlardır. Bir avukat için mahkemeye sahte bir kaynak sunmaktan daha ağır bir mesleki hata neredeyse yoktur.

Uydurmayı engelleyen teknik tasarım

MEKANIZMA	NASIL ÇALIŞIR
Kaynak-bağlı üretim (RAG)	Yapay zekâ, hafızasından değil; doğrulanmış mevzuat ve içtihat veritabanından getirdiği metinlere dayanarak yazar.
Zorunlu atıf bağlantısı	Her atfın yanında kaynağa doğrudan bağlantı bulunur. Bağlantısı olmayan atıf üretilemez.
Kaynak doğrulama katmanı	Üretilen metindeki her atıf, veritabanına karşı otomatik doğrulanır. Eşleşmeyen atıf metinden çıkarılır ve işaretlenir.
“Bulamadım” diyebilme	Sistem, aranan konuda kaynak bulamadığında bunu açıkça söyler — boşluğu uydurmayla doldurmaz.
Belirsizlik işaretleme	Emin olunmayan yorumlar ve tartışmalı noktalar avukatın dikkatine sunulur.
Avukat doğrulama zorunluluğu	Hiçbir metin, avukat kaynakları kontrol edip onaylamadan kullanıma alınamaz.

Yapay zekâ ne yapar, ne yapmaz?

YAPAY ZEKÂ NE YAPAR	YAPAY ZEKÂ NE YAPMAZ
Dilekçe ve sözleşme taslağı üretir	İçtihat veya kanun maddesi uydurmaz
Gerçek kaynakları bulur ve gösterir	Hukuki tavsiye vermez
Uzun kararları özetler (kaynak bağlantılı)	Dava sonucunu tahmin etme iddiasında bulunmaz
Sözleşmedeki riskli klozu işaretler	Hukuki stratejiyi belirlemez
Süreyi hesaplar ve hatırlatır	Avukatın sorumluluğunu üstlenmez
Emin olmadığını söyler	Bilmediğini gizlemez ve boşluğu doldurmaz

Neden bunu bu kadar açık yazıyoruz? Çünkü hukukta yapay zekâyı abartılı vaatlerle satmak, avukatı ve müvekkilini gerçek bir tehlikeye atar. “Sizin yerinize dilekçe yazan yapay zekâ” pazarlaması yapan bir ürün, er ya da geç birinin mahkemede sahte bir kaynak sunmasına yol açar. Bu ürünün konumu nettir: yapay zekâ avukatın araştırma ve yazma yükünü hafifletir; hukuki muhakemesini ve sorumluluğunu değil.