ABD’nin New Mexico eyaletinde bir avukat, ChatGPT ile hazırladığı temyiz dilekçesinde uydurma tanık ifadeleri ve hatalı hukuki atıflar kullandığı gerekçesiyle mahkeme tarafından cezalandırıldı. Karar, yapay zekâ araçlarının profesyonel işlerde kullanılmasında son kontrolün hâlâ kullanıcıda olduğunu bir kez daha gündeme taşıyor.
New Mexico Yüksek Mahkemesi, ceza savunma avukatı Stephen Aarons’ı doğrudan mahkemeye saygısızlıktan sorumlu tuttu. Mahkeme ayrıca Aarons’ı daha ileri inceleme için disiplin kuruluna sevk etti, 5 bin dolar para cezası verdi ve süreç tamamlanana kadar eyaletin en yüksek mahkemesi önünde duruşmalara çıkmasını engelledi.
Mahkemenin tespit ettiği sorun neydi?
Dosyaya göre Aarons, bir cinayet mahkûmiyetine karşı yapılan temyiz başvurusunda ChatGPT’den yararlandı. Ancak sunulan metinde, duruşmada hiç dinlenmemiş kişilere aitmiş gibi gösterilen ifadeler, yanlış isimler ve önceki dava kararlarının hatalı aktarımı yer aldı.
Mahkeme kayıtlarına göre avukat, imzasını attığı dilekçedeki olgusal iddiaları ve hukuki dayanakları bağımsız olarak doğrulamadığını kabul etti. Ayrıca bu hataları müvekkiline de bildirmediği belirtildi. Mahkeme, bunun yalnızca teknik bir yazım hatası değil, dava dosyasının güvenilirliğini doğrudan zedeleyen bir sorun olduğu görüşünde.
ChatGPT nasıl devreye girdi?
Aarons, duruşmada cinayet yargılamasına ait bilgisayar üretimi bir dökümü ve ilgili bazı belgeleri ChatGPT’ye verdiğini, sistemin de buna dayanarak bir özet oluşturduğunu söyledi. Avukatın ifadesine göre kullandığı sürüm, 2025 içinde kullanıma sunulan OpenAI o3 modelini temel alıyordu.
Buradaki temel sorun, üretken yapay zekâ sistemlerinin bazen gerçekte olmayan bilgi üretmesi; buna sektörde sıkça “halüsinasyon” deniyor. Mahkeme ise bu teknik riskin, avukatın doğrulama yükümlülüğünü ortadan kaldırmadığını açık biçimde vurguladı. Yargıçlara göre bir metin ister yapay zekâdan, ister bir stajyerden, ister başka bir avukattan gelsin, mahkemeye sunan kişi içeriğin doğruluğundan sorumlu.
Dava dosyasında şimdi ne olacak?
Mahkeme, daha önce sunulan tüm dilekçeleri kayıttan çıkardı ve sanık için kamu savunma ofisinin yeni bir avukat görevlendirmesine karar verdi. Dosyanın mahkemenin 2026-27 döneminde ilerlemesi bekleniyor.
Bu karar, yapay zekânın özellikle hukuk, sağlık ve kamu hizmeti gibi hata toleransı düşük alanlarda “yardımcı araç” olarak görülmesi gerektiğini gösteriyor. Araç ne kadar yaygınlaşırsa yaygınlaşsın, doğrulama yapılmadan üretilen metni resmî belgeye dönüştürmenin bedeli hem kullanıcı hem de temsil ettiği kişi için ağır olabiliyor.
