ABD'de yapay zeka sorunu: Yargı süreçlerinde delillerin inandırıcılığı tartışılıyor

ABD'de yapay zeka alarmı büyüyor.

Kaliforniya’daki Alameda County Yüksek Mahkemesi’nde görülen bir konut davasında hâkim Victoria Kolakowski, sunulan bir görüntü kaydında şahidin yüz ve ses hareketlerindeki uyumsuzluklar üzerine kanıtın yapay zeka ile üretildiğini tespit etti.

DAVA ERTELENDİ

Belgede gerçek bir şahit üzere gösterilen kayıt, hâkim tarafından deepfake kabul edildi ve dava 9 Eylül’de reddedildi.

Yeniden kıymetlendirme talebi ise 6 Kasım’da reddedildi.

Kolakowski’ye nazaran bu olay, geçersiz yapay zekâ imajlarının mahkemede kanıt olarak sunulduğu birinci örneklerden biri ve çok daha büyük bir tehdidin habercisi.

"GERÇEK OLMAYAN BİR DELİLE DAYANARAK KARAR VERMEKTEN KORKUYORUZ"

Minnesota 10. Yargı Bölgesi hâkimi Stoney Hiljus, her geçen gün daha fazla hâkimin bu durumdan tasa duyduğunu söyledi.

Hiljus, "Hâkimler, gerçek olmayan bir kanıta dayanarak insanların hayatını etkileyecek bir karar vermekten korkuyor." dedi.

Louisiana Beşinci Temyiz Mahkemesi hâkimi Scott Schlegel ise uydurma ses kayıtlarının kolay kolay üretilebileceği ve müdafaa kararı üzere kritik süreçlerde yanlış kararların çıkabileceği uyarısı yaptı:

“Eşim, 30 yıldır benim sesimin her versiyonunu elinde tutuyor. 10 saniye sesle tehdit içeren geçersiz bir kayıt oluşturup rastgele bir mahkemeye götürebilir. O kayıtla bir hâkim muhafaza kararını imzalar.”

Kaliforniya Santa Clara Yüksek Mahkemesi hâkimi Erica Yew ise deepfake kanıtlarının sandığımızdan çok daha sık kullanıldığını fakat bunların raporlandığı bir kayıt sistemi bulunmadığını belirtti.

DELİL SİSTEMİ İÇİN YENİ KURALLAR GÜNDEMDE

Ulusal Eyalet Mahkemeleri Merkezi ve Thomson Reuters Enstitüsü, yargıçların deepfake kanıtlarla mücadelerine yardımcı olmak gayesiyle bir rehber yayımladı.

Rehber, yargıçlara şu soruları sormalarını öneriyor:

- Delilin kaynağı nedir?

- Kimler kanıta erişti?

- Dosyada değişiklik yapıldı mı?

- Ek doğrulayıcı ispat var mı?

Bazı hukukçular, mevcut kanıt doğrulama kurallarının kâfi olmadığını ve yapay zekâ ile ilgili özel düzenlemelere gereksinim duyulduğunu savunuyor.

Ancak ABD Yargı Konferansı mayıs ayında sunulan teklifleri kabul etmedi ve mevcut kuralların kâfi olduğu görüşünü benimsedi.

"ARTIK GÜVEN AMA DOĞRULA DEĞİL; GÜVENME VE DOĞRULA DÖNEMİ"

Uzmanlar, yapay zeka sahteciliğinin avukatları da sorumluluk almaya zorlayacağını tabir ediyor.

Louisiana’da bu yıl çıkarılan bir yasa, avukatlara müvekkillerinin sunduğu kanıtların üretildiği sistemi araştırma yükümlülüğü getiriyor.

Dijital kanıt uzmanı Daniel Garrie, sırf teknik araçların kâfi olmayacağını, insan uzmanlığının da gerekli olduğunu belirtti.

Yakın gelecekte metadata bilgileri, belgenin üretim tarihi, cihaz modeli ve düzenleme geçmişi üzere görünmeyen data katmanları, en değerli doğrulama araçlarından biri olacak.

Uzmanlar, yapay zekanın yargı sisteminin temel desteğini sarsabileceği ihtarında bulunuyor.

Kaynak: {Haber Merkezi}