YÜKSEK MAHKEME’DEN YAPAY ZEKAYA UYARI

İngiltere ve Galler Yüksek Mahkemesi, avukatları hukuki araştırmalarda ChatGPT gibi üretken yapay zeka (YZ) araçlarına güvenmenin riskleri konusunda uyarıyor. Yargıç Victoria Sharp, bu araçların sağladığı sahte bilgilere dayanarak mahkemeye sunum yapan avukatların ciddi yaptırımlarla karşılaşabileceğini vurguladı.

YARGIÇTAN AÇIK UYARI: “GÜVENİLİR DEĞİL”

Yargıç Victoria Sharp, verdiği kararda, üretken yapay zeka araçlarının “güvenilir hukuki araştırmalar yürütme kapasitesine sahip olmadığını” net bir biçimde ifade etti. Bu araçlar, görünüşte mantıklı ve tutarlı yanıtlar verebilse de, yanlış bilgi üretebiliyor. Avukatların araştırmalarında yapay zekayı kullanabileceğini, ancak “mesleki çalışmalarında kullanmadan önce, yetkili kaynaklara başvurarak bu tür araştırmaların doğruluğunu kontrol etme” gibi mesleki bir sorumlulukları olduğunu belirtti.

SAHTE DAVA ÖRNEKLERİ ARKADA YATIYOR

Bu karar, avukatların mahkeme süreçlerinde yapay zeka tarafından oluşturulmuş sahte davalara ve tebligatlara atıfta bulunduklarının belirlendiği iki yeni davanın ardından alındı. Bir davada, bir avukatın sunduğu 45 alıntının 18’inin hiç var olmadığı belirlendi. Katar Ulusal Bankası ile ilgili olan 120 milyon dolarlık başka bir davada ise bir avukatın, gerçek olmayan 18 farklı davaya atıf yaptığı ortaya çıktı. Müvekkil, yapay zeka ile üretilen hatalı bilgiler yüzünden mahkemeyi yanıltmış olduğu için özür dilemek zorunda kaldı.

HUKUKİ YAPTIRIMLAR CİDDİ OLABİLİR

Yargıç Sharp, sahte belgeleri gerçekmiş gibi sunmanın mahkemeye saygısızlık olarak değerlendirilebileceğine ve “en kötü durumlarda” adaletin seyrini saptırabileceğine dikkat çekti. Bu tür davranışlar, mesleki yükümlülüklerine uymayan avukatlar için ciddi para cezaları ve hatta hapis cezasıyla sonuçlanabilir.