Gerçek Avukatını Kovup ChatGPT’ye Güvendi: Hukuk Dünyasında Görülmemiş “Halüsinasyon” Krizi!
Yapay zeka araçları hayatımızı kolaylaştırsa da, bazen “fazla özgüven” felaketle sonuçlanabiliyor. ABD’de yaşanan son olay, yapay zekanın sunduğu her bilgiye koşulsuz güvenmenin bedelini gözler önüne serdi. ChatGPT’nin uydurduğu emsal kararlarla mahkemeye giden bir kadın, hem kendisini hem de teknoloji devi OpenAI’ı dev bir tazminat davasının ortasına itti.
“Avukatın Seni Manipüle Ediyor” Diyen Bot, Ortalığı Karıştırdı
Her şey Illinois’te yaşayan Graciela Dela Torre’nin, sonuçlanmış bir tazminat davasını yeniden açmak istemesiyle başladı. Kendi avukatının “Bu dava hukuken bitti, yeniden açamayız” uyarısını dinlemek yerine ChatGPT’ye danışan Dela Torre, hiç beklemediği bir yanıt aldı. Yapay zeka botu, kadının avukatı tarafından manipüle edildiğini iddia ederek, davayı nasıl canlandırabileceğine dair “yol haritası” çizdi. Sonuç mu? Tam bir hukuk skandalı.
44 Belge ve Tamamen Hayal Ürünü Bir “Emsal Karar”
ChatGPT’nin yönlendirmesiyle avukatını kovan Dela Torre, mahkemeye tam 44 adet yasal belge sundu. Ancak belgeler incelendiğinde şok edici bir gerçek ortaya çıktı: Botun sunduğu ve davanın temelini oluşturan “Carr v. Gateway, Inc. 9” isimli emsal karar gerçekte hiç var olmamıştı! Bu karar sadece ChatGPT’nin “zihninde” ve sunduğu kağıtlarda yaşıyordu. Hukuk literatüründe “halüsinasyon” olarak adlandırılan bu durum, karşı taraf olan sigorta şirketini 300 bin dolarlık ek masrafa soktu.
OpenAI İçin 10 Milyon Dolarlık Fatura Kapıda
Olay sadece bir kullanıcının hatası olarak kalmadı. Süreçten etkilenen Nippon Life Insurance Company, ChatGPT’nin “avukatlık yetkisi olmadığı halde hukuki tavsiye verdiği” gerekçesiyle OpenAI şirketine dava açtı. Şirket, yaptığı 300 bin dolarlık masrafın iadesinin yanı sıra, OpenAI’dan 10 milyon dolar cezai tazminat talep ediyor. OpenAI cephesi ise şikayetin “dayanaksız” olduğunu savunuyor.
AI Office Türkiye Ekibi Ne Diyor? | Editör Yorumu
AI Office Türkiye Ekibi olarak bu olayı yakından takip ediyoruz. Yapay zekanın baro sınavlarını yüksek puanlarla geçmesi, onun bir “hukukçu” olduğu anlamına gelmiyor. Bu vaka, bizlere iki kritik ders veriyor:
1. Doğrulama (Fact-Checking) Hayat Kurtarır: Yapay zekadan alınan çıktıların, özellikle hukuki ve tıbbi alanlarda mutlaka bir insan profesyonel tarafından denetlenmesi şarttır.
2. Yapay Zekanın Sınırları: LLM (Büyük Dil Modelleri) doğası gereği bazen “mantıklı görünen ama tamamen uydurma” bilgiler üretebilir.
Yapay zeka bir yardımcı pilot (copilot) olarak harikadır; ancak direksiyonu tamamen ona bırakmak, hele ki hukuk gibi hassas bir alanda, bu örnekte olduğu gibi milyon dolarlık krizlere davetiye çıkarabilir.
Kaynak: NuvemMag – Avukatını Bırakıp ChatGPT’ye Güvendi, Hukuki Süreç Krize Döndü
