Avukatlar, ChatGPT’yi sahte içtihattan alıntı yapmaları için onları kandırmakla suçluyor

NEW YORK – Öfkeli bir Manhattan federal mahkeme yargıcına yanıt veren iki özür dileyen avukat, Perşembe günü ChatGPT’yi bir mahkeme dosyasına sahte yasal araştırmayı dahil etmeleri için kandırmakla suçladı.

Avukatlar Stephen A. Schwartz ve Peter LoDuca, Schwartz’ın gerçek olduğunu düşündüğü, ancak aslında yapay zeka destekli sohbet robotu tarafından icat edildiği önceki davalara göndermeler içeren bir havayolu şirketine karşı dava açtıklarından potansiyel cezayla karşı karşıya.

Schwartz, çığır açan yazılımı, bir müvekkilinin 2019’da uçuş sırasında meydana gelen bir yaralanma nedeniyle Kolombiyalı havayolu Avianca’ya karşı açtığı davayı destekleyen yasal emsalleri aramak için kullandığını söyledi.

Kullanıcılardan gelen iddialara makale benzeri cevaplar üreterek dünyanın gözlerini kamaştıran chatbot, Schwartz’ın hukuk firmasında kullandığı olağan yöntemlerle bulamadığı hava yolu kazalarıyla ilgili birkaç vaka önerdi.

Sorun, bu vakaların çoğunun gerçek olmaması veya var olmayan havayollarını içermesiydi.

Schwartz, ABD Bölge Yargıcı B. Kevin Castle, “bu sitenin bu sorunları benim erişimim olmayan bazı kaynaklardan aldığı … yanılgısı altında hareket ettiğini” belirtti.

Alıntıların doğru olduğundan emin olmak için takip araştırması yürütmede “sefil bir şekilde başarısız olduğunu” söyledi.

Schwartz, “ChatGPT’nin sorunları çözebileceğini anlamadım,” dedi.

Microsoft, ChatGPT’nin arkasındaki şirket olan OpenAI’ye yaklaşık 1 milyar dolar yatırım yaptı.

Yapay zekanın insanların çalışma ve öğrenme şeklini nasıl değiştirebileceğini gösteren başarısı, bazıları için endişe yarattı. Yüzlerce endüstri lideri, Mayıs ayında “AI’dan kaynaklanan yok olma riskini azaltmanın, pandemiler ve nükleer savaş gibi diğer toplumsal risklerle birlikte küresel bir öncelik olması gerektiğini” belirten bir mektup imzaladı.

Yargıç Castell, olağandışı olay karşısında şaşkına dönmüş ve üzülmüş göründü ve Avianca’nın avukatları ve mahkeme tarafından sorunla ilgili ilk kez uyarıldıklarında avukatların yanlış yasal alıntıları düzeltmek için hızlı hareket etmemesi nedeniyle hayal kırıklığına uğradı. Avianca, Mart ayındaki dosyalamada sahte içtihatlara atıfta bulundu.

Yargıç, Schwartz’ı bilgisayar programının icat ettiği tek bir yasal davayla karşı karşıya getirdi. Başlangıçta, bir kadın tarafından bir havayolu şirketine karşı açılan ve ancak New York uçağını kaçıran ve ek masraflara katlanmak zorunda kalan bir adam hakkında yasal işleme dönüşen bir haksız ölüm davası olarak tanımlandı.

“Bunun yasal bir saçmalık olduğu konusunda hemfikir miyiz?” diye sordu.

Schwartz, yanlışlıkla kafa karıştırıcı sunumun davanın farklı bölümlerinden alınan alıntılardan kaynaklandığına inandığını söyledi.

Castel onu sorgulamayı bitirdiğinde, Schwartz söyleyecek başka bir şeyi olup olmadığını sordu.

Schwartz, “İçtenlikle özür dilemek istiyorum” dedi.

Hatanın bir sonucu olarak kişisel ve profesyonel olarak acı çektiğini ve “utandığını, aşağılandığını ve derinden pişmanlık duyduğunu” ekledi.

Kendisinin ve çalıştığı şirketin – Livido, Livido ve Opperman – benzer bir şeyin bir daha yaşanmamasını sağlamak için önlemler aldıklarını söyledi.

Davada çalışan diğer avukat Luduca, Schwartz’a güvendiğini ve topladığını yeterince incelemediğini söyledi.

Yargıç, “anlamsız” olduğunu ayırt etmenin ne kadar kolay olduğunu göstermek için belirtilen davalardan birinin bazı kısımlarını yüksek sesle okuduktan sonra, Loduca, “Bunun düzmece bir dava olduğu hiç aklıma gelmemişti” dedi.

Sonucun “beni sonsuza kadar incittiğini” söyledi.

Hukuk firmasının avukatı Ronald Minkoff, hakime talebin “kötü niyete değil ihmale yol açtığını” ve cezayla sonuçlanmaması gerektiğini söyledi.

Avukatlar tarihsel olarak teknolojiyle, özellikle de yeni teknolojiyle zor zamanlar geçirdiler, dedi ve “hiç kolay olmadı.”

Neredeyse federal araştırma yapmayan Bay Schwartz, bu yeni teknolojiyi kullanmayı seçti.Minkoff, standart bir arama motoruyla uğraştığını düşündüğünü ve yaptığı şeyin gerçek ateşle oynamak olduğunu söyledi.

William & Mary Hukuk Fakültesi Hukuk ve Mahkeme Teknolojisi Merkezi’nde doçent ve araştırma müdür yardımcısı olan Daniel Shen, Avianca’nın davasını geçen hafta eyalet ve federal düzinelerce kişisel ve çevrimiçi katılımcının katıldığı bir konferansta tanıttığını söyledi. . Manhattan Federal Mahkemesi dahil Amerika Birleşik Devletleri’ndeki mahkemeler.

Konunun konferansta şok ve kafa karışıklığına neden olduğunu söyledi.

Sheen, “New York’un Güney Bölgesi’nden, büyük davalarla, 11 Eylül’le ilgili tüm büyük mali suçlarla ilgilenen federal bölgeden bahsediyoruz” dedi. “Bu, üretken yapay zeka kullanan bir avukatın olası profesyonel suistimalinin belgelenmiş ilk vakasıydı.”

Davanın, halüsinasyon görme eğiliminde olduğu için avukatların ChatGPT’nin nasıl çalıştığını anlayamayabileceğini, kurgusal şeyler hakkında gerçekçi görünse de gerçekçi olmayan bir şekilde konuşabileceğini gösterdiğini söyledi.

Shen, “Gelecek vaat eden AI teknolojilerini riskleri bilmeden kullanmanın tehlikelerini vurguluyor” dedi.

Hakim, cezaları daha sonra belirleyeceğini söyledi.