Yapay zeka bilimsel yayıncılığı nasıl değiştiriyor?

İnanılmaz derecede büyük penise sahip bir farenin illüstrasyonu. Başka bir çizimde çok sayıda kemik içeren insan bacakları gösterilmektedir. “Elbette, bu sizin konunuza olası bir giriştir” ile başlayan bir giriş.

Bunlar, yakın zamanda akademik dergilerde yer alan ve akademik yayıncılık endüstrisini kasıp kavuran yapay zeka tarafından oluşturulan metin ve görsel dalgasına ışık tutan yapay zekanın daha korkunç örneklerinden bazıları.

Çalışmalardaki sorunları takip eden birçok uzman, AFP’ye yapay zekanın yükselişinin milyarlarca dolar değerindeki bir sektördeki mevcut sorunları daha da kötüleştirdiğini söyledi.

Tüm uzmanlar, ChatGPT gibi yapay zeka yazılımlarının, dikkatli bir şekilde incelenip açıklanması durumunda, araştırma makalelerinin yazılması veya çevrilmesi için yararlı bir araç olabileceğini vurguladı.

Ancak bu, bir şekilde hakem değerlendirmesini geçmiş olan birkaç yeni vaka için geçerli değil.

Bu yılın başlarında, devasa cinsel organlara sahip bir farenin canlı bir şekilde çizilmiş yapay zeka görüntüsü, sosyal medyada geniş çapta yayıldı.

Çalışma, daha sonra çalışmayı geri çeken Frontiers adlı dev bir akademik dergide yayınlandı.

Başka bir çalışma, ellere benzeyen çok eklemli kemiklere sahip bacakları gösteren bir AI grafiği nedeniyle geçen ay geri çekildi.

Bu örnekler görsel olsa da, Kasım 2022’de başlatılan bir sohbet robotu olan ChatGPT’nin, dünya çapındaki araştırmacıların bulgularını sunma biçimini önemli ölçüde değiştiren şey olduğuna inanılıyor.

Elsevier tarafından Mart ayında yayınlanan bir çalışma, tanıtımı için viral hale geldi; bu, açıkça bir ChatGPT istemiydi ve şunu söylüyordu: “Elbette, işte konunuza olası bir giriş.”

Birkaç uzman AFP’ye bu tür utanç verici örneklerin nadir olduğunu ve daha prestijli dergilerdeki hakem değerlendirme sürecinden geçme ihtimalinin düşük olduğunu söyledi.

Kağıt fabrikalarında devirme

Yapay zeka kullanımının tespit edilmesi her zaman kolay değildir. Ancak bir ipucu, ChatGPT’nin belirli kelimeleri tercih etme eğiliminde olmasıdır.

University College London’da kütüphaneci olan Andrew Gray, kesin, karmaşık veya övgüye değer gibi kelimelerin aşırı kullanımını bulmak için milyonlarca araştırma makalesini taradı.

2023 yılında en az 60.000 araştırma makalesinin yapay zeka kullanımını kapsayacağı belirlendi, bu da yıllık toplamın yüzde birinden fazla.

Gray, AFP’ye “2024’te sayılarda önemli bir artış göreceğiz” dedi.

Bu arada ABD merkezli Retraction Watch grubuna göre geçen yıl 13.000’den fazla makale geri çekildi; bu tarihteki en yüksek sayıydı.

Retraction Watch’ın kurucu ortağı Ivan Oransky, AFP’ye yapay zekanın bilimsel yayıncılık ve akademideki kötü aktörlerin “çöp” gazetelerin “fazlasını üretmesine” olanak sağladığını söyledi.

Kötü aktörler arasında sözde kağıt fabrikaları da var.

Bilimsel görsellerin manipülasyonunu tespit etme konusunda uzman Hollandalı araştırmacı Elisabeth Beck, bu “dolandırıcıların” telif haklarını araştırmacılara sattıklarını ve büyük miktarda çok düşük kaliteli, çalıntı veya sahte araştırma yayınladıklarını söyledi.

Beck, AFP’ye yaptığı açıklamada, tüm çalışmaların yüzde ikisinin kağıt fabrikaları tarafından yayınlandığına inanıldığını, ancak yapay zekanın baraj kapaklarını açmasıyla bu oranın “dramatik bir şekilde arttığını” söyledi.

Akademik yayıncılık devi Wiley, 2021’de zor durumdaki Hindawi yayınevini satın aldığında bu sorun vurgulandı.

Bir Wiley sözcüsü AFP’ye verdiği demeçte, o tarihten bu yana Amerikan şirketinin Hindawi dergisinin özel sayılarıyla ilgili 11.300’den fazla makaleyi geri çektiğini söyledi.

Wiley artık yapay zekanın kötüye kullanımını tespit etmek için yapay zeka tarafından desteklenen bir “Kağıt Fabrikası Tespit Hizmeti”ni kullanıma sundu.

“kısır döngü”

Oransky, sorunun sadece kağıt fabrikalarında değil, araştırmacıları “yayınlamaya ya da yok olmaya” iten daha geniş bir akademik kültürde yattığını vurguladı.

“Yayıncılar bu yüksek hacimli sistemleri oluşturarak yüzde 30 ila 40 marj ve milyarlarca dolar kar elde etti” dedi.

Giderek daha fazla araştırma makalesine olan talebin, üretimleri nedeniyle gölgede kalan akademisyenler üzerinde baskı oluşturduğunu ve bir “kısır döngü” yarattığını söyledi.

Pek çok kişi zamandan tasarruf etmek için ChatGPT’ye yöneldi ve bu mutlaka kötü bir şey değil.

Neredeyse tüm bilimsel makaleler İngilizce olarak yayınlandığından Beck, yapay zeka destekli çeviri araçlarının, kendisi de dahil olmak üzere, ana dili İngilizce olmayan araştırmacılar için çok değerli olabileceğini söyledi.

Ancak yapay zekanın yaptığı hataların, icatların ve kasıtsız intihallerin toplumun bilime olan güvenini giderek aşındırabileceğine dair endişeler de var.

Geçen hafta, bir araştırmacının akademik bir dergide yayınlanan kendi çalışmalarından biri için ChatGPT’nin yeniden yazılmış bir versiyonu gibi görünen bir şeyi keşfetmesiyle yapay zekanın kötüye kullanımının başka bir örneği gün ışığına çıktı.

Amerika Birleşik Devletleri’ndeki Brigham Young Üniversitesi’nde biyoinformatik profesörü olan Samuel Payne, AFP’ye, çalışmayı Mart ayında gözden geçirmesinin istendiğini söyledi.

Bunun kendi çalışmasından “% 100 intihal” olduğunu anladıktan sonra – ancak metnin bir yapay zeka programı tarafından yeniden işlendiği anlaşılıyor – makaleyi reddetti.

Payne, çalınan eserin başka bir yerde, Wiley’nin yeni dergisinde yayınlandığını öğrendiğinde “şok” olduğunu söyledi. Protein analizi.

Geri alınmadı.

© 2024 Agence France-Presse