Akademisyenler, ChatGPT ile hibe başvurularının bazı meslektaş incelemelerinin yazıldığını iddia ederek, Avustralya Araştırma Konseyi’nin (ARC) akademisyenleri meslektaşlarının çalışmalarını üretici yapay zeka modellerine aktarmanın bir gizlilik ihlali olabileceği konusunda uyarmasına neden oldu.
ARC_Tracker tweet attı Cuma günü “bazı ARC keşif projeleri değerlendirici raporlarının ChatGPT ile üretildiğine dair” raporlar aldığını bildirdi.
Keşif projeleri, 500.000 $’a kadar devlet hibesi için yarışan çok yıllı araştırma programlarıdır. Tipik olarak başvuranların yalnızca yüzde 15 ila 20’si finanse edilir ve inceleme süreci titizdir.
Ancak ARC_Tracker, bazı araştırma ekiplerinin, uygulamalarının yalnızca “jenerik bir yetersizliği” olan değerlendirici raporları aldıklarını ve en az birinin “yanıtı yeniden oluştur” metnini içerdiğini söyledi – bunun ChatGPT tarafından oluşturulduğunu gösteren bir işaret.
Bir Avustralya üniversitesinde araştırmacı olan ARC_Tracker hesabının arkasındaki Twitter kullanıcısı şunları söyledi: iTnews bazı değerlendirme raporlarının yapay zeka tarafından oluşturulduğu ortaya çıktı.
ARC_Tracker hesap sahibi, “Teklifleri yönlendiren araştırmacılar bana (tümünü veya bir kısmını) aldıkları bazı uzman değerlendirmelerini gönderdiler ve hiçbir eleştiri, görüş, içgörü veya değerlendirme olmaksızın tıpkı bir teklifin basit bir ChatGPT özeti gibi okudular.” söylenmiş iTnews.
“Araştırmacılar bana, bu değerlendirmelerde kullanılan ifadelerin, zaten hibe tekliflerinde bulunan ifadelerin çok basit yeniden düzenlemeleri olduğunu söylüyor.
“Ayrıca ChatGPT’ye kendi hibe tekliflerini koyduklarını ve değerlendirmede gördüklerine çok benzer özetler aldıklarını söylediler…
“Bir araştırmacı tarafından yapılan bir değerlendirmede, değerlendirmenin (bir bölümünün) altında “yanıtı yeniden oluştur” ifadesi yer alıyordu. ChatGPT’nin yanıt sayfasının altında gösterdiği şey budur.
“Değerlendirme metinlerini oluşturmak için ChatGPT’nin kullanıldığına dair dumanlı bir kanıt.”
ARC, o zamandan beri, hakemlere değerlendirmelerinin bir parçası olarak AI kullanmamalarını tavsiye eden bir bildiri yayınladı.
Konsey, “Üretici yapay zeka araçları da dahil olmak üzere, kapalı araştırma yönetim sisteminin dışında size ait olmayan bir materyalin yayınlanması, gizliliğin ihlali anlamına gelebilir” dedi.
AI kullanımına ilişkin rehberliği “yakın gelecekte” güncelleyeceğini de sözlerine ekledi.
Bir ARC sözcüsü söyledi iTnews Buna rağmen “ChatGPT gibi üretken yapay zeka (AI) araçları, akran incelemeleri için geçerli olan politikalarda açıkça “adlandırılmamıştır”, “ortak gizlilik ilkeleri, gizli bilgilerin uygunsuz bir şekilde ifşa edilebileceği hem mevcut hem de gelişmekte olan kanallarda geçerlidir.
“ARC, yeni içerik oluşturmak için algoritmalar kullanan ve araştırma ve hibe programı yönetimi için gizlilik ve güvenlik sorunları sunabilecek üretken yapay zekanın kullanımına ilişkin bir dizi konuyu dikkate alma konusunda yalnız değil…Başvuru sahiplerinin dile getirdiği endişeler, politikalarımıza göre değerlendirilecek ve yanıtlanacaktır” dedi.
Sözcü, akran değerlendirmelerinde ChatGPT kullanımının ne kadar yaygın olduğu konusunda yorum yapmadı; veya Melbourne Üniversitesi gibi bazı üniversitelerin öğrenciler tarafından kullanıldığını belirlemek için yaptığı gibi, akademisyenler tarafından ChatGPT kullanımını belirlemek için AI algılama modellerini kullanmayı düşünüyorsa.
ARC_Tracker, hibe başvurularının ChatGPT destekli akran değerlendirmelerinin altında yatan faktörlerin, akademisyenlerin yönetilemeyen iş yüklerini ve ARC’nin yapay zeka kullanımı hakkında net politikalar yayınlamasının çok uzun sürmesini içerdiğini söyledi.
Hesap sahibi, “ARC hibe tekliflerinin aşırı uzun olması konusunda uzun süredir devam eden bir sorun var” dedi.
“Ödenekte yalnızca üç veya dört araştırmacı varsa, hibe kolayca 100’den fazla sayfaya kadar uzayabilir. 150 sayfalık olanları değerlendirdim.
“Üniversitelerde (kendilerinde birçok sorun olan) akademik iş yükü modellerinde değerlendiricilere genellikle herhangi bir şeyi gözden geçirmeleri için zaman verilmez ve bu nedenle akran değerlendirme süreci genellikle çok fazla baskı altındadır.”
ARC_Tracker, hakemlerin ChatGPT’ye başvurmalarının bir başka nedeninin de “ARC’nin politikalarında açıkça AI üretken metin motorları hakkında bunların kullanımını yasaklayan veya kısıtlayan hiçbir şey olmaması” olduğunu söyledi.
ARC_Tracker, ARC’nin yayınladığı ifadenin üretken AI kullanımını açıkça ele almadığını ekledi.
Hesap sahibi, “Elbette, ARC’nin beyanı, gizlilik politikaları kapsamında, diğer kişilerin hibe metinlerini harici web sitelerine yüklememek için genel gereklilikler olduğunu söylüyor” dedi.
“Ama bu politikayı bir okuyun. Açık, basit ve kesinlikle – şüphesiz – insanları ChatGPT veya benzeri yapay zeka hizmetlerini kullanmamaları konusunda açıkça uyarıyor mu? Öyle düşünmüyorum. Okudum – ifade etmesi oldukça zor.
“ARC bunu her zaman yapıyor: Bir şeyler ters gittiğinde, topluluğun onları çok önceden uyardığı sorunların önüne geçmek yerine, kimsenin kolayca okuyamayacağı eskimiş eski bir politikaya güveniyorlar.”