OpenAI, girdi içeriğinin ChatGPT gibi yapay zeka araçları kullanılarak oluşturulup oluşturulmadığını tespit etmeye çalışan bir AI metin sınıflandırıcısı yayınladı.
Yeni bir OpenAI blog gönderisi, “AI Metin Sınıflandırıcı, bir metin parçasının AI tarafından ChatGPT gibi çeşitli kaynaklardan üretilmiş olma olasılığını tahmin eden ince ayarlı bir GPT modelidir.”
OpenAI, çok sayıda üniversite ve K-12 okul bölgesinin, öğrencilerin kitap raporları ve makaleler yazma ve hatta programlama ödevlerini tamamlama gibi öğrencilerin ev ödevlerini tamamlama becerisi nedeniyle şirketin popüler ChatGPT AI sohbet robotunu yasaklamasından sonra aracı bugün piyasaya sürdü.
BusinessInsider’a göre ChatGPT, NYC, Seattle, Los Angeles ve Baltimore K-12 devlet okulu bölgelerinde yasaklandı ve Fransa ve Hindistan’daki üniversiteler de platformu okul bilgisayarlarında yasakladı.
BleepingComputer, OpenAI’nin yeni AI metin sınıflandırıcısını test etti ve çoğunlukla oldukça yetersiz buldu.
OpenAI’nin AI metin sınıflandırıcısını kendi içeriğimizin çoğuna karşı test ederken, makalelerimizi bir insanın yazdığını doğru bir şekilde belirledi.
Ancak, ChatGPT ve You.com’un yapay zeka sohbet robotu tarafından oluşturulan içeriği analiz ederken, metnin yapay zeka tarafından oluşturulup oluşturulmadığını tespit etmede pek çok zorluk yaşadı.
Eğitimciler, öğrencilerin ev ödevlerinde kopya çekip çekmediklerini kontrol etmek için muhtemelen yeni AI Metin Sınıflandırıcıları kullanacaklarından, OpenAI bunun akademik sahtekarlığı belirlemek için “tek kanıt parçası” olarak kullanılmaması gerektiği konusunda uyarıyor.
OpenAI, “Sınıflandırıcımız tamamen güvenilir değil” diye uyarıyor.
“İngilizce metinlerden oluşan bir ‘meydan okuma seti’ hakkındaki değerlendirmelerimizde, sınıflandırıcımız yapay zeka tarafından yazılmış metnin (gerçek pozitifler) %26’sını doğru bir şekilde ‘olası yapay zeka tarafından yazılmış’ olarak tanımlarken, insan tarafından yazılan metni yanlış bir şekilde yapay zeka tarafından yazılmış %9 olarak etiketliyor. zamanın (yanlış pozitifler).”
“Sınıflandırıcımızın güvenilirliği genellikle giriş metninin uzunluğu arttıkça artar”
Sınıflandırıcının başarısı muhtemelen zaman geçtikçe artacaktır ve daha fazla veri ile eğitilecektir. Ancak şimdilik, yapay zeka tarafından oluşturulan içeriği tespit etmek için güvenilir bir araç değil.