Aracın güvenilirliği ve güvenliği konusunda yüksek düzeyde güvensizlik ve endişe gösteren bir Malwarebytes anketine göre ChatGPT, halkın algı duvarına çoktan çarpmış olabilir.
ChatGPT’nin hayatımıza girmesinden yedi ay sonra, her şeyi değiştirecek olan chatbot’un parlaklığı solmaya başlıyor gibi görünüyor. Malwarebytes tarafından yapılan yeni bir anket, ChatGPT hakkındaki derin çekinceleri ortaya koyuyor ve iyimserlik şaşırtıcı derecede yetersiz. ChatGPT’ye aşina olan yanıtlayanlar arasında:
- %81’i olası güvenlik ve güvenlik risklerinden endişe duyuyordu.
- %63’ü ürettiği bilgilere güvenmiyor.
- %51’i düzenlemelerin yetişebilmesi için bu konudaki çalışmaların durdurulmasını istiyor.
Ankette dile getirilen endişeler, Kasım 2022’de kullanıma sunulmasından bu yana ChatGPT ile ilgili haberlerin gidişatını yansıtıyor.
ChatGPT, OpenAI organizasyonu tarafından geliştirilen bir Yapay Zeka (AI) türüdür. Muazzam miktarda metin verisi üzerinde eğitildiğinden, istemlere veya sorulara insan benzeri yanıtlar üretebilir. Ve bunun ne anlama geldiğini bilmiyorsanız, okuduğunuz son cümlenin ChatGPT tarafından “ChatGPT’yi tek bir paragrafta tanımlayın” talebine verilen yanıtın bir parçası olarak yazıldığını bilmelisiniz. Bu, oluşturduğu metnin tamamıdır:
ChatGPT, OpenAI tarafından GPT-3.5 mimarisine dayalı olarak geliştirilmiş güçlü bir dil modelidir. Muazzam miktarda metin verisi üzerinde eğitildiğinden, istemlere veya sorulara insan benzeri yanıtlar üretebilir. ChatGPT, derin öğrenme yetenekleriyle bağlamı anlar ve tutarlı ve bağlamsal olarak alakalı metinler üretir. Soruları yanıtlama, açıklama yapma ve önerilerde bulunma gibi çeşitli görevlerde yardımcı olabilir. Bir insan olmamasına ve gerçek zamanlı farkındalığa sahip olmamasına rağmen, ChatGPT’nin birden çok dilde metin oluşturma yeteneği, doğruluğu için güvenilir kaynaklarla çapraz doğrulanması gerekmesine rağmen onu çok yönlü bir araç haline getirir.
Piyasaya sürüldükten sonraki günler ve haftalar içinde insanlar onun yeteneklerini keşfettiklerinde, neredeyse mucizevi göründü; bilgisayar programları oluşturmaktan arama motorlarının yerini almaya, öğrencilerin kompozisyonlarını yazmaya ve punk rock şarkıları yazmaya kadar her şeyi yapabilen harika bir araç. Piyasaya sürülmesi, AI ile her şeyi bozmak ve ChatGPT benzeri arayüzleri akla gelebilecek her teknoloji ürününe entegre etmek için bir yarış başlattı.
Ancak yutturmaca döngüsünü bilenler, Şişirilmiş Beklentilerin Zirvesini hızla Hayal Kırıklığı Çukurunun izlediğini bilirler. Tahmin edilebileceği gibi, ChatGPT’nin hızlı yükselişi, eksiklikleri ortaya çıktıkça aynı derecede hızlı bir tepkiyle karşılandı.
Bunların başında, ChatGPT’nin “halüsinasyon” eğilimi, veri bilimcilerin makine öğrenimi modellerinin yarattığı gerçek olmayanlara verdikleri örtmece. Sonuçsal halüsinasyonların ne kadar önemli olabileceğinin belki de en iyi örneği, bir avukatın ChatGPT’yi araştırma olarak kullandığında halüsinasyon gördüğü var olmayan çok sayıda yasal davaya atıfta bulunduktan sonra kendisini ciddi bir sıcak su içinde bulduğu bir dava olan Mata – Avianca, Inc davasıdır. alet.
Bu arka plana karşı Malwarebytes, lansmanından altı ay sonra ChatGPT hakkında ne düşündüklerini görmek için geniş haber bülteni abone havuzunda anket yapmaya karar verdi.
Etrafını saran tüm aldatmacalara rağmen, teknolojiden anlayan yanıtlayanlarımızın yalnızca %35’i “ChatGPT’ye aşinayım” ifadesine katıldı; bu, aynı fikirde olmayan %50’den önemli ölçüde daha az.
ChatGPT’ye aşina olduğunu iddia edenlerin pek de iyimser bir görüşü yoktu. Bize söyledikleri bu.
Doğru veya güvenilir değil
ChatGPT’nin ilk sorunu, yanıtlayanlarımızın bunun doğru veya güvenilir olduğuna güvenmemeleridir. “ChatGPT tarafından üretilen bilgiler doğrudur” ifadesine yalnızca %12 katılırken, %55’i katılmamıştır, bu büyük bir tutarsızlıktır.
Yanıtlar, “ChatGPT tarafından üretilen bilgilere güveniyorum” ifadesine de benzer şekilde iç karartıcıydı ve yalnızca %10 katılıyorum ve %63 gibi büyük bir oranda katılmıyorum.
Güvenlik ve emniyet için bir risk
ChatGPT güvenilmez olarak görülmekle kalmadı, aynı zamanda emniyet ve güvenlik üzerinde olumsuz bir etki olarak algılandı, çok az kişi onu güvenliği artıracak bir araç olarak gördü ve ezici bir çoğunluk onu bir risk kaynağı olarak gördü.
%51’i “ChatGPT ve diğer yapay zeka araçları İnternet güvenliğini artıracak” ifadesine katılmadı ve bunu güvenlik açısından olumlu gören küçük bir yüzdeyi gölgede bıraktı.
Daha da kötüsü, olağanüstü bir %81’i olası güvenlik ve/veya güvenlik risklerinden endişe duyuyordu.
Yalnız değiller. Mart ayında bir grup teknoloji uzmanı, “Tüm AI laboratuvarlarını, GPT-4’ten daha güçlü AI sistemlerinin eğitimini en az 6 ay süreyle derhal durdurmaya çağırıyoruz” yazan bir mektup imzaladı. Mektup, “insan-rekabetçi zekaya sahip AI sistemleri” tarafından ortaya konulan “derin riskler” konusunda hiçbir yumruk atmadı:
Meli makinelerin bilgi kanallarımızı propaganda ve gerçek olmayan şeylerle doldurmasına izin mi vereceğiz? Meli tatmin edici olanlar da dahil olmak üzere tüm işleri otomatikleştiriyoruz? Meli sonunda sayıca üstün olabilecek, zekâsı geçebilecek, modası geçmiş ve bizim yerimizi alabilecek insan olmayan zihinler geliştiriyor muyuz? Meli uygarlığımızın kontrolünü kaybetme riskini mi alıyoruz?
Mektup, duraklamanın “bağımsız dış uzmanlar tarafından titizlikle denetlenen ve denetlenen gelişmiş AI tasarımı ve geliştirmesi için bir dizi paylaşılan güvenlik protokolünü ortaklaşa geliştirmek ve uygulamak” için kullanılmasını istiyor.
Bu fikri yanıtlayanlarımıza sunduk ve ChatGPT’ye aşina olanların %52’si kabul ederken, bu sayının yarısından azı aynı fikirde değildi.
Çözüm
Anketimiz, ChatGPT’ye aşina olan çok sayıda katılımcının, bunun güvenlik ve emniyet açısından oluşturduğu risklerden endişe duyduğunu gösterdi. Ayrıca ürettiği bilgilere güvenmezler ve düzenlemenin yetişebilmesi için geliştirmede bir duraklama görmek isterler. Geriye kalan, bunun sadece tekil bir endişe anı mı yoksa devam edecek bir eğilim mi olduğudur.
Bir yapay zeka devrimi çok uzun bir süredir hız kazanıyor ve pek çok özel, dar kapsamlı uygulama, bu tür bir güvensizliğe yol açmadan son derece başarılı oldu. Örneğin, Malwarebytes’te Makine Öğrenimi ve yapay zeka, verimliliği artırmaya, kötü amaçlı yazılımları belirlemeye ve birçok teknolojinin genel performansını iyileştirmeye yardımcı olmak için yıllardır kullanılmaktadır.
ChatGPT farklı bir canavar olsa da. Şarkı kodlama ve bestelemeden kötü amaçlı yazılım yapmaya ve yanlış bilgi yaymaya kadar çok çeşitli bilgi işlerinde insanlara yardımcı olabilecek veya onların yerini alabilecek genelleştirilmiş bir yapay zeka aracıdır.
ChatGPT’nin hayatlarımızı nasıl değiştireceği ve işlerimizi elimizden alıp almayacağı konusundaki belirsizlik, gizemli çalışma şekliyle daha da artıyor. Yaratıcıları dahil herkes tarafından bilinmeyen bir miktardır. ChatGPT gibi makine öğrenimi modelleri, bunları oluşturmak için kullanılan bilgi işlem gücü miktarı arttıkça aniden ve beklenmedik bir şekilde ortaya çıkan özellikleri olan “kara kutulardır”.
Gerçek dünyada ortaya çıkan özellikler, aritmetik yapma, üniversite düzeyinde sınavlara girme ve kelimelerin amaçlanan anlamlarını belirleme becerisini içermektedir. Bu görevleri gerçekleştirme yeteneği, daha küçük modellerden tahmin edilemez ve bugünün modelleri, yeni nesil daha büyük modellerin neler yapabileceğini tahmin etmek için kullanılamaz.
Bu bizi hem bireysel hem de toplu olarak çok belirsiz bir gelecekle karşı karşıya bırakıyor. Ciddi yorumcular tarafından tutulan bakış açıları, yapay zekanın varoluşsal bir risk olduğunu düşünenlerden dünyayı kurtaracağını düşünenlere kadar – tam anlamıyla – değişmektedir. Bahisler göz önüne alındığında, yanıtlayanlarımızın dikkatli olması şaşırtıcı değil.
Malwarebytes EDR ve MDR, fidye yazılımının tüm kalıntılarını kaldırır ve yeniden virüs bulaşmanızı engeller. İşletmenizi korumaya nasıl yardımcı olabileceğimiz hakkında daha fazla bilgi edinmek ister misiniz? Aşağıdan ücretsiz bir deneme edinin.
ŞİMDİ DENE