Güvenlik Tehditlerine Sahip Güçlü Yapay Zeka?


Yapay Zeka alanı hızla gelişiyor ve OpenAI’nin ChatGPT’si bu devrimde lider konumunda. Bu çığır açan büyük dil modeli (LLM), yapay zekaya yönelik beklentileri yeniden tanımladı.

OpenAI, ilk lansmanından sadece 18 ay sonra büyük bir güncelleme yayınladı: GPT-4o. Bu güncelleme OpenAI ile rakipleri, özellikle de Google gibileri arasındaki uçurumu genişletiyor.

OpenAI, bu hafta başında canlı bir yayın sırasında “o” harfinin “omni” anlamına geldiği GPT-4o’yu tanıttı. Bu son yineleme, çeşitli yönlerde önemli ilerlemeler içeriyor. Burada OpenAI’nin GPT-4o’sunun temel özelliklerinin ve yeteneklerinin bir dökümü bulunmaktadır.

GPT-4o’nun özellikleri

Gelişmiş Hız ve Çok Modluluk: GPT-4o önceki modellere göre daha hızlı çalışır ve yazılı metin, ses ve görseller gibi çeşitli bilgi formatlarını anlama ve işleme konusunda üstündür. Bu çok yönlülük, GPT-4o’nun daha kapsamlı ve doğal etkileşimlere girmesine olanak tanır.

Ücretsiz Katman Genişletme: OpenAI, ücretsiz katman kullanıcılarına bazı GPT-4o özellikleri sunarak yapay zekayı daha erişilebilir hale getiriyor. Bu, konuşmalar sırasında web tabanlı bilgilere erişme, görüntüleri tartışma, dosya yükleme ve hatta (sınırlamalarla birlikte) kurumsal düzeyde veri analizi araçlarını kullanma yeteneğini içerir. Ücretli kullanıcılar daha geniş bir işlevsellik yelpazesinden yararlanmaya devam edecek.

Geliştirilmiş Kullanıcı Deneyimi: Duyuruya eşlik eden blog yazısı bazı etkileyici yetenekleri sergiliyor. GPT-4o artık inandırıcı derecede gerçekçi kahkahalar üretebiliyor, potansiyel olarak tekinsiz vadinin sınırlarını zorluyor ve kullanıcıların benimsemesini artırıyor. Ek olarak, görsel girdiyi yorumlama konusunda da başarılıdır; televizyondaki sporları tanımasına ve kuralları açıklamasına olanak tanır; bu, birçok kullanıcı için değerli bir özelliktir.

Ancak yeni özelliklere ve yeteneklere rağmen ChatGPT’nin potansiyel kötüye kullanımı hala artıyor. Yeni sürüm, her ne kadar önceki sürümlerden daha güvenli kabul edilse de, istismara karşı hâlâ savunmasızdır ve bilgisayar korsanları ve fidye yazılımı grupları tarafından kötü amaçlarla kullanılabilir.

Yeni sürümle ilgili güvenlik endişelerinden bahseden OpenAI, GPT-4o’da uygulamaya konulan yeni ve gelişmiş güvenlik önlemleri hakkında detaylı bir gönderi paylaştı.

ChatGPT 4o ile İlgili Güvenlik Kaygıları

ChatGPT’nin siber güvenlik açısından etkileri, güvenlik liderleri ve uzmanları arasında sıcak bir tartışma konusu oldu; birçok kişi, yapay zeka yazılımının kolayca kötüye kullanılabileceğinden endişe ediyor.

Kasım 2022’deki başlangıcından bu yana Amazon, JPMorgan Chase & Co., Bank of America, Citigroup, Deutsche Bank, Goldman Sachs, Wells Fargo ve Verizon gibi çeşitli kuruluşlar, güvenlik kaygılarını gerekçe göstererek programın erişimini kısıtladı veya programın kullanımını engelledi.

Nisan 2023’te İtalya, OpenAI’yi kullanıcı verilerini çalmakla suçladıktan sonra dünyada ChatGPT’yi yasaklayan ilk ülke oldu. Bu endişeler yersiz değil.

OpenAI Güvenliği Garanti Ediyor

OpenAI, insanlara GPT-4o’nun “ses çıkışlarında korkuluklar sağlayan yeni güvenlik sistemlerine” sahip olduğu ve ayrıca ChatGPT’nin uygunsuz veya güvenli olmayan herhangi bir şey söylemesini önlemek için kapsamlı eğitim sonrası eğitim ve eğitim verilerinin filtrelendiği konusunda güvence verdi. GPT-4o, OpenAI’nin dahili Hazırlık Çerçevesi ve gönüllü taahhütlere uygun olarak oluşturulmuştur. 70’ten fazla harici güvenlik araştırmacısı, piyasaya sürülmeden önce GPT-4o’yu bir araya getirdi.

OpenAI, resmi internet sitesinde yayınlanan bir makalede, siber güvenlik değerlendirmelerinin “orta risk”in üzerinde puan almadığını belirtiyor.

“GPT-4o, eğitim verilerinin filtrelenmesi ve eğitim sonrası model davranışının iyileştirilmesi gibi teknikler aracılığıyla, çeşitli yöntemler aracılığıyla tasarım gereği yerleşik bir güvenliğe sahiptir. Ayrıca ses çıkışlarında korkuluk sağlamak için yeni güvenlik sistemleri de oluşturduk. Siber güvenlik, KBRN, ikna ve model özerkliğine ilişkin değerlendirmelerimiz, GPT-4o’nun bu kategorilerin hiçbirinde Orta riskin üzerinde puan almadığını gösteriyor” dedi.

“Bu değerlendirme, model eğitim süreci boyunca bir dizi otomatik ve insan değerlendirmesinin yürütülmesini içeriyordu. Modelin yeteneklerini daha iyi ortaya çıkarmak için özel ince ayar ve istemler kullanarak modelin hem güvenlik öncesi azaltma hem de güvenlik sonrası azaltma sürümlerini test ettik” diye ekledi.

OpenAI, riskleri belirlemek ve güvenliği artırmak için 70’in üzerinde uzmanın hizmetlerinden de yararlandığını paylaştı.

“GPT-4o ayrıca, yeni eklenen yöntemlerin getirdiği veya güçlendirdiği riskleri tanımlamak için sosyal psikoloji, önyargı ve adalet ve yanlış bilgilendirme gibi alanlarda 70’ten fazla harici uzmanla kapsamlı bir harici kırmızı ekip çalışmasına tabi tutuldu. Bu öğrendiklerimizi, GPT-4o ile etkileşimin güvenliğini artırmak amacıyla güvenlik müdahalelerimizi oluşturmak için kullandık. Yeni riskler keşfedildikçe bunları azaltmaya devam edeceğiz” dedi.

Medya Yasal Uyarısı: Bu rapor, çeşitli yollarla elde edilen iç ve dış araştırmalara dayanmaktadır. Sağlanan bilgiler yalnızca referans amaçlıdır ve bu bilgilere güvenme konusunda tüm sorumluluk kullanıcılara aittir. Cyber ​​Express bu bilgilerin kullanılmasının doğruluğu veya sonuçları konusunda hiçbir sorumluluk kabul etmez.



Source link