Microsoft Bing’de OpenAI’nin Güvenlik Avantajları ve Tehlikeleri

Bir yandan Bing’de OpenAI, bilgisayar korsanlarının trafiği kötü amaçlı web sitelerine yönlendirmesini, arama motoru engellemesini aşmasını, şüphelenmeyen kullanıcılara kötü amaçlı kod dökmesini ve fidye pazarlığı yapmasını kolaylaştırabilir. Ancak öte yandan uzmanlar, OpenAI on Bing’in siber profesyoneller için kod analizini basitleştireceğini ve arama motorlarını tehdit istihbaratı analistleri için anlamlı, güncel bir bilgi kaynağı haline getireceğini söylüyor.

Recorded Future’ın ortak tehdit istihbaratı analisti Alexander Leslie, “OpenAI ve platformları yalnızca örneklem büyüklüğü ve teknolojinin kendisi açısından değil, aynı zamanda ılımlılık açısından da daha iyi hale geldikçe, olumlu yönlerin olumsuzluklardan ağır basacağını düşünüyorum.” , Bilgi Güvenliği Medya Grubu’na söyler.

Microsoft, 7 Şubat’ta Bing arama motorunun ve OpenAI teknolojisinden yararlanan Edge tarayıcısının yeni sürümlerinin bir önizlemesini büyük bir tantanayla açıkladı. 17 Şubat’ta Microsoft, Bing arama motorundaki yeni sohbet robotuyla konuşmaları oturum başına beş soru ve sohbet robotu uzun konuşmalar sırasında alışılmadık ve ürkütücü yanıtlar vermeye başladıktan sonra günde 50 soru ile sınırlayacağını söyledi.

Seattle bölgesindeki yazılım ve bulut devi, dört gün sonra kısıtlamalarını biraz gevşetti ve limitleri oturum başına altı soru ve günde 60 soru olarak yükseltti. Bir oturumun sonunda Microsoft, kullanıcıların yeni bir görüşme başlatmadan önce sohbet geçmişlerini silmelerini isteyecektir. Microsoft, OpenAI teknolojisinin Bing’e eklenmesinin güvenlik üzerindeki etkilerine ilişkin bir ISMG görüşme talebini reddetti.

OpenAI’nin en son tezahürü siber güvenlik için ne anlama geliyor? İşte endüstri uzmanlarının söyleyecekleri (bkz: Evet, Virginia, ChatGPT Kimlik Avı E-postaları Yazmak İçin Kullanılabilir).

OpenAI, Savunmacılar için Kod Analizini Nasıl Basitleştirebilir?

Leslie, uzun vadede, kullanıcılar yapay zekadan yoksun arama motorlarına göre daha özel, doğru ve zamanında sonuçlar alabildiğinden, Bing’de OpenAI’nin olumlu yönlerinin olumsuzluklardan daha ağır basmasını bekliyor. Siber profesyoneller, kod depolarından ve tehdit istihbaratı akışlarından uzlaşma göstergelerinin veritabanlarına kadar tonlarca içeriği elemek zorunda ve Bing’de OpenAI, aramayı basitleştirerek işi kolaylaştırmalıdır.

Sonuçlar yeterince spesifik veya zamanında olmadığından Google ve Bing bugün tehdit istihbaratı uzmanları için harika kaynaklar değil, ancak Leslie, OpenAI’nin özel sonuçlar üretme yeteneğinin bunu değiştirebileceğini söylüyor. Leslie’ye göre, bilgi kaynağı olarak üçüncü taraf araçları yerine arama motorlarını kullanmak, siber profesyoneller için rahatlığı en üst düzeye çıkarırken onlara zaman ve para tasarrufu sağlayacaktır.

Buna ek olarak, Bing’e gömülü OpenAI sürümü, ChatGPT’nin (2021’in sonlarına kadar endekslenen) bağımsız, web tabanlı sürümünden çok daha güncel olacaktır; bu, güvenlik araştırmacılarının kod analizi yapmak için Bing ile entegre OpenAI kullanabileceği anlamına gelir. CyberArk Baş Güvenlik Araştırmacısı Eran Shimony diyor.

Shimony, Bing’deki OpenAI’nin savunucuların daha fazla alanı kapsamasına yardımcı olacağını ve böylece bilgisayar korsanlarının bir kuruluşa saldırmak için çok fazla fırsatı olmayacağını düşünüyor. Ayrıca, kullanım hızlandıkça OpenAI ile Bing’i birbirine bağlayan algoritma sayısının artmasını bekliyor ve sonunda OpenAI ile Google’ın gelişmiş AI ürünlerinin birlikte çalışarak daha iyi ve daha güvenli kod oluşturmak istediğini görmek istiyor.

“Bu platformlar daha iyi hale geldikçe, teknoloji daha iyi hale geldikçe, örneklem boyutu daha iyi hale geldikçe, siber suçlular yapay zeka araçlarının giderek daha az kullanıldığını görecek.”

– Alexander Leslie, yardımcı tehdit istihbarat analisti, Recorded Future

Ancak Check Point’in tehdit istihbarat grubu yöneticisi Sergey Shykevich, yasal aktörlerin Bing’de OpenAI’ye kurumsal bilgileri girme konusunda tereddüt etmeleri gerektiğini söylüyor. Çok sayıda özel koda sahip büyük bir kuruluş, arama motoru bir rakibin sorusuna yanıt olarak aynı kodu tükürebileceğinden, OpenAI on Bing’e hassas hiçbir şey yüklemez.

Ancak Shykevich, bilgisayar korsanlarının aynı endişeleri paylaşmadığını söylüyor. Aslında, hiçbir şeyden şüphelenmeyen kullanıcılara kötü amaçlı kod beslemek için Bing’de OpenAI’den daha fazlasını istemezler.

OpenAI, Trafiği Kötü Amaçlı Web Sitelerine Nasıl Yönlendirebilir?

Recorded Future’dan Leslie, tehdit aktörlerinin karanlık web forumlarında Bing’deki OpenAI teknolojisini kötü amaçlı reklam yapmak ve trafiği kötü amaçlı web sitelerine yönlendirmek için kötüye kullanma hakkında konuşmalara başladığını söylüyor. Arama motoru tabanlı kötü amaçlı reklamcılığın, bilgi çalan kötü amaçlı yazılımları, tek seferlik fidye yazılımlarını ve uzaktan yönetim araçlarını yaymanın birincil yolu olduğunu söylüyor.

OpenAI içindeki şablonlar ve sorgular, aramaların, makalelerin veya alan adlarının arama motorlarında daha fazla algılanabilir hale gelmesini sağlayabilir ve Leslie, rakiplerin yazım yanlışı yapılmış alan adlarını kullanarak ve yasal kaynaklardan içerik çıkararak ve bunu kendi meşru olmayan sitelerine yansıtarak bundan yararlanabileceğini söylüyor. Bu nedenle bilgisayar korsanları, kötü amaçlı reklamlarının etkinliğini değerlendirmek için bir arama motoruna gömülü OpenAI’yi kullanabilir.

Tehdit aktörleri, saldırı vektörlerinin bir aramada yayılması için indirilebilir içeriği yansıtmalıdır ve genellikle Microsoft veya Adobe ürünlerini hedef alırlar. Geleneksel arama motorları, kötü amaçlı sitelerin büyük çoğunluğunu işaretlemede ve kara listeye almada çok etkilidir, ancak OpenAI ile tehdit aktörleri, bu kötü amaçlı reklamları arama sayfasının üst kısmında önerilen sonuçlar olarak yaymayı daha kolay bulabilir.

Leslie, henüz konsept kanıtı geliştirilmemiş olmasına rağmen, tehdit aktörlerinin, trafiği ihlallerin ve istismarların tartışıldığı geleneksel karanlık web kaynaklarına ve siber suç forumlarına yönlendirmek için Bing’e yerleştirilmiş yeni sohbet robotu işlevini kullanmak istediğini söylüyor. Leslie, ChatGPT’nin arama motoru engellemesini aşmanın kolay bir yolunu temsil ettiğini, çünkü kullanıcılara karanlık web forumlarına doğrudan bağlantı sağlamaya hâlâ istekli olduğunu söylüyor Leslie.

OpenAI için İnsan Denetimi Neden Mümkün Değil?

Sonuçlara ince ayar yapmak için insanlara ihtiyaç duyulduğu için, ChatGPT’nin artık siber suçlu veya kötü niyetli kaynaklara doğrudan bağlantılar sağlamamasını sağlamak, hem otomatik hem de toplulukla ilgili denetim gerektirecektir. Kötü amaçlı yazılım geliştirme, kimlik avı ve saldırgan ve yasa dışı içerik otomatik olarak tespit edilebilir, ancak siber suçlular tarafından kullanılan kaynaklara aşina olan araştırmacılar ve tehdit istihbaratı analistleri daha fazla izlemeye ihtiyaç olduğunu söylüyor.

Leslie, “Tehdit aktörlerinin ChatGPT, OpenAI ve bunun gibi sohbet robotlarını otomatik denetlemeyi aşmak için jailbreak yapmanın yollarını bulduklarını zaten gördük,” diyor. “Otomatik moderasyon, insan moderasyonuyla desteklenmelidir, çünkü şu anda, muhtemelen işaretlenmesi gereken sonuçları almanıza izin veren bir dizi geçici çözüm var.”

Ancak Leslie, sosyal medya platformu sağlayıcılarının bulduğu gibi, ölçeklenebilirlik açısından insanların ölçülü olması neredeyse imkansız, çünkü insanların düşük ücretlerle inanılmaz derecede uzun saatler çalışmasını gerektirecek, diyor Leslie. Yapay zeka tarafından desteklenen arama motorlarını kullanmak için daha etkili bir azaltma stratejisinin hesap doğrulaması gerektirebileceğini ekliyor.

Çin veya Bağımsız Devletler Topluluğu ile ilişkili IP adreslerinin OpenAI ile hesap almasının engellenmesi ve Amerika Birleşik Devletleri dışındaki telefon numaralarının daha fazla kontrole tabi tutulması, çoğu rakibin ChatGPT veya diğer OpenAI platformlarını kötüye kullanmasını engelleyecektir. Karanlık web forumu sohbeti, birçok tehdit aktörünün bekleme listelerinde kaldığını ve e-posta adreslerinin veya telefon numaralarının işaretlendiğini gösteriyor.

ChatGPT ve diğer yapay zeka platformları, daha az beceriye sahip tehdit aktörleri ve teknik becerilere sahip olmayan siber suçlular için giriş engellerini azalttı, ancak daha iyi ve daha sağlam denetleme, isteklerinin çoğunun işaretlenmesine veya tamamen reddedilmesine neden oldu. Teknoloji ve moderasyon yapay zeka yeteneklerini geliştirmeye devam ederken, Leslie olumlu yönlerin olumsuzluklardan daha ağır basacağını söylüyor (bkz: Nikesh Arora: ChatGPT Güvenliğin Başına Gelen En İyi Şey).

Leslie, “Taciz kapısı yakında kapanacak” diyor. “Bunun önümüzdeki birkaç ay içinde mi yoksa birkaç yıl içinde mi olduğunu bilmiyorum. Ancak inanıyorum ki – bu platformlar iyileştikçe, teknoloji iyileştikçe ve örneklem boyutu iyileştikçe – siber suçlular orada giderek daha fazla şey bulacaklar. AI araçları için çok az kullanım olacak.”

OpenAI, Bilgisayar Korsanlarının Daha Büyük Fidye Pazarlıkları Yapmasına Nasıl Yardımcı Olabilir?

CyberArk’tan Shimony, başka bir riskin de ChatGPT’nin kötü amaçlı kod çıkaracak şekilde yanlış verileri büyük ölçekte öğrenmesini sağlamaya odaklandığını söylüyor. ChatGPT, öğrendiği veri kümelerine dayalı yanıtlar sunduğundan, tümü tek bir tehdit aktörü tarafından kontrol edilen bir dizi web sitesinden kod almaya ve ardından yardımsever kullanıcılardan gelen sorgulara yanıt olarak bu kodu sunmaya yönlendirilebilir, diyor.

Kod yalnızca metin olduğundan ve ChatGPT’nin kötü amaçlı bir web sitesine yönlendirilmesini gerektirmediğinden Shimony, bir veri kümesini kötü amaçlı kodla zehirlemenin, yapay zeka destekli bir arama motorunu kullanıcılara kötü amaçlı bağlantılar sağlaması için kandırmaktan daha kolay olduğundan şüpheleniyor. Müşteriler, ChatGPT’nin yaydığı her şeyi otomatik olarak almaları durumunda sistemlerine kötü amaçlı kod yerleştirebileceklerinden, veri kümelerinin zehirlenmesinin sonuçları çok ciddidir.

Shimony, bir düşmanın bir veri kümesini zehirlemesinin ne kadar kolay veya zor olacağından emin değil, ancak bunun kesinlikle CyberArk’ın baktığı bir açı olduğunu söylüyor. Saldırganlar, algoritmalarla ilişkili talimat sırasını değiştirmek için mutasyona uğrayan polimorfik kod oluşturmak için ChatGPT’yi kullanabilir ve Shimony, rakiplerin gelişmiş polimorfik kampanyalar oluşturmak için makine öğrenimi tabanlı yapay zekayı kullanmasını bekler.

Check Point’ten Shykevich, ChatGPT’nin şu anda geçen yıl içinde güncellenen kitaplıklar veya genel kod depolarıyla iyi entegrasyonlara sahip olmadığını, ancak Bing’de OpenAI söz konusu olduğunda tamamen farklı bir hikaye olduğunu söylüyor. OpenAI, bilgisayar korsanları için kod geliştirmeyi kolaylaştıracağını söylediği diğer konumların yanı sıra Bing’deki yeni kitaplıkları gerçek zamanlı olarak sorgulayabilir.

Buna ek olarak, Shykevich, yapay zeka motorunun Bing’e gönderilen veya Bing aracılığıyla gönderilen gerçek e-posta girişinden öğrenebileceği için OpenAI’nin Bing’e yerleştirilmesiyle oluşturulan kimlik avı mesajlarının kalitesinin çok daha iyi olacağını söylüyor. Ve Bing’deki OpenAI güncel olduğundan, tehdit aktörleri onu fidye yazılımı müzakereleri sırasında ellerini güçlendirmek için kullanabilirler, diyor.

Örneğin, Shykevich, tehdit aktörlerinin halka açık bir şirket kurbanıyla müzakerelerini, saldırının şirketin hisse senedi fiyatını nasıl etkilediğine dair OpenAI on Bing aracılığıyla elde ettikleri gerçek zamanlı finansal bilgilere dayanarak güncelleyebileceğini söylüyor. Bu, daha önce manuel olan süreci kolaylaştıracak ve profesyonel fidye yazılımı müzakerecilerini karşılayamayan tehdit aktörlerini daha eşit bir oyun alanına sokacaktır.

Shykevich, “Her iyi fikir ve iyi teknoloji gibi, onu kötüye kullanmaya çalışan insanlar var” diyor.