İç Güvenlik Bakanlığı (DHS), OpenAI’yi ChatGPT istemlerine bağlı kullanıcı verilerini ifşa etmeye zorlayan bilinen ilk federal arama emrini yayınladı.
Geçen hafta Maine’de mühürlenen ve siber güvenlik kuruluşları tarafından incelenen tutuklama emri, çocuklara yönelik cinsel istismar materyalleri (CSAM) dağıtan karanlık bir web sitesine yönelik bir yıl süren soruşturmadan kaynaklanıyor.
Gizli görevde çalışan federal ajanlar, site yöneticisinin çevrimiçi sohbetler sırasında ChatGPT’yi kullandıklarını tesadüfen ifşa etmesiyle büyük bir ilerleme kaydetti.
Site kullanıcısı gibi davranan araştırmacılarla sohbet eden şüpheli, yapay zeka aracıyla olan etkileşimlerin parçalarını paylaştı.
Bilgi istemlerinden birinde ilginç bir geçiş araştırıldı: “Sherlock Holmes, Star Trek’ten Q ile tanışırsa ne olurdu?” Bir diğeri, ChatGPT’nin 200.000 kelimelik bir şiir talep etmesini içeriyordu; buna ChatGPT, Başkan Donald Trump’ın Village People’ın “YMCA”sını öven tarzında abartılı, kendini yücelten bir kaside örneğiyle yanıt verdi.
Yönetici, farkında olmadan araştırmacılara dijital bir iz sağlayarak alıntının tamamını bile yapıştırdı.
DHS Emri OpenAI’ye
Forbes tarafından görülen emir, OpenAI’ye bu istemlerin arkasındaki hesapla ilgili kapsamlı kayıtları teslim etmesi talimatını verdi.
Buna diğer ChatGPT konuşmalarının tam transkriptleri, ilişkili adlar, e-posta adresleri, IP günlükleri ve aboneliklerle bağlantılı ödeme ayrıntıları da dahildi.
Bu tür talepler, kolluk kuvvetlerinin Google gibi arama motorlarında kullanıcı sorgularına yönelik geçmişteki taleplerini yansıtıyor ancak üretken yapay zeka platformlarının başlangıcına işaret ediyor.
Uzmanlar, bunun bir emsal oluşturabileceği ve kurumların görünüşte zararsız yapay zeka etkileşimlerinden kaynaklanan suç niyetlerini tersine mühendislik yapmasına olanak tanıyabileceği konusunda uyarıyor.
OpenAI, emir veya emrin uyumluluğu hakkında kamuya açık bir yorumda bulunmadı. Ancak gizlilik savunucuları, zararsız yönlendirmelerin artık geniş gözetim ağlarındaki sıradan vatandaşları işaretleyebileceğini öne sürerek yapay zeka kullanıcıları üzerindeki caydırıcı etki konusunda alarm veriyor.
İronik bir şekilde, OpenAI verilerinin kimlik tespiti için gereksiz olduğu ortaya çıktı. Gizli görüşmeler şüphelinin ABD ordusuyla bağlarını ortaya çıkardı: sağlık değerlendirmelerinden, Almanya’da Ramstein Hava Kuvvetleri Üssü’nde yedi yıl geçirdiğinden ve babasının Afganistan’daki hizmetinden bahsediliyor.
Savunma Bakanlığı kayıtlarıyla yapılan çapraz referanslar, yönetici olarak 36 yaşındaki Drew Hoehner’in olduğunu doğruladı.
Daha fazla Savunma Bakanlığı görevi için başvuruda bulunan Hoehner, CSAM’in reklamını yapmak için bir dizi komployla karşı karşıya kaldı. Kendisi henüz bir savunmada bulunmadı ve avukatı da sorulara yanıt vermedi.
Bu vaka, yapay zeka araçlarının farkında olmadan muhbir haline geldiği siber suç soruşturmalarında gelişen taktiklerin altını çiziyor. Üretken platformlar çoğaldıkça kolluk kuvvetlerinin kullanıcı yaratıcılığına erişimi artıyor ve potansiyel olarak ChatGPT gibi araçlara olan güveni aşındırıyor.
Şimdilik, tek bir paylaşılan istemin, popüler kültür sorgularını ciddi iddialarla harmanlayarak gizli ağları nasıl çözebileceğini vurguluyor.
Günlük siber güvenlik güncellemeleri için bizi Google Haberler, LinkedIn ve X’te takip edin. Hikayelerinizi öne çıkarmak için bizimle iletişime geçin.
