Geçtiğimiz yıl boyunca federal ajanlar, karanlık ağda kötü şöhretli bir çocuk istismarı sitesini kimin işlettiğini ortaya çıkarmak için çabaladı.
Şüphelinin ChatGPT kullandığını ortaya çıkarmasıyla aramaları beklenmedik bir hal aldı ve dijital soruşturmalarda önemli bir an yaşandı.
Federal Emri ChatGPT Verilerini İstiyor
Geçtiğimiz hafta Maine’de federal bir arama emri ortaya çıktı: İç Güvenlik Soruşturmaları (HSI), OpenAI’den kullanıcı verileri talep etti ve bu, kolluk kuvvetlerinin kanıt olarak AI tarafından oluşturulan sohbet kayıtlarını aradığı bilinen ilk örnek oldu.
Emre göre, şüpheli ChatGPT kullandığından bahsettiğinde ve bazı yanıtlarını paylaştığında gizli ajanlar sitenin yöneticisiyle iletişim halindeydi.
Şüphelinin tartıştığı yönlendirmeler, “Sherlock Holmes, Star Trek’teki Q ile tanışırsa ne olurdu?” gibi masum sorulardan oluşuyordu. 200.000 kelimelik bir şiir de dahil olmak üzere uzun taleplere.
Öne çıkan yanıtlardan biri, Village People’ın “YMCA”sı hakkında abartılı bir başkanlık stiliyle yazılmış, Trump’tan ilham alan komik bir şiirdi. Şüpheli, ajanlarla yapılan sohbet oturumları sırasında bu içeriği kopyalayıp yapıştırdı.
HSI’nin OpenAI’ye olan talebi, bu kullanıcı hakkında mevcut tüm bilgileri içeriyordu: ChatGPT ile yapılan diğer görüşmeler, hesap adları, iletişim bilgileri ve ödeme kayıtları.
Bu hamle, kullanıcı verileri için Google gibi arama motorlarına yapılan önceki talepleri yansıtıyor ancak üretken yapay zeka alanında benzeri görülmemiş bir hamleydi.
Yapay Zeka Verileri Olmadan Kimlik Ortaya Çıktı
Talebe rağmen müfettişler şüpheliyi tespit etmek için OpenAI’nin kayıtlarına güvenmediler. Devam eden sohbetler sonucunda aydınlatıcı ayrıntılar keşfettiler: Şüpheli askeri sağlık değerlendirmesinden geçmişti, yedi yıl Almanya’da yaşamıştı ve Afganistan’da bir aile geçmişi vardı.
Sonunda ordu adamın kimliğini doğruladı. ABD ordusuyla bağlantılı 36 yaşındaki Drew Hoehner, çocuklara yönelik cinsel istismar materyallerinin (CSAM) reklamını yapmak için komplo kurmakla suçlandı. Henüz bir savunmada bulunmadı ve avukatı yorum yapmaktan kaçındı.
ABD Göçmenlik ve Gümrük Muhafaza biriminin çocuk istismarı ve siber suçlara odaklanan bir bölümü olan HSI, bu davayı 2019’dan beri takip ediyordu.
Ajanlar, Hoehner’in şifreli Tor ağı üzerindeki 300.000 kadar kullanıcıya sahip 15 ayrı CSAM sitesine bağlı olduğuna inanıyordu.
Sitenin ayrıntıları gizli kalıyor ancak bildirildiğine göre, yapay zeka tarafından oluşturulan yasa dışı materyaller de dahil olmak üzere iyi organize edilmiş bölümler bulunuyor.
Yetkililere kullanıcı verilerinin yer aldığı bir elektronik tablo verilmiş olsa da OpenAI’nin hükümete gerçek yanıtı belirsiz. Bu materyalin suçlamaları doğrulamaya yardımcı olması mümkün.
OpenAI’nin incelediği istemler kötüye kullanımla ilgili olmasa da, AI platformları kötüye kullanım için potansiyel hedefler olmaya devam ediyor.
OpenAI, geçen yılın Temmuz ve Aralık ayları arasında 31.500 parça CSAM içeriği rapor ettiğini ve bu süre zarfında 132 kullanıcı hesabını içeren 71 hükümet veri talebine yanıt verdiğini söyledi.
Electronic Frontier Foundation’ın danışmanı Jennifer Lynch, emrin yalnızca bir kullanıcıdan gelen iki spesifik talebe odaklandığını belirtti.
Yine de bunun büyüyen bir trende işaret ettiğini söyledi: Kolluk kuvvetleri kanıt kaynağı olarak ChatGPT’ye yöneliyor ve veri gizliliği hakkında yeni sorular ortaya çıkarıyor.
Lynch ekledi: “OpenAI ve diğer AI şirketlerinin, kullanıcıları hakkında topladıkları veri miktarını nasıl sınırlayacaklarını düşünmek her zamankinden daha önemli.”
Anında Güncellemeler Almak ve GBH’yi Google’da Tercih Edilen Kaynak Olarak Ayarlamak için bizi Google Haberler, LinkedIn ve X’te takip edin.