Profesyonel ipucu: Arkadaş listeniz tanıdığınız veya güvendiğiniz kişilerden oluşsa bile, sosyal medya profiliniz de dahil olmak üzere çocuklarınızın resimlerini internete yüklemeyin.
İLGİLİ MAKALELER
- Üretken yapay zeka platformlarının kullanılabilirliği ve karmaşıklığı giderek artan bir endişe kaynağıdır. Siber suçlular, derin sahte içerikler oluşturmak için videoları, görüntüleri ve sesleri kolayca değiştirebilir.
- İngiltere merkezli bir internet gözlemcisi, pedofililerin çocuklara yönelik cinsel istismar içeriği oluşturmak için üretken yapay zekaya nasıl geçtiklerine dair şaşırtıcı ayrıntıları paylaştı.
- Araştırma, pedofililerin yasa dışı çocuk pornografik materyali oluşturmak için ücretsiz olarak sunulan yapay zeka yazılımlarını kullandığını ortaya çıkardı.
- Internet Watch Foundation, pedofililerin, karanlık ağdaki çocukların fotoğraflarını manipüle edecek şekilde yazılımı nasıl değiştireceklerini açıkça tartıştıklarını gözlemledi.
- Bu, gerçek hayattaki mağdurlara yardım etmeyi zorlaştırabilir.
Hepimiz OpenAI’yi biliyoruz SohbetGPT sohbet robotu. Siber suçluların, siber güvenlik camiasında ChatGPT’nin kötü amaçlı alternatiflerini geliştirdiklerini de biliyor olabilirsiniz: FraudGPT ve WormGPT. Sonuç olarak siber suçlular, Yapay Zekanın (AI) gücünü kötü amaçlarla kendi avantajlarına çevirmek için büyük çaba harcayacaklardır.
Şimdi bir rivayete göre rapor Birleşik Krallık merkezli bir internet gözlemcisi olan Internet Watch Foundation (IWF) tarafından yayınlanan rapora göre, siber suçlular çocukların cinsel istismarı materyalleri (CSAM) oluşturmak için üretken yapay zeka platformlarına yöneliyor.
IWF’nin araştırmasına göre siber suçluların, insanları veya olayları uyduran derin sahte içerik oluşturma yönünde giderek artan tercihi, neden olabileceği hasarın kapsamı nedeniyle endişe verici bir konu. Sorun küçükleri, özellikle de çocukları kapsadığında daha da endişe verici hale geliyor. Seks suçlularının bu görüntüleri yaratma kolaylığı aynı zamanda bunun yaygın kabul görmesini de teşvik edebilir.
IWF, yapay zeka tarafından oluşturulan çevrimiçi çocuklara yönelik cinsel istismar içeriğinde ani bir artış olduğunu tespit etti. Örgüt, seks suçluları tarafından sıklıkla kullanılan dark web forumlarında pedofil çeteleri arasında, açık kaynaklı yapay zeka modelleri aracılığıyla sahte çocuk resimleri oluşturmaya ilişkin ipuçlarına ilişkin tartışmaların olduğunu fark etti.
Çocuk güvenliği uzmanları ve kolluk kuvvetleri, gerçekçi fotoğrafların mevcudiyetinin, çocukların cinsel istismarının gerçek hayattaki mağdurlarına yardım etmeyi zorlaştıracağından korkuyor. Birleşik Krallık’ta fotogerçekçi içerik oluşturmanın yasa dışı olduğunu belirtmek gerekir.
Açık kaynaklı yapay zeka modelleri, herkesin indirebilmesi nedeniyle Google’ın Imagen’i gibi kapalı yapay zeka modellerinden farklıdır. Bu modelleri PC’lere indirip çalıştırabildikleri için kullanımı daha kolaydır ve bulutta çalıştırmaya gerek yoktur. Böylece buluttaki kontrollerden ve tespit araçlarından kurtulabiliyorlar ve içeriği şimdi olduğundan daha düzenli bir şekilde çevrimiçi olarak dağıtabiliyorlar.
Suçlular, milyarlarca etiketli görsel içeren temel bir kaynak görseli oluşturma modeli kullanabilir ve düşük dereceli uyarlamaya sahip benzer bir model oluşturmak için çocukların cinsel istismarı görselleri içeren görsellerde ince ayar yapabilir. Bu nedenle, minimum düzeyde hesaplamayla gerçekçi görüntüler üretebilir ve odaklarını var olmayan çocuk mağdurlara kaydırarak kolluk kuvvetlerini yanıltabilirler.
Daha erkenIWF’nin genel müdürü Susie Hargreaves OBE, hükümeti bu konunun ciddiyeti konusunda uyarmıştı.
Mayıs 2023’te Internet Watch Foundation (IWF), yapay zeka tarafından oluşturulan çocuklara yönelik cinsel istismar materyallerini içeren örnekleri kaydetmeye başladı ve yardım hattı için önemli bir gelişmeye işaret etti. 24 Mayıs – 30 Haziran tarihleri arasında IWF, yapay zeka tarafından oluşturulan çocuklara yönelik cinsel istismar görüntüleri barındırdığından şüphelenilen URL’leri kapsayan 29 raporu özenle araştırdı. Bu raporlar halkın ilgili üyelerinden geldi.
Bu vakalar arasında IWF, bildirilen URL’lerden yedisinin gerçekten de yapay zeka tarafından oluşturulan çocukların cinsel istismarına ilişkin görüntüler içerdiğini başarıyla doğruladı. Özellikle, bu URL’ler genellikle tamamen yapay zeka tarafından oluşturulmuş veya yapay zeka tarafından oluşturulan ve orijinal içeriğin bir kombinasyonu olabilen birden fazla görsel barındırıyordu.
Rahatsız edici bir şekilde, adreslenen URL’ler Kategori A’dan Kategori B’ye kadar uzanan rahatsız edici bir dizi materyali kapsıyordu ve hem kadın hem de erkek kurbanlardan oluşan 3 ila 6 yaş arasındaki çocukları tasvir ediyordu.
“Şu anda bu görüntüleri çok fazla görmüyoruz, ancak suçluların benzeri görülmemiş miktarlarda gerçeğe yakın çocuk cinsel istismarı görüntüleri üretme potansiyelinin var olduğu bizim için açık. Bu, internet güvenliği ve çocukların çevrimiçi güvenliği açısından potansiyel olarak yıkıcı olabilir. Artık bu gelişen teknolojinin önüne geçme şansımız var, ancak mevzuatın bunu hesaba katması ve bu yeni tehdidin ışığında amaca uygun olması gerekiyor” dedi Hargreaves.
Birleşik Krallık hükümetinin yapay zeka görev gücü başkanı Ian Hogarth, açık kaynaklı yapay zeka modelleri kullanılarak oluşturulan çocuklara yönelik cinsel istismar materyalleri hakkında kırmızı bayraklar kaldırmış ve bunların “mevcut en iğrenç şeyler” arasında yer aldığını iddia etmişti.
IWF şef Dan Sexton bunu, siber suçluların üretken yapay zeka teknolojisine odaklanmaları nedeniyle daha da kötüleşecek bir “halk sağlığı salgını” olarak değerlendirdi.
IWF, internetteki cinsel istismar içeriğini izlemek ve özellikle çocukların dahil olduğu bu tür içerikler hakkında ipuçları almak amacıyla 1996 yılında kurulmuş, kar amacı gütmeyen bir kuruluştur.
Çocuğunuzu ve Fotoğraflarını Dark Web’deki Kötü Amaçlı Unsurlardan Nasıl Korursunuz?
İşte ebeveynlerin çocuklarını ve fotoğraflarını karanlık ağa ve kötü niyetli kişilere maruz kalmaktan koruyabilecekleri 10 yol:
- Çocuklarınızı Eğitin: Çocuklarınıza kişisel bilgilerin, fotoğrafların paylaşılmaması veya yabancılarla çevrimiçi etkileşimde bulunmamanın önemi de dahil olmak üzere çevrimiçi güvenliği öğretin.
- Gizlilik Ayarlarını Kullan: Çocuğunuzun içeriğini yalnızca güvenilir kişilerin görüntüleyebildiğinden emin olmak için sosyal medya platformlarındaki gizlilik ayarlarını düzenleyin.
- Arkadaş Listelerini Düzenli Olarak Kontrol Edin: Çocuğunuzu, sosyal medyadaki arkadaş listelerini ve takipçilerini düzenli olarak incelemeye ve gerçek hayatta tanımadığı kişileri çıkarmaya teşvik edin.
- Filigran Fotoğrafları: Çocuklarınızın fotoğraflarını çevrimiçi olarak paylaşmayı seçerseniz, izinsiz kullanımı engellemek için onlara filigran eklemeyi düşünün.
- Konum Paylaşımını Sınırla: Kötü niyetli kişilerin takibini önlemek için çocuğunuzun cihazlarında ve sosyal medya hesaplarında konum paylaşımını devre dışı bırakın.
- Güvenli Cihazları Kullanın: Çocuğunuzun cihazlarının güncel güvenlik yazılımına sahip olduğundan ve güçlü şifreler veya biyometri ile korunduğundan emin olun.
- Sorumlu Görevlendirmeyi Öğretin: Kişisel bilgilerin veya fotoğrafların aşırı paylaşılmasının olası sonuçlarını tartışarak sorumlu paylaşımları teşvik edin.
- Çevrimiçi Etkinliği İzleyin: Aşırı müdahaleci olmadan çocuğunuzun çevrimiçi etkinliklerine göz kulak olun. Gerekirse ebeveyn kontrol yazılımını kullanın. Ebeveyn kontrolü uygulamalarını kullanın!
- Açık İletişimi Teşvik Edin: Çocuğunuzun çevrimiçi etkileşimleri veya olası endişelerini rahatça tartışabileceği bir ortam yaratın.
- Şüpheli Etkinliği Bildirin: Çocuğunuza şüpheli davranış veya içeriği nasıl tanıyacağını ve hem size hem de ilgili yetkililere nasıl bildireceğini öğretin.
İLGİLİ MAKALELER
- Bilgisayar korsanları, Jailbreak AI Chatbot’larının kimlik avı e-postaları yazdığını iddia ediyor
- Microsoft’un yeni aracı, çevrimiçi sohbetlerdeki pedofilileri tespit edip rapor ediyor
- Facebook’taki sahte ChatGPT ve AI sayfaları bilgi hırsızlığını yayıyor
- Narsil Operasyonu – INTERPOL, On Yıllık Çocuk İstismar Ağını Çökertti