Popüler bir söz şudur: “Hata yapmak insana özgüdür, ancak işleri gerçekten bozmak için bir bilgisayara ihtiyacınız vardır.”
Bu söz düşündüğünüzden daha eski olsa da yapay zeka (AI) kavramından daha önce ortaya çıkmadı.
Yapay zeka teknolojisinin sıradan hale gelmesini beklediğimiz sürece, eğer yapay zeka bu yıl bize bir şey öğrettiyse o da insanlar ve yapay zeka işbirliği yaptığında harika şeylerin olabileceğidir. Ancak şaşırtıcı her zaman olumlu değildir.
Geçtiğimiz yıl birçok insanın yapay zekadan olduğundan daha fazla korkmasına neden olan bazı olaylar yaşandı.
2024’e Britanya Ulusal Siber Güvenlik Merkezi’nin (NCSC), yapay zekanın küresel fidye yazılımı tehdidini artırmasını beklediğini belirten bir uyarıyla başladık.
Bu yıl yapay zeka ile ilgili birçok hikaye, bir yapay zeka modelini eğitmek için bir araya getirilen sosyal medya ve diğer kamu kaynaklarıyla ilgiliydi.
Örneğin X, Grok adlı yapay zekasını eğitmek için 60 milyondan fazla kullanıcının kişisel verilerini yasa dışı bir şekilde kullanmakla suçlandı. Bu korkunun altını çizerek, Instagram Stories’de insanlara bazı metinleri kopyalayıp yapıştırarak Meta’nın içerik toplamasını durdurabileceklerini söyleyen bir sahtekarlığın viral hale geldiğini gördük.
Facebook, yapay zeka modellerini eğitmek için Avustralyalı yetişkin kullanıcıların hesaplarından herkese açık fotoğrafları, gönderileri ve diğer verileri sildiğini itiraf etmek zorunda kaldı; bu da şüphesiz Avustralya’nın 16 yaşın altındaki çocuklara yönelik sosyal medya yasağına katkıda bulundu.
Gelişen birçok teknolojide olduğu gibi bazen önde kalma yarışı güvenlikten daha önemlidir. Bunun en iyi örneği, Muah.ai adlı yapay zeka destekli bir sitenin ihlal edilmesi ve tüm kullanıcılarının fantezilerinin ayrıntılarının çalınmasıydı. Bilgisayar korsanı, platformu “birbirine bantlanmış bir avuç açık kaynaklı proje” olarak tanımladı.
Bir sohbet robotu sağlayıcısının kimlik belgeleri, özgeçmişler ve tıbbi kayıtlar da dahil olmak üzere 346.000 müşteri dosyasını ifşa etmesiyle de yapay zeka tedarik zincirinin ihlal edildiğini gördük.
Ve kazalar insanları korkutmadıysa da, yapay zekanın popüler uygulamalarından bazılarını kullanmaya istekli insanları hedef alan bazı açık dolandırıcılıklar da mevcuttu. Ücretsiz bir yapay zeka editörü, kurbanları hem Windows hem de MacOS sürümlerinde gelen bir bilgi hırsızı yüklemeye ikna etti.
Deepfake olarak bilinen yapay zeka destekli dolandırıcılığın devam eden bir türünün daha da geliştirildiğini gördük. Deepfake’ler, insanları videonun veya görselin içeriğinin gerçekten gerçekleştiğini düşünmeleri için kandırmak amacıyla oluşturulmuş, yapay zeka tarafından oluşturulmuş gerçekçi medyadır. Deepfakes dolandırıcılıklarda ve dezenformasyon kampanyalarında kullanılabilir.
Elon Musk’un deepfake’i, 82 yaşındaki bir kişiyi bir dizi işlemle 690.000 dolar ödemeye ikna ettiği için internetin en büyük dolandırıcısı seçildi. Ve aralarında Taylor Swift’in de bulunduğu ünlülerin yapay zeka tarafından oluşturulan deepfake’leri, bu tür görsellerin oluşturulmasının yasadışı hale getirilmesi için yasa çağrılarına yol açtı.
Video bir yana, sevdiklerinin seslerini taklit ederek kaza geçirdiklerini söyleyen dolandırıcıların yapay zekayı kullandığını bildirdik. Bildirildiğine göre, teknolojideki gelişmelerle birlikte, ikna edici bir derin sahte kayıt oluşturmak için yalnızca bir veya iki dakikalık (belki de sosyal medyadan veya diğer çevrimiçi kaynaklardan alınan) sese ihtiyaç duyulmaktadır.
Ancak ses tanıma her zaman tam tersi şekilde çalışmaz. Bazı yapay zeka modelleri konuşulan kelimeleri anlamada zorluk yaşıyor. McDonalds, müşterilerin dondurmalarına 260 Chicken McNuggets veya domuz pastırması eklenmesi de dahil olmak üzere çok sayıda olaydan sonra IBM ile yapay zeka yoluyla sipariş alma deneyini sonlandırdı.
Olumlu bir not olarak, bir mobil ağ operatörü telefon dolandırıcılarına karşı savaşta yapay zekayı kullanıyor. AI Granny Daisy, birlikte çalışan, dolandırıcıların söylediklerini dinleyen ve ardından dolandırıcılara “kolay” bir hedef üzerinde çalıştıkları fikrini vermek için gerçekçi bir şekilde yanıt veren çeşitli AI modellerini kullanıyor. Dolandırıcıların yaşlı insanlar hakkındaki önyargılarından yararlanan Daisy, genellikle konuşkan bir büyükanne gibi davranırken aynı zamanda dolandırıcıların gerçek kurbanlar üzerinde çalışmak için kullanamayacakları zamanlarını boşa harcıyor.
Ne düşünüyorsun? Yapay zeka söz konusu olduğunda olumsuzluklar olumluluklardan daha mı ağır basıyor, yoksa tam tersi mi? Yorumlar bölümünde bize bildirin.