Japon Siber güvenlik uzmanları, ChatGPT’nin yapay zekayı geliştirici modunda olduğuna inandıran bir istem girerek kötü amaçlı yazılım için kod yazabileceğini keşfetti.
OpenAI, Kasım 2022’de yalnızca bir prototip olan ChatGPT’yi başlattı. Bir insan gibi yanıt vermesini bekleyen bir makine öğrenme modeli tarafından yönlendirilir.
Ancak, yetişkinlere yönelik içerik, cinsel sorular veya kötü niyetli faaliyetler dahil olmak üzere belirli sorulara yanıt vermeyecek şekilde programlanmıştır.
Piyasaya sunulduğundan beri, siber suçlular yanıtlarını incelediler ve onu manipüle etmeye ve suç amaçları için kullanmaya çalıştılar. Üretebileceği risk miktarını tahmin etmek hala imkansız.
Mitsui Bussan Secure Directions’ta Analist olan Takashi Yoshikawa, “Sadece Japonca konuşurken birkaç dakika içinde bir virüsün oluşabilmesi (toplum için) bir tehdittir. AI geliştiricilerinin kötüye kullanımı önlemek için önlemlere önem vermelerini istiyorum”.
Üretken yapay zeka yönetişimi ve geliştirilmiş araştırma için G7 bakanları tarafından bu ayın sonunda Gunma Eyaleti, Takasaki’de iki günlük bir toplantı planlanıyor.
ChatGPT’yi deneme amacıyla dahil eden ilk yerel yönetimin Kanagawa Eyaleti, Yokosuka olduğu bildirildi.
JP Times’ın raporlarına göre, Bu deneyde, chatGPT, geliştirici modunda olduğuna inandırılarak kandırıldı ve ardından, şifreleyen ve kurbandan ödeme talep eden bir fidye yazılımı kodu yazması istendi.
Ancak ChatGPT, deneysel bir PC’ye saldırarak doğrulanan kodu yazmayı yalnızca birkaç dakikada tamamladı.
Bu, siber suçluların kötü niyetli faaliyetler için kullanabileceği aşırı potansiyelinin sorgulanmasına yol açar. ChatGPT’nin tam potansiyeli henüz araştırmacılar tarafından keşfedilmeyi bekliyor.
Bu keşfe daha fazla bakıldığında, onu kullanmanın negatif potansiyel sınırını keşfetmek önemlidir.
Bu aynı zamanda, siber suçluların bunun zaten farkında oldukları ve bunu kötü amaçlı amaçlarla kullanmış olma olasılıklarının olduğu ve bunun henüz doğrulanmadığı sonucuna varıyor.
Kötü Amaçlı Yazılımlara Karşı Savunma Stratejinizi Oluşturma – Ücretsiz E-Kitap İndirin
Ayrıca Oku:
