Yapay zeka, “verimlilik ve etkililik için her derde deva” bir iş olarak görülüyor, ancak Sunshine Coast Üniversitesi’nden bir grup akademisyen, benimseyenleri yapay zekanın ahlaki ve teknik risklerini göz ardı etmemeleri konusunda uyarıyor.
Dergide yayımlanan araştırma Yapay Zeka ve Etik, işletmelerin üretken yapay zekaya yönelmesinin dezavantajlarının arasında kamuya, personele ve diğer paydaşlara yönelik gizlilik ve güvenlik risklerinin de yer aldığı konusunda uyarıyor.
Üniversite, risklerin aynı zamanda yapay zeka eğitimi sırasında alınan üçüncü taraf bilgilerini açığa çıkaran kitlesel veri ihlallerini ve hatta kararların zehirli yapay zeka modellerine dayanması nedeniyle iş başarısızlıklarını da içerdiğini söyledi.
Çalışmada, “Üretici yapay zekayı entegre etme yarışına yeterli korkulukların veya güvenlik değerlendirmelerinin eşlik etmediğine dair artan endişeler var” ifadesine yer verildi.
Ortak yazar ve UniSC’nin siber güvenlik alanında öğretim görevlisi olan Dr. Declan Humphreys, “Üretken yapay zekanın hızla benimsenmesi, endüstrinin teknolojiyi ve onun doğasında olan etik ve siber güvenlik risklerini anlamasından daha hızlı ilerliyor gibi görünüyor” dedi.
“Aldatmacaya yakalanan kuruluşlar, yapay zeka sistemlerine aşırı güvenerek veya aşırı güvenerek kendilerini savunmasız bırakabilirler”.
Makale ayrıca kuruluşların yapay zekanın kullanıma sunulması sırasında daha yüksek hata oranlarına maruz kalabileceğini ve birçoğunun, büyük bir dil modelini (LLM) eğitmek için kullanıldığında kendi özel verilerinin dışarıdakilerin eline nasıl geçebileceğini anlama konusunda eksik olduğunu belirtti.
Makalede şu ifadelere yer verildi: “Şirket sektöründeki eleştirel düşünme ve analiz becerilerinin eksikliği nedeniyle, [generative AI] hem düşük performansa hem de utanç verici sonuçlara yol açabilir.”
Yazarlar yapay zekayı inceleyen şirketler için beş maddelik bir kontrol listesi sunuyor: Güvenli ve etik yapay zeka model tasarımı uygulamalılar; güvenilir ve adil bir veri toplama sürecine sahip olun; güvenli veri depolamayı uygulayın; etik yapay zeka modelinin yeniden eğitimi ve bakımı için etik ilkeleri takip edin; ve personelini geliştirin, eğitin ve yönetin.