Amazon, işletmelere yönelik yeni bir chatbot ile ve onları yapay zeka çıktılarından kaynaklanabilecek yasal ve itibari zararlara karşı korumayı teklif ederek büyük kurumsal müşterileri AWS bulut bilişim hizmetine çekmeye çalışıyor.
Şirket, Las Vegas’taki yıllık bulut bilişim konferansında, Q adı verilen yeni sohbet robotunun, çalışanların önemli belgeleri özetlemesine, destek biletlerine ve Slack gibi iletişim uygulamaları aracılığıyla sohbet etmesine yardımcı olarak üretkenliğe yardımcı olmak üzere tasarlandığını duyurdu.
Şirket, yazılımın aynı zamanda işletmenin kaynak kodunda otomatik olarak değişiklik yaparak gelişimi hızlandırabileceğini de belirtti.
Yeni yazılım, OpenAI’nin ChatGPT’sinin sahneye çıkmasından yaklaşık bir yıl sonra geliyor ve üretken yapay zeka girişimlerine yatırım çılgınlığını tetikliyor.
Alphabet ve diğerleri, günlük görevlerde yardımcı olmak için kullanıcılarla insan benzeri konuşmalar yapabilen kendi sohbet robotlarını duyurdular.
AWS CEO’su Adam Selipsky, Amazon’un Las Vegas’taki yıllık bulut bilişim konferansında, üretken yapay zeka uygulamalarındaki sakıncalı içeriğe karşı Guardrails for Bedrock adı verilen yeni bir korumayı duyurdu.
Hizmetin kullanıcıların zararlı içeriği filtrelemesine olanak tanıdığını söyledi.
Üretken yapay zeka, kamuya açık içerik üzerinde eğitildiğinden, rahatsız edici kelimeler veya diğer sakıncalı içerikler, kullanıcıların istemlerinden çıkan sonuçlara sızabilir.
Bu, küresel çatışma zamanlarında veya üretken yapay zekanın arama sonuçlarındaki çıktısının fikirleri etkileyebildiği seçimler sırasında özellikle genç kullanıcılar için sorunludur.
Güvenlik savunucuları, üretken yapay zekanın insan yaratıcılarının kontrolü dışında çalışabileceği ve giderek daha tehlikeli hale gelen içeriği dışarı pompalayabileceği veya tüm sistemleri gözetim olmadan çalıştırabileceği konusunda uyardı. Özellikle yazılımın X ve Facebook gibi sosyal medya sitelerine etkili ve ikna edici içerik koymasından endişe ediyorlar.
Selipsky, yeni hizmetin müşterilerin kullandıkları üretken yapay zekaya uygun gördükleri sınırlamalar koymaları açısından önemli olduğunu söyledi.
Selipsky, “Örneğin, bir banka, bir çevrimiçi asistanı yatırım tavsiyesi vermekten kaçınacak şekilde yapılandırabilir” dedi.
“Ya da uygunsuz içeriği önlemek için bir e-ticaret sitesi, çevrimiçi asistanının nefret söylemi veya hakaret kullanmamasını sağlayabilir.”
Amazon, şirketlere yönelik çağrısının bir parçası olarak, Q sohbet robotunun, kendisine erişmemesi gereken çalışanlardan gelen hassas verileri saklayabilmesi için işletmelere sınırlamalar sunacağını söyledi. Fiyatlandırma kullanıcı başına yıllık 20 ABD dolarından başlayacak.
Ayrıca konferansta Amazon, telif hakkıyla korunan materyallerin kötüye kullanılması nedeniyle açılacak davalara karşı müşterilerini tazmin edeceğini duyurdu. Örneğin hazır fotoğraf şirketi Getty Images, bu yılın başlarında Stability AI’ye, web sitesini izinsiz görseller için kazıdığı iddiasıyla dava açmıştı.
Amazon, Bedrock için Korkulukların bugün sınırlı ön izlemede olduğunu söyledi. Seattle şirketi tazminat politikası hakkında ek ayrıntı vermedi.