Amazon, 20 yılı aşkın bir süredir yapay zeka (AI) sistemleri geliştiriyor ve makine öğrenimini kullanıyor. Kişiselleştirme ve öneriler, e-ticaret sitesinde tanıtılan ilk yenilikler arasında yer aldı ve bunlar ve Alexa sesli asistanı gibi diğer teknoloji konseptleri, Amazon Web Services (AWS) genel bulut hizmetinde yapay zeka yeniliklerini ileriye taşımaya yardımcı oluyor. Bu daha sonra kurumsal BT müşterilerinin kullanımına sunulur.
BT konuşmalarına hakim görünen neredeyse sürekli sektör sohbetleri göz önüne alındığında, yapay zekaya başlamak göz korkutucu bir görev olabilir. Computer Weekly yakın zamanda profesyonel hizmetlerden sorumlu başkan yardımcısı ve AWS GenAI İnovasyon Merkezi Francessca Vasquez ile kurumsal yapay zekanın zorluklarını tartıştı.
Teknolojiyi çevreleyen sektördeki tüm heyecan göz önüne alındığında, BT ve iş liderlerinin uygulanabilir bir yapay zeka stratejisini nasıl geliştirebilecekleri sorulduğunda Vasquez, işletmelerin yapay zekayı iş stratejilerine dahil etmelerini, bunu yapmak için gerekli olan BT altyapılarının yeteneklerini dikkate alarak başlamalarını tavsiye ediyor. ve temel modellerini eğitin.
Yapay zeka ile ilgili tüm gelişmeler yaşanırken Vasquez, birçok kuruluş için makine öğreniminin çok yararlı bir araç olmaya devam ettiğine inanıyor.
“Üretici yapay zekanın sunduğu karmaşık derin öğrenme girdi ve çıktılarından bazılarına mutlaka ihtiyacınız yok. [GenAI] sağlıyor” diyor Vasquez ve şirketlerin en anlamlı ve etkili olduğunu düşündükleri yapay zeka ve makine öğrenimi kullanım senaryolarına öncelik verdiklerini ekliyor. Bu tür projelerin genellikle iyi bir yatırım getirisi sağladığını söylüyor.
Vasquez, “Genellikle daha düşük risk taşıyorlar ve kuruluşların daha hızlı başlamalarına olanak sağlıyorlar” diyor. Bu biraz, kuruluşların karşılaştığı sözde “sonuçta kalan meyve” verimsizliklerini çözmek için otomasyonun devreye alındığı zamana benziyor.
Bu tür görevlerin otomasyonunda bir düzeyde zeka sağlanması, iş süreçlerindeki verimsiz adımların düzenlenmesi açısından kuruluşun daha hızlı çalışmasına olanak tanır.
“Hem en çok heyecanlandığım hem de her müşterinin somut sonuçlar elde edebileceğini düşündüğüm şey, geliştiricilerin yazılımı nasıl ürettiği ve tüm yazılım geliştirme yaşam döngüsü gibi şeylere baktığınızda ortaya çıkıyor” diyor. “Bu benim için otomasyonun, yapay zekanın ve insanların daha fazla verimlilik elde etmek için kullanılmasının harika bir örneği.”
AWS’de yapay zeka hizmetleri
AWS’nin yapay zeka tekliflerine bakan Vasquez şunları söylüyor: “Kendi bilgi işlem ve özel silikonumuza çok yoğun yatırım yapıyoruz.”
AWS, donanımın üzerinde GenAI için Bedrock olarak bilinen bir platform katmanını çalıştırır. “Bu gerçekten de kuruluşların büyük dil modellerini (LLM’ler) ve temel modellerini kullanmasına izin verdiğimiz yönetilen hizmetlerdir” diyor.
Bedrock, güvenli GenAI uygulamaları oluşturmak ve ölçeklendirmek için AWS’nin temel dediği şeyi sunuyor. Spesifik olarak, Vasquez’in söylediğine göre şirketin Titan LLM’sine erişim sağlayan tek bir uygulama programlama arayüzü (API) aracılığıyla tek bir platform sağlamayı amaçlıyor. [large language model] birkaç üçüncü taraf temel modelle birlikte. Bunlar arasında AI21 Labs, Cohere, Stability AI veya Anthropic, Meta ve Mistral AI tarafından sağlanan modeller yer alıyor.
“Beni gerçekten heyecanlandıran şey, üretken yapay zeka yığınımızın en üstünde, GenAI uygulamaları oluşturma yeteneği ile inovasyonun gerçekleştiğini görmenizdir” diyor.
Bu yapay zeka uygulamalarından biri, kurumsal sistemlerdeki verilere ve bilgilere dayalı olarak soruları yanıtlayabilen, özetler sunabilen, içerik oluşturabilen ve görevleri tamamlayabilen, GenAI destekli bir asistan olan Amazon Q’dur. AWS, tüm bunların güvenli bir şekilde gerçekleştirilebileceğini söylüyor.
Yapay zeka modellerini ve veri erişimini yönetme
Uyumluluk için verilere erişimi kilitlemek ve güçlü siber güvenlik politikalarının karşılanmasını sağlamak ile şirkete özgü verileri inovasyonu teşvik etmek ve değer üretmek için kullanma yeteneği arasında her zaman bir denge vardır. Kamuya açık LLM’ler kullanılırken verilerin yanlışlıkla sızdırıldığına dair çok sayıda yüksek profilli örnek olmuştur.
Yüksek Lisans eğitimlerini düşünen işletmelere vereceği tavsiyeler sorulduğunda Vasquez şöyle diyor: “Söyleyeceğim ilk şey, verilerin katlanarak arttığıdır. Hepimizin buna dayanması gerekiyor.”
Çoğu kuruluş terabaytlarca veri depoluyor; bazılarının petabaytlarca veri depolama alanı var; ve bazı nadir durumlarda bazıları eksabaytlarca veri depoluyor. “Bilgi ölçeği büyüyor ve bilgi yaratımı, yapılandırılmış veri olarak düşündüğünüzün ötesinde daha fazla formatta geliyor” diyor.
Vasquez’e göre, kuruluşun çok sayıda formatta veri içeren farklı veri depolarından değer elde etmek için işletmelerin GenAI’nin gücüne ihtiyacı var. “Çoğu kuruluş, üretken yapay zekanın avantajlarından yararlanmak için öncelikle genel buluta geçmek zorunda kalacak” diyor.
Vasquez şöyle açıklıyor: “AWS’de bulutumuzu düşünürsek, veri gizliliğinde olduğu gibi güvenlik de oldukça büyük bir öncelik.”
Bu, AWS yeni hizmetler geliştirip piyasaya sürdükçe güvenliğin ayrı olarak ele alınmadığı anlamına gelir. “Tüm bilgilerin şifrelenmesi ve yönetilmesi gerektiğine inanıyoruz” diyor. “Hala aynı ortak sorumluluk yapılarını uyguluyoruz. Sanal bir genel bulutta uygulamalar oluşturabilmeniz gerekir [VPC]ve bu bilgi asla VPC’den çıkmıyor.”
Vasquez’e göre bu düşünce tarzı, AWS müşterilerinin Yüksek Lisans hizmetlerinden beklentilerini destekleyecek şekilde gelişiyor. “Müşterilerin, istenmeyen kavramları, konuşmaları veya küfürleri veya modele beslenmesini istemediğiniz şeyleri otomatik olarak filtreleyebilen modellerde erişim kontrolleri ve yönetim konusunda daha güçlü korkuluklara ihtiyacı var” diyor.
AWS’nin yaklaşımı bu tür yetenekleri Bedrock’a eklemektir.
Karışıklığı önlemek için eğitim
Vasquez, bir chatbot’un belirsiz bir soruya saçma sapan yanıtlar vermesi gibi, Yüksek Lisans’ların kolaylıkla kafalarının karışabileceğini kabul ediyor. “Bu modellerin küresel olarak nasıl uygulandığına baktığımızda bu daha da önemli hale geliyor” diyor. “Her şeyi yapabilecek tek bir temel modelinin olacağı bir dünya tasavvur etmiyoruz.”
Vasquez, LLM’leri dağıtan işletmeleri, kullandıkları temel modellerini optimize etmeye odaklanmaya çağırıyor. Yaygın bir örnek, modelin alınan ek verilere göre uyarlandığı, erişim artırılmış nesil ile öğrenme bağlamındadır.
Bazı işletmelerin kendi kendine öğrenmenin ötesine geçmesi gerekebilir. “Bazı müşterilerin ince ayar yapma becerisine sahip olmak isteyeceğini düşünüyoruz ve yeni bilgiler geldikçe modellerin sürekli ön eğitimini isteyecek bazı müşteriler göreceksiniz” diyor.
Vasquez’e göre, model eğitiminin yetersiz olduğu durumları anlamlandırmak için insanlarla birlikte çalışan yapay zeka modellerinin bir unsuru her zaman mevcut olacak. “Günün sonunda bunların hepsi bir mantık” diyor. “Belki buna insan mantığı ya da insan zekası diyebilirsiniz.”
AWS’den Francessca Vasquez’in podcast’ini buradan dinleyin.