Genai’nin 2024’te Kurumsal Görünümün Şekillerini Değiştirmesinin Dört Yolu

Yazan Neil Serebryany, CalypsoAI CEO’su ve Kurucusu

Büyük dil modellerini (LLM’ler) de içeren üretken yapay zeka (GenAI) modelleri, ChatGPT’nin yalnızca bir yıl önce piyasaya sürülmesinden bu yana iş dünyasının ilgisinin odak noktası oldu. Tedarik zincirlerinin düzenlenmesinden benzersiz, ayrıntılı müşteri etkileşimlerinin sağlanmasına kadar sektörler genelindeki operasyonel uygulamalarda devrim yarattılar. Henüz her yerde yaygın olmasa da bu teknoloji her geçen gün bu dönüm noktasına yaklaşıyor ve yenilik potansiyeli sınırsız. Bu modellerin ve diğer GenAI kuzenlerinin kurumsal manzarayı daha da yeniden şekillendirmeye hazır oldukları açık. İşte önümüzdeki yıl bunu yapacaklarını tahmin ettiğim bazı yollar.

• OpenAI, Microsoft, Google vb. gibi bir temel model sağlayıcının ilk büyük ölçekli ihlali önümüzdeki yıl gerçekleşecek ve büyük ölçekli bir güvenlik olayına yol açacak. Saldırının kapsamı ve ölçeği, Microsoft’un 38 terabaytlık özel verileri “yanlışlıkla” ifşa etmesi ve Google Fi’nin 38 milyon müşterinin verilerini açığa çıkaran saldırısı gibi son olaylarla aynı düzeyde olacak. ChatGPT gibi LLM’lere gönderilen hassas bilgilerin miktarı göz önüne alındığında, bunun etkisi çok derin olabilir ve itibar, operasyonel ve mali zarar açısından her ikisini de kolayca aşabilir. Böyle bir ihlalin yol açtığı hasar şirket sınırlarıyla sınırlı kalmayacak, ancak modellere güvenen kuruluşların derhal hasar kontrol moduna geçmesi gerekeceğinden yapay zeka ekosistemi genelinde bir dalgalanma etkisi yaratacaktır. Model(ler)in kullanımının aniden durdurulması, onu gerektiren uygulamaları etkileyecektir ve güvenlik ekiplerinin kurumsal güvenlik altyapısının unsurlarını araştırması, yeniden değerlendirmesi ve muhtemelen yeniden oluşturması veya değiştirmesi gerekecektir. Kendi hissedarlarına ve müşterilerine hesap verme sorumluluklarını açıklamak, yöneticiler için zahmetli bir çalışma olacaktır ve kendi sonuçlarını da beraberinde getirecektir.
• GenAI’yi benimseyen bir kuruluş, birden fazla modelin etkin olması ve erişim kontrollerinin eksikliği nedeniyle izin ihlali yaşayacaktır. Bir şirket, ChatGPT gibi harici temel modellerin yanı sıra SaaS uygulamalarına gömülü modeller ve erişimle artırılmış nesil (RAG) modellerinde katmanlar oluşturdukça, kurumsal saldırı yüzeyi genişler, güvenlik ekibinin neler olup bittiğini bilme yeteneği (gözlemlenebilirlik) azalıyor ve artan üretkenliğe yoğun, hatta baş döndürücü bir şekilde odaklanma, güvenlik kaygılarını gölgede bırakıyor. Ta ki, hoşnutsuz bir proje yöneticisine, benzer isimdeki bordro yöneticisinin talep ettiği yeni özel muhasebe modeline erişim izni verilene kadar. Hoşnutsuzluğun düzeyine ve ilgili kişiliğe bağlı olarak şirket maaş bordrosu bilgileri bir sonraki sayfada paylaşılabilir. fısıltı kahve makinesine bağırarak, kötü düşünülmüş bir e-postayla ya da bir iş haber sitesinde son dakika haberi olarak. Veya hiçbir şey paylaşılmayacak ve bordro yöneticisi ikinci bir erişim talebinde bulununcaya kadar kimse hatayı fark etmeyecektir. Kanal veya hedef kitle ya da bunların eksikliği ne olursa olsun, şirket özel, gizli ve son derece kişisel verilerin ciddi bir ihlaliyle karşı karşıya kalmıştır ve bu durumu hızlı ve kapsamlı bir şekilde ele almalıdır. Yapay zeka güvenlik ekibinin günleri veya haftaları, en azından kuruluşun yapay zeka güvenlik altyapısını gözden geçirmek ve muhtemelen elden geçirmekle geçecek ve “güven katmanı” terimi, onların sözcük dağarcığının bir özelliği haline gelecek.
• Temel modeller (LLM kullanımı) sayesinde veri bilimi giderek daha demokratik hale gelecektir. LLM’lerin büyük miktarda veriyi analiz etme ve önemli içgörüler elde etme, karmaşık, zaman alıcı süreçleri basitleştirme, senaryolar geliştirme ve gelecekteki eğilimleri tahmin etme hızı ve gücü, büyük veri analitiğini ekiplerin ve ekiplerin iş akışına getirmeye başladı bile. tüm işletme fonksiyonlarındaki departmanlar. Bu dramatik bir şekilde artmaya devam edecek. Bir kuruluş genelinde ekipler, kendi özel ihtiyaçlarına göre uyarlanmış veri akışlarını giderek daha hızlı bir şekilde oluşturabilecek ve bu da üretkenliği kolaylaştıracak ve kurumsal bilgi tabanını genişletecek. Her ne kadar ince ayar bu alanda bazı faydalar gösterse de, modellerin uydurma eğiliminin yakın zamanda çözüleceğini öngörmediğim için insanlar bu döngünün dışında kalmayacak.
• WormGPT ve FraudGPT gibi saldırgan, ince ayarlı LLM’ler tarafından oluşturulan giderek daha yeni ve yeni siber saldırılar meydana gelecektir. Özel modellere hızlı ve nispeten kolay bir şekilde ince ayar yapma yeteneği, suç türleri de dahil olmak üzere geliştiriciler için bir nimet olmuştur. Örneğin, modeller belirli bir finansal veri koleksiyonuna göre eğitilebildiği gibi, modeller aynı zamanda kötü amaçlı yazılım odaklı bir veri kümesine göre de eğitilebilir ve herhangi bir korkuluk, etik sınır veya suç faaliyeti veya niyetine ilişkin sınırlamalar olmadan oluşturulabilir. Doğal dil işleme (NLP) modelleri olarak bu araçlar, ChatGPT’nin kötü kuzenleri olarak işlev görür ve kötü amaçlı kod üretme konusunda aynı yeteneklere sahip olmanın yanı sıra, kimlik avı e-postaları, sosyal mühendislik saldırıları ve sosyal mühendislik saldırıları gibi kolayca insan tarafından oluşturulan iletişim olarak kabul edilen karmaşık içeriğe de sahiptir. hızlı enjeksiyonlar veya “jailbreak” saldırıları.

Yüksek Lisans’lar, çeşitli uygulamalara ve endüstri sektörlerinde sınırsız faydaya sahip devrim niteliğindeki araçlardan başka bir şey değildir. Benimsenmeleri yaygınlaştıkça, mevcut inovasyon ve verimlilik kavramlarını gölgede bırakacak ve iş ekosisteminin sınırlarını zorlayacaklar. Önümüzdeki yıl da bu yıl olduğu kadar ilginç olabilir.

yazar hakkında

Neil Serebryany, CalypsoAI’nin CEO’su ve Kurucusudur. Benim Adım Şirketimin Ünvanıdır. Kariyeri boyunca sektöre yön veren yeniliklere öncülük etti. CalypsoAI’yi kurmadan önce Neil, Jump Investors’ta dünyanın en genç risk sermayesi yatırımcılarından biriydi. Neil daha önce birçok girişimi başlatmış ve başarıyla yönetmiş ve Güney Kaliforniya Üniversitesi’nde pekiştirmeli öğrenme araştırmaları yürütmüştür. Neil, çekişmeli makine öğreniminde çok sayıda patentle ödüllendirildi. Neil’e çevrimiçi olarak https://www.linkedin.com/in/neil-serebryany/ adresinden ve şirket web sitemiz https://calypsoai.com/ adresinden ulaşılabilir.