Uzun süren coşku dolu bir yılın ardından, akşamdan kalmalık sonunda geldi. Piyasa, büyük oyuncuların (Nvidia, Microsoft ve Google gibi) hisse senedi fiyatlarını düzeltirken, diğer oyuncular piyasayı yeniden değerlendirip önceliklerini ayarlarken, bu nazik bir durum (şimdilik). Gartner, ilgi azaldığında ve uygulamalar vaat edilen atılımları sağlayamadığında buna hayal kırıklığı çukuru diyor. Teknolojinin üreticileri sarsılır veya başarısız olur. Yatırım, yalnızca hayatta kalan sağlayıcılar ürünlerini erken benimseyenlerin memnuniyetine göre iyileştirirse devam eder.
Açık konuşalım, durum her zaman böyle olacaktı: Yapay zeka taraftarlarının vaat ettiği insan sonrası devrim hiçbir zaman gerçekçi bir hedef olmadı ve ilk LLM’lerin tetiklediği inanılmaz heyecan da piyasa başarısına dayanmıyordu.
Yapay zeka burada kalmaya geldi
Peki AI için sırada ne var? Gartner hype döngüsünü izlerse, derin çöküşün ardından olgunlaşan teknolojinin yeniden ayağa kalktığı, faydaların belirginleştiği ve satıcıların ikinci ve üçüncü nesil ürünleri pazara sunduğu aydınlanma eğimi gelir. Ve her şey yolunda giderse, bunu üretkenliğin kutsal platosu izler ve burada ana akım benimseme, teknolojinin geniş pazar çekiciliği tarafından yönlendirilir. Gartner, birkaç büyük eğer olduğunu iddia ediyor: her teknoloji çöküşten sonra toparlanmaya mahkum değildir ve önemli olan ürünün pazar uyumunu yeterince hızlı bulmasıdır.
Şu anda, AI’nın burada kalacağı neredeyse kesin görünüyor. Apple ve Google, teknolojiyi daha küçük, sindirilebilir, kullanımı kolay parçalara (fotoğraf düzenleme, metin düzenleme, gelişmiş arama) yeniden paketleyen tüketici ürünlerini pazara sunuyor. Kalite hala çok düzensiz olsa da, en azından bazı oyuncuların üretken AI’yı anlamlı bir şekilde – hem tüketiciler hem de kendi karları için – üretmenin bir yolunu bulmuş gibi görünüyor.
LLM bize ne kazandırdı?
Tamam, bu kurumsal müşterileri – ve özellikle siber güvenlik uygulamalarını – nerede bırakıyor? Gerçek şu ki, üretken AI’nın hala ölçekte benimsenmesini engelleyen önemli dezavantajları var. Bunlardan biri, üretken AI’nın temelde belirsiz doğasıdır. Teknolojinin kendisi olasılıklı modellere dayandığından (bir özellik, bir hata değil!), çıktıda bir farklılık olacaktır. Bu, eski tarz yazılım davranışları bekleyen bazı sektör gazilerini korkutabilir. Ayrıca, üretken AI’nın mevcut araçlar için anında bir yedek olmayacağı anlamına gelir – daha ziyade mevcut araçlar için bir geliştirme ve takviyedir. Yine de, saldırganlar için de tahmin edilmesi zor olan çok katmanlı bir savunmanın bir katmanı olarak performans gösterme potansiyeline sahiptir.
Benimseme sürtüşmesine neden olan diğer dezavantaj maliyettir. Modellerin eğitilmesi çok maliyetlidir ve bu yüksek maliyet şu anda modellerin tüketicilerine yansıtılmaktadır. Sonuç olarak, sorgu başına maliyeti düşürmeye çok fazla odaklanılmaktadır. Donanım geliştirmeleri, modelleri iyileştirmedeki çığır açan sonuçlarla birleştiğinde, çalışan AI modellerinin enerji kullanımında önemli düşüşler vaat ediyor ve (en azından metin tabanlı çıktının) karlı bir işe dönüşeceği konusunda makul bir beklenti var.
Daha ucuz ve daha doğru modeller harika ancak bu modelleri kurumsal iş akışlarına entegre etme görevinin önemli bir zorluk olacağı da giderek daha fazla fark ediliyor. Bir toplum olarak, yapay zeka teknolojilerini günlük çalışma uygulamalarına verimli bir şekilde nasıl entegre edeceğimizi bilecek deneyime henüz sahip değiliz. Ayrıca, mevcut insan iş gücünün yeni teknolojileri nasıl kabul edeceği ve bunlarla nasıl çalışacağı sorusu da var. Örneğin, insan çalışanların ve müşterilerin doğruluktan çok açıklanabilirliği tercih eden bir modelle etkileşime girmeyi tercih ettiği durumlar gördük. Harvard Tıp Fakültesi tarafından Mart 2024’te yapılan bir çalışma, yapay zeka yardımının etkisinin radyologlardan oluşan bir test örneği arasında tutarsız ve değişken olduğunu, bazı radyologların performansının yapay zeka ile iyileşirken diğerlerinde kötüleştiğini buldu. Öneri, yapay zeka araçlarının klinik uygulamaya dahil edilmesi gerekirken, hastalar için optimum sonuçları garantilemek için nüanslı, kişiselleştirilmiş ve dikkatlice kalibre edilmiş bir yaklaşımın benimsenmesi gerektiğidir.
Daha önce bahsettiğimiz pazar uyumu ne olacak? Üretken AI (muhtemelen) asla bir programcının yerini almayacak olsa da (bazı şirketler ne iddia ederse etsin), AI destekli kod üretimi çeşitli senaryolar için kullanışlı bir prototipleme aracı haline geldi. Bu, siber güvenlik uzmanları için halihazırda kullanışlıdır: üretilen kod veya yapılandırma, onu iyileştirmeden önce bir şeyi hızlıca oluşturmak için makul bir başlangıç noktasıdır.
Büyük uyarı: Mevcut teknoloji, üretilen metni (kod veya yapılandırma) hızla hata ayıklayıp düzeltebilen deneyimli bir profesyonelin işini hızlandırma şansına sahiptir. Ancak bu, alanda deneyimli olmayan bir kullanıcı için potansiyel olarak felaket olabilir: Her zaman güvenli olmayan yapılandırma veya güvenli olmayan kod üretilme ihtimali vardır ve bu, üretime geçerse kuruluşun siber güvenlik duruşunu düşürebilir. Bu nedenle, diğer tüm araçlar gibi, ne yaptığınızı biliyorsanız yararlı olabilir ve bilmiyorsanız olumsuz sonuçlara yol açabilir.
Burada, mevcut jenerasyon üretken AI araçlarının özel bir özelliği hakkında uyarmamız gerekiyor: sonuçları ilan ederken aldatıcı bir şekilde kendinden emin görünüyorlar. Metin açıkça yanlış olsa bile, mevcut araçların tümü bunu acemi kullanıcıları kolayca yanıltan kendinden emin bir şekilde sunuyor. Bu nedenle, şunu unutmayın: bilgisayar ne kadar emin olduğu konusunda yalan söylüyor ve bazen çok yanlış.
Başka bir etkili kullanım örneği müşteri desteğidir, daha spesifik olarak seviye 1 desteğidir – kılavuzu veya yayınlanan SSS’leri okumaya zahmet etmeyen müşterilere yardım etme yeteneği. Modern bir sohbet robotu basit soruları makul bir şekilde yanıtlayabilir ve daha gelişmiş sorguları daha yüksek destek seviyelerine yönlendirebilir. Bu, müşteri deneyimi açısından tam olarak ideal olmasa da, maliyet tasarrufları (özellikle çok sayıda eğitimsiz kullanıcıya sahip çok büyük kuruluşlar için) anlamlı olabilir.
Yapay zekanın işletmelere nasıl entegre olacağı konusundaki belirsizlik, yönetim danışmanlığı sektörü için bir nimettir. Örneğin, Boston Consulting Group artık gelirinin %20’sini yapay zeka ile ilgili projelerden elde ederken McKinsey bu yıl gelirinin %40’ının yapay zeka projelerinden gelmesini bekliyor. IBM ve Accenture gibi diğer danışmanlık şirketleri de bu projede yer alıyor. İş projeleri oldukça çeşitli: reklamları bir dilden diğerine çevirmeyi kolaylaştırmak, tedarikçileri değerlendirirken tedarik için gelişmiş arama ve halüsinasyondan kaçınan ve güvenilirliği artırmak için kaynaklara referanslar içeren sertleştirilmiş müşteri hizmetleri sohbet robotları. ING’deki 5000 müşteri sorgusundan yalnızca 200’ü sohbet robotu üzerinden geçse de, yanıtların kalitesi arttıkça bunun artması beklenebilir. İnternet aramasının evrimine benzer şekilde, veri bataklığında kendi kendine dolaşmak yerine “bota sor” tepkisinin dizginlenemez bir tepki haline geldiği bir dönüm noktası hayal edilebilir.
Yapay Zeka Yönetimi siber güvenlik endişelerini ele almalıdır
Belirli kullanım durumlarından bağımsız olarak, yeni AI araçları yepyeni bir siber güvenlik baş ağrısı seti getiriyor. Geçmişteki RPA’lar gibi, müşteriye bakan sohbet robotlarının kurumsal sistemlere uygun, bazen ayrıcalıklı erişime sahip makine kimliklerine ihtiyacı var. Örneğin, bir sohbet robotunun müşteriyi tanımlayabilmesi ve CRM sisteminden bazı kayıtları çekebilmesi gerekebilir – bu da IAM gazileri için hemen alarmlar çalmalıdır. Bu deneysel teknoloji etrafında doğru erişim kontrolleri ayarlamak, uygulama sürecinin önemli bir yönü olacaktır.
Aynısı Dev veya DevOps süreçlerinde kullanılan kod oluşturma araçları için de geçerlidir: Kod deposuna doğru erişimi ayarlamak, bir şeyler ters gittiğinde patlama yarıçapını sınırlayacaktır. Ayrıca, AI aracının kendisi bir siber güvenlik sorumluluğu haline gelirse, olası bir ihlalin etkisini de azaltır.
Ve tabii ki, her zaman üçüncü taraf riski vardır: Bu kadar güçlü ancak az anlaşılan bir aracı getirerek, kuruluşlar LLM teknolojisinin sınırlarını araştıran rakiplere kendilerini açıyorlar. Buradaki göreceli olgunluk eksikliği sorunlu olabilir: LLM’leri güçlendirmek için henüz en iyi uygulamalarımız yok, bu yüzden hassas yerlerde yazma ayrıcalıklarına sahip olmadıklarından emin olmalıyız.
IAM’de AI için fırsatlar
Bu noktada, erişim kontrolü ve IAM’de AI için kullanım durumları ve fırsatlar şekilleniyor ve ürünlerde müşterilere sunuluyor. Rol madenciliği ve hak önerileri gibi klasik ML’nin geleneksel alanları, rol oluşturma ve evriminin hazır yönetim iş akışlarına ve kullanıcı arayüzlerine daha sıkı bir şekilde örülmesiyle modern yöntemler ve kullanıcı arayüzleri ışığında yeniden ele alınıyor. Akran grubu analizi, karar önerileri ve davranış odaklı yönetim gibi daha yeni AI’dan ilham alan yenilikler, Kimlik Yönetimi dünyasında olağan hale geliyor. Müşteriler artık SSO Erişim Yönetimi sistemleri ve Ayrıcalıklı Hesap Yönetimi sistemleri gibi uygulama noktası teknolojilerinin kullanıcı davranışına ve oturumlarına dayalı AI destekli anormallik ve tehdit tespiti sunmasını bekliyor.
Doğal dil arayüzleri, sistemle etkileşimli doğal dil alışverişlerine izin vererek tüm bu IAM çözümü kategorilerinde UX’i büyük ölçüde iyileştirmeye başlıyor. Hala statik raporlara ve panolara ihtiyacımız var ancak farklı sorumluluklara ve ihtiyaçlara sahip kişilerin kendilerini doğal dilde ifade etme ve arama sonuçlarını etkileşimli olarak iyileştirme yeteneği, kuruluşların bu sistemlerden değer elde etmesini sağlamak için gereken becerileri ve eğitimi azaltıyor.
Bu başlangıcın sonu
Kesin olan bir şey var: 2024 ortalarında AI teknolojisinin durumu ne olursa olsun, bu alanın sonu olmayacak. Üretken AI ve LLM’ler AI’nın sadece bir alt alanıdır ve donanımdaki gelişmeler ve cömert hükümet ve özel araştırma fonları sayesinde AI ile ilgili diğer birçok alan hızla ilerlemektedir.
Olgun, kurumsal kullanıma hazır yapay zeka hangi şekli alırsa alsın, güvenlik uzmanları, üretken yapay zekanın savunma duruşlarına sağlayabileceği potansiyel faydaları, bu araçların mevcut savunmaları delmek için neler yapabileceğini ve deney ters giderse patlama yarıçapını nasıl sınırlayabileceğimizi şimdiden göz önünde bulundurmalıdır.