“Bot” kelimesi şu anda pek iyi bir üne sahip değil.
Bunu duyarsınız ve seçim manipülasyonunu, sahte sosyal medya hesaplarını, dolandırıcı müşteri hizmetleri sohbet robotlarını veya kötü amaçlı yazılım tarama ağlarını düşünürsünüz. Bazı tahminlere göre botların artık küresel internet trafiğinin %60’ından fazlasını oluşturduğunu ve bunların çoğunun ne yararlı ne de zararsız olduğunu söylüyor.
Bu yüzden şüpheciliğe kapılıyorum. Deepfake’lerin, veri ihlallerinin ve yapay zekanın abartıldığı bir çağda şu soruyu sormak doğru olur: güvenebileceğimiz botlar var mı?
Bence de. Ancak yalnızca “iyi” ile neyi kastettiğimizi tanımlarsak ve en iyi niyetle bile neyin yanlış gidebileceğini ciddiye alırsak.
“İyi” Botu Tanımlayalım
Benim dünyamda botların amacı insanların yerini almak değil. Onlara yardım etmek üzereler. Bunlar, açık kısıtlamalar dahilinde çalışan dar, amaca yönelik oluşturulmuş otomasyonlardır. Bir soruşturmada neyin önemli olduğuna karar vermezler veya yasal çağrılarda bulunmazlar. Yaptıkları şey, büyük hacimli dağınık verilerden bilgileri düzenleyerek, filtreleyerek ve ortaya çıkararak insanların hedefe daha hızlı ulaşmasına yardımcı olmaktır.
Yardımcı otomasyondan kastım budur. İnsanları döngüden çıkarmaz. Onları tekrarlayan kısımlardan kurtarır, böylece önemli olana odaklanabilirler.
Örneğin yakın zamanda yaşanan bir içeriden tehdit vakasında, bir araştırmacı çeşitli mobil cihazlardan mesajları, çağrı kayıtlarını ve sohbet dizilerini almak için otomasyonu kullandı. Günlerce süren manuel çalışma, tam denetim günlükleri, net bağlam ve hiçbir kontrol kaybı olmadan birkaç saat içinde gerçekleşti. İnsanlar hâlâ son kararı veriyordu. Bot, sinyali gürültüden daha hızlı ayırt etmelerine yardımcı oldu.
Ancak bu tür iyi kapsamlı ve iyi yönetilen bir araç bile dikkatli olmazsak ters gidebilir.
Neden “İyi” Botlar Bile Başarısız Olabilir?
En yaygın hatalardan biri, bir kez “yardımcı” olarak etiketlenen bir botun otomatik olarak güvenli olduğunu varsaymaktır. Ancak niyet başarısızlığı engellemez.
Botlar yanıltıcı olabilir. Kritik bağlamı kaçırabilirler. Önyargılı eğitim verilerini yansıtabilirler. Ve insanlar, özellikle de zaman baskısı altındayken, çıktılarına aşırı güvenebilirler; bu, otomasyon yanlılığı olarak adlandırılan bilinen bir olgudur.
Bu yüzden çalışan botlar oluşturmak yeterli değil. Onları sorumlu olacak şekilde inşa etmeliyiz.
Yönetişim Yardım ve Zarar Arasındaki Çizgidir
Ancak açık olalım: iyi niyet yeterli değildir. Güç veren bir botu istismar edenden ayıran şey yönetişimdir.
Bu Robotların pazarlığa açık olmayan dört konu etrafında tasarlanması gerekir:
- Denetlenebilirlik: Sistemin gerçekleştirdiği her eylem günlüğe kaydedilir ve izlenebilir.
- Açıklanabilirlik: Yalnızca sonucun ne olduğunu değil, bir sonucun neden ortaya çıktığını da görebilirsiniz.
- Veri kontrolü: Hassas veriler korumalı ortamlarda kalır. Dönem.
- İnsan gözetimi: Nihai karar her zaman sisteme değil araştırmacıya aittir.
Bunlar sadece tasarım tercihleri değil. Bunlar özellikle yasal, düzenleyici ve gizliliğe duyarlı ortamlardaki gereksinimlerdir. Ayrıca rehberlik için NIST’in Yapay Zeka Risk Yönetimi standartları ve ISO/IEC 23894 gibi çerçevelere de bakmaları gerekiyor. Yönetişim bir kontrol listesi değil, iskeledir.
Tüm Botların Bu Şekilde Yapıldığını Düşünmeyelim
Açık olmak gerekirse, günümüzün çoğu botu bu şekilde yönetilmiyor.
İnternet, doğruluk veya güvenliğe bakılmaksızın manipülasyon, sahtekarlık veya basit hız için tasarlanmış botlarla doludur. Bu teknolojinin bir başarısızlığı değil; önceliklerin başarısızlığıdır. Ve ne yazık ki “iyi” botlar hâlâ azınlıkta. Uzmanlık, yatırım ve sabır gerektirirler; tüm kuruluşların değer vermeye teşvik edilmediği üç şey.
Bu yüzden iyi robotları savunmanın bir kısmının mümkün olan ile yaygın olan arasındaki uçurumu ortaya çıkarmak olduğuna inanıyorum.
Bunların hiçbiri sihir gerektirmez. Sadece disiplin, netlik ve insanı ön planda tutan tasarıma bağlılık.
Soruşturmaların Ötesinde – Daha Sessiz Kullanışlı Botlar
Çalışmalarımız yasal ve adli kullanım örneklerine odaklansa da botlar başka yerlerde de iyi işler yapıyor. Siber güvenlik ekipleri bunları tehditleri gerçek zamanlı olarak izlemek ve izole etmek için kullanır. Erişilebilirlik araçları, sesi metne dönüştürme ve ekran okuyucular için botlara güvenir. Afet müdahalesinde bile botlar çağrıların önceliklendirilmesine veya yanlış bilgilerin işaretlenmesine yardımcı olur.
Bunlar manşetlere hakim olan botlar değil. Ancak sessizce, insan denetimi altında, tanımlanmış roller çerçevesinde ve denetlenebilir çıktılarla yardım ediyorlar.
Peki Ne Yapabiliriz?
Eğer bot üretiyorsanız, başkasının yapması gerekmeden önce kendinizi düzenleyin. Sadece verimlilik için değil, şeffaflık için tasarım yapın. Açıklanabilirliği bir ürün özelliği haline getirin. İnsani karar vericiyi döngünün içinde tutun ve ciddi olun.
Bot kullanıyorsanız daha zor sorular sorun. Veriler nereye gidiyor? Sonucu denetleyebilir misiniz? Çıktısını mahkemede savunma konusunda kendinizi rahat hisseder misiniz?
Ve eğer bir politika yapıcı veya lider iseniz, sadece hızlı değil, doğru olanı yapan sistemleri ödüllendirin. Çünkü yapısız hız güvenli bir şekilde ölçeklenemez.
Son Düşünce
Botlar, onları oluşturan kişilerin önceliklerini yansıtır. Doğru sınırlar ve doğru niyetlerle zamandan tasarruf etmekten daha fazlasını yapabilir, sistemleri daha akıllı, daha adil ve daha duyarlı hale getirebilirler.
Otomasyondan korkmamıza gerek yok. Ama onu yönetmemiz gerekiyor. Ve eğer bunu iyi yaparsak, o zaman evet; bazı botlar kesinlikle iyi olabilir.
Yazar Hakkında
Kousik Chandrasekaran, Exterro’da Yapay Zeka Direktörüdür. Yapay zekayı Exterro Veri Risk Yönetimi Platformuna entegre etmeye odaklanarak, Exterro’nun yapay zeka odaklı ürün girişimlerini yönlendirmede çok önemli bir rol oynuyor. Kousik, şirketteki 8 yıllık görev süresi boyunca yapay zeka işlevini sıfırdan kurup geliştirdi ve yılda en az bir yeteneği kullanıma sundu. Hindistan’ın önde gelen kurumlarından biri olan IIT Madras’tan mühendislik diplomasına sahip olup, güçlü teknolojik temellere sahiptir ve karmaşık kavramları kullanıcı dostu özelliklere ve yeteneklere dönüştürme konusunda uzmandır.
Kousik’e çevrimiçi olarak LinkedIn’den ve şirketimizin web sitesi https://www.exterro.com/ adresinden ulaşılabilir.