Yapay Zeka ve Makine Öğrenimi, Yeni Nesil Teknolojiler ve Güvenli Geliştirme
Operatör henüz karmaşık, özelleştirilmiş görevleri güvenilir bir şekilde gerçekleştiremez
Rashmi Ramesh (Rashmiramesh_) •
24 Ocak 2025
Openai, görevleri yerine getirmek için web siteleriyle etkileşime giren genel amaçlı bir AI aracı olan operatörün lansmanı ile bağımsız bir eylem yapabilen bir AI aracısı tanıttı.
Ayrıca bakınız: İkinci Yıllık Üretici AI Çalışması: İş Ödülleri ve Güvenlik Riskleri
AI aracısı, seyahat rezervasyonu, paketleme siparişi, bir şeyler satın alma veya planlama görevleri gibi görevleri yapmak için menülerde gezinebilir ve formları tamamlayabilir.
Openai CEO’su Sam Altman, operatöre daha önce 2025’i bu teknoloji için belirleyici olacak yıl olarak tanımlayan AI ajanlarının gücünün kilidini açmaya yönelik temel bir adım olarak adlandırdı. Altman canlı olarak yayınlanırken, operatörün diğer ülkelere erişimini genişletmek için planların devam ettiğini açıkladı, ancak Avrupa düzenleyici karmaşıklıklar nedeniyle gecikecek.
AI aracısı, bilgisayar kullanan bir aracı modeli aracılığıyla çalışır ve aracının geliştiriciye bakan API’lara ihtiyaç duymadan web sitesi ön uçlarıyla etkileşime girmesini sağlar. Operatör düğmelere basabilir, açılır menülerde gezinebilir ve bilgileri formlara girebilir.
Uygulamanın ilk aşamasında Openai, Doordash, eBay, Instacart, Priceline, Stubhub ve Uber gibi şirketlerle işbirliği yapıyor. Temsilci, kullanıcıların temsilcinin çalışmalarını incelemesine izin vermek için bir sipariş veya e -posta gönderme gibi bir eylemi tamamlamadan önce kullanıcıdan onay isteyecek şekilde programlanmıştır.
Openai, modelin “çeşitli durumlarda zaten yararlı olduğu kanıtlanmıştır ve bu güvenilirliği daha geniş bir görev aralığında genişletmeyi amaçlıyoruz” dedi.
Şirket ayrıca, operatörün karmaşık sunumlar oluşturmak veya standart olmayan arayüzlerde gezinmek gibi karmaşık veya özelleştirilmiş görevleri güvenilir bir şekilde gerçekleştiremeyeceğini söyleyerek sınırlamaları kabul etti.
Para işlemleri gibi hassas görevler için kullanıcıların ödeme kartı detayları gibi bilgileri manuel olarak girmesi gerekir. Ayrıca, ajanın e -posta platformları gibi hassas web sitelerindeki eylemlerini aktif olarak denetlemelidir.
Kötüye kullanıma karşı dahili koruması, şüpheli olduğunu düşündüğü davranışın yanı sıra otomatik ve insan tarafından gözden geçirilen boru hatlarının sürekli olarak koruma mekanizmalarını güncellediğinde ajanın etkinliğini sona erdiren bir izleme sistemi içerir.
Operatör ayrıca captcha kontrolü veya karmaşık web arayüzlerinde gezinmek için kullanıcı müdahalesine ihtiyaç duyar. Openai, operatörün bir gün içinde veya bir seferde tamamlayabileceği görev sayısı üzerine oran sınırları getirdi. E -posta göndermek veya takvim olaylarını silmek, güvenlik nedenlerinden dolayı şu anda kullanılamıyor.
Seraphic Güvenlik Ürün Müdürü Alon Levin, AI’nın bu kontrol seviyesinin bile önemli güvenlik hususlarıyla birlikte geldiğini söyledi. Bu, yetkisiz AI eylemleri, kasıtsız erişim ve kötü niyetli sitelerle istenmeyen etkileşim nedeniyle potansiyel hesap uzlaşması ve veri açığa çıkmasını içerir. AI ajanları, kimlik avı dolandırıcılığı veya otomatik bilet ölçeklendirmesi için kötüye kullanım gibi güvenlik ile ilgili riskler getirir (bkz:: Claude’un bilgisayar kullanımı uyarıcı bir masal olabilir).
Operatör başlangıçta ChatGPT’nin Pro planına abone olan ABD kullanıcıları için bir araştırma önizlemesi olarak mevcuttur. Openai sonunda operatörü tüm ChatGPT uygulamalarına dahil etmeyi bekler.
Openai, ajanın bir araştırma önizlemesi olarak yayınlanacak kadar güvenli olduğunu söyledi. Şirket, “Operatör, modelin kötü niyetli bilgi istemlerine, gizli talimatlara ve kimlik avı girişimlerine olan duyarlılığını sınırlamak için tasarlanmış araçlardan yararlanıyor.” Dedi. Yaklaşım, Google’ın Project Mariner gibi benzer girişimleri izliyor ve bu da kredi kartı numaraları girme gibi yüksek riskli görevlerin otomatikleştirilmesini önlüyor.
Operatörün lansmanı, ChatGPT kullanıcılarının hatırlatıcılar ayarlama ve planlama istemleri gibi basit etkinlikleri otomatikleştirmesine izin veren bir özellik olan son zamanlarda tanıtımını izler. Görevler ChatGPT’yi Siri ve Alexa gibi mevcut sanal asistanlarla daha karşılaştırılabilir hale getirirken, operatör otonom AI’ya karşı daha iddialı bir sıçrama temsil ediyor.