Yapay Zeka ve Makine Öğrenimi , Yeni Nesil Teknolojiler ve Güvenli Geliştirme , Standartlar, Yönetmelikler ve Uyumluluk
Sam Altman, Senato Yargı Paneli Düzenlemelerinin Küresel Olması Gerektiğini Söyledi
David Perera (@daveperera) •
16 Mayıs 2023
Yüksek profilli üretken yapay zeka aracı ChatGPT’nin arkasındaki şirketin genel müdürü, bir ABD kongre paneli önündeki ifadesinde, lisanslama da dahil olmak üzere küresel düzenlemeler için çağrıda bulundu.
Ayrıca bakınız: Başarılı ML Benimsemesinin Önündeki Engelleri Aşmak
OpenAI CEO’su Sam Altman, Amerika Birleşik Devletleri’nin güçlü AI modellerinin geliştirilmesi ve piyasaya sürülmesi için lisanslama ve kayıt gerekliliklerini dikkate alması gerektiğini söyledi. Ayrıca güvenlik standartları ve modellerin testleri ve bağımsız denetimleri geçmesi için çağrıda bulundu.
Senato Yargı alt komitesine iletilen çağrısı, hem halk hem de düzenleyiciler arasında artan endişeyi yansıtıyor. Biden yönetimi, bir “AI hesap verebilirlik ekosistemi” sağlamak için olası mekanizmaları araştırıyor (bkz: Federaller, Yapay Zeka Sistemlerinin Doğruluğunu Onaylamak ve Değerlendirmek İçin Çağrı Yapıyor). Milletvekilleri, ChatGPT gibi araçlara güç veren büyük dil modelleri için yeni yükümlülükler de dahil olmak üzere Avrupa Birliği düzenlemelerini onaylamaya yakın. Çin, Nisan ayında şirketleri model çıktılarından sorumlu hale getirecek taslak düzenlemeler önerdi.
Altman senatörler paneline “Bu teknoloji ilerledikçe, insanların onun yaşam biçimimizi nasıl değiştirebileceği konusunda endişeli olduklarını anlıyoruz. Biz de öyleyiz” dedi.
IBM’den bir yönetici, alt komiteye şirketin “hassas düzenlemeyi” desteklediğini söyleyerek Altman’ı bir şekilde yineledi. IBM’in baş gizlilik sorumlusu Christina Montgomery, bunun teknolojinin kendisini değil, kullanım durumlarını düzenlemek anlamına geldiğini söyledi. Yapay zeka alanında ilk liderlerden biri olan IBM, bu ayın başlarında teknolojiye yaptığı yatırımları yenilediğini duyurdu.
Altman ve Montgomery, Mart ayında teknoloji uzmanları tarafından gelişmiş AI sistemlerinin geliştirilmesinde altı aylık bir duraklama için yapılan çağrıyı reddetti. “Altı ay ara verirsek, o zaman ne yapacağımızdan gerçekten emin değilim. Altı ay daha ara verir miyiz?” dedi Altman. Montgomery, “Duraklatmanın ne kadar pratik olduğundan emin değilim,” dedi.
Siber güvenlik araştırmacıları, kötü amaçlı yazılım betikleri oluşturmak ve kimlik avı mesajları yazmak için üretken yapay zekanın sınırlarını test eden düşük seviyeli bilgisayar korsanlarını tespit etti. Altman’ın yazılı tanıklığı, şirketin en son büyük dil modeli GPT-4’ün, izin verilmeyen içerik üretme isteklerini reddetme konusunda öncekinden daha iyi olduğunu söylüyor.
Altman, etkili düzenlemenin küresel bir yaklaşım gerektireceğini söyledi ve Uluslararası Atom Enerjisi Ajansı’nın modelini izlemeyi önerdi. “ABD’nin diğer ülkelerin işbirliği yapması ve bir parçası olması gereken bazı uluslararası standartlar belirlemesine giden yollar var, bu, görünüşte uygulanamaz bir fikir gibi görünse de, gerçekten uygulanabilir” dedi.
İtalyan veri koruma kurumu, ChatGPT’yi Mart ayında gizlilik endişeleri nedeniyle yasakladı, ancak Nisan sonunda İtalyan IP adresleri için hizmet vermeye devam etmesine izin verdi. İtalyan ajansı, OpenAI’nin Avrupalılara verilerini eğitim algoritmalarından hariç tutma hakkı vermek ve bir yaş doğrulama düğmesi eklemek de dahil olmak üzere değişiklikler uyguladığını söyledi.
Altman ve başka bir tanık, New York Üniversitesi’nde emekli psikoloji ve sinir bilimi profesörü olan Gary Marcus da yapay zekayı denetleyecek yeni bir Amerikan düzenleyici kurumun oluşturulması çağrısında bulundu. Yıllardır büyük teknoloji şirketlerini eleştirenler, yeni bir teknoloji düzenleyici kurumun oluşturulması çağrısında bulundular; bu, Kongre’nin teknolojiden anlayan bazı üyelerinin desteğine rağmen, bölünmüş hükümet sırasında ilgi çekmesi pek olası olmayan bir öneri. Bu fikir, Biden yönetiminin ilk iki yılında Demokratların yasama ve yürütme organlarını kontrol ettiği dönemde ana akım kabul için de mücadele etti.