HackerOne, bağımsız araştırmacılar için daha güçlü yasal korumaları savunmak amacıyla güvenlik ve yapay zeka topluluklarıyla ortaklık kurdu. HackerOne, son olarak, üçüncü taraf yapay zeka değerlendiricileri için yasal koruma ihtiyacını tartışmak ve mevcut yasal çerçevelerdeki boşlukları ele almak üzere önde gelen kurumların ev sahipliği yaptığı bir çalıştaya katıldı. Değişim yönündeki güçlü baskıya rağmen, Kütüphanecinin kararı bir miktar netlik sağladı ancak sonuçta yapay zeka güvenlik araştırması için talep edilen tam yasal korumayı sağlamakta yetersiz kaldı.
DMCA Nedir ve Neden Önemlidir?
DMCA Bölüm 1201, telif hakkıyla korunan eserleri korumak için kullanılan teknolojik koruma önlemlerinin (TPM’ler) atlatılmasını yasa dışı kılar. Temel olarak, eğer yazılımın güvenlik özellikleri varsa, bunları araştırma amacıyla bile olsa ihlal etmek veya başka bir şekilde atlamak yasalara aykırıdır.
ABD Telif Hakkı Bürosu her üç yılda bir bu kısıtlamanın istisnaları için yapılan dilekçeleri değerlendirmektedir. 2015 yılında güvenlik topluluğu iyi niyetli güvenlik araştırmasını savundu ve bu konuda bir istisna aldı. Bu yıl HackerOne bu istisnanın genişletilmesini savundu.
Güvenlik araştırmalarının kanun kapsamında yasal korumaları olsa da, aynı korumaların yapay zeka araştırmacılarını da kapsayıp kapsamadığı açık değildir. Yapay zeka araştırması veya kırmızı ekip oluşturma, yapay zeka sistemlerini güvenlik, doğruluk, ayrımcılık, ihlal ve diğer potansiyel olarak zararlı çıktılar dahil olmak üzere yalnızca güvenlikten daha fazlası açısından değerlendirir. Açık yasal korumaların bulunmaması, bağımsız yapay zeka testlerini caydırabilecek caydırıcı bir etki yaratır; bu, dijital ekosistemin uzun vadeli dayanıklılığı için çok önemlidir; tıpkı bağımsız güvenlik araştırmalarının, kuruluşları zarar vermeden önce güvenlik açıklarını tespit ederek koruma altına alması gibi.
Yapay zeka platformları, sistemlerini korumak amacıyla, güvenlik açıklarını veya algoritmik kusurları bulmaya çalışan araştırmacıları engelleyebilir veya yasaklayabilir. Araştırmacılar, çalışmalarına devam etmek için bazen yeni hesaplar oluşturmak veya bu erişim kısıtlamalarını aşmak için proxy sunucular kullanmak zorunda kalıyor. Bu atlatma genellikle istenmeyen davranışları tespit etmek ve yapay zeka sistemlerini iyileştirmek için gerekli olsa da, DMCA 1201 istisnalarına ilişkin netlik olmadığında potansiyel yasal riskler de beraberinde gelir.
HackerOne, Telif Hakkı Bürosu’ndan DMCA Sec. kapsamında iyi niyetli yapay zeka araştırmaları için açık sorumluluk koruması sağlamasını talep etme çabasına katıldı. 1201. Kongre Kütüphanecisinin 28 Ekim 2024’te kararını yayınlamasından önce süreç birkaç ay sürdü ve çok sayıda yorum yapıldı.
Karar Neydi?
ABD Telif Hakkı Bürosu, araştırmacıların yapay zeka sistemlerinin güvenilirliğini test etmek ve geliştirmek için TPM’leri atlatmasına olanak tanıyacak, DMCA’ya yönelik önerilen bir muafiyet teklifini değerlendirdi. Bu muafiyet, bağımsız araştırmacıların AI modellerini önyargılar, zararlı çıktılar ve adalet ve hesap verebilirlikle ilgili diğer konular açısından yasal işlem tehdidi olmadan incelemesine olanak tanıyacaktı.
Ancak Kongre Kütüphanecisi sonuçta önerilen bu muafiyeti vermeyi reddetti. Karar iki tespite dayanıyordu:
- Yetersiz Kanıt: Bölüm 1201’in araştırmacıları yapay zeka modelleri üzerinde gerekli kırmızı ekip oluşturma ve test faaliyetlerini yürütmekten önemli ölçüde caydırdığını kanıtlayacak yeterli kanıt yoktu. Pek çok araştırmacı bu tür araştırmaları yürütmenin yasal riskleri konusunda endişelerini dile getirmiş olsa da Telif Hakkı Bürosu, TPM’nin atlanmasının önlenmesine ilişkin mevcut çerçevenin, onların çalışmalarına önemli bir engel teşkil etmediğini tespit etti.
- TPM’lerin Atlatılmaması: Araştırmacılar tarafından kullanılan tekniklerin çoğu aslında TPM’lerin Bölüm 1201’in yasaklamayı amaçladığı şekilde atlatılmasını içermiyor. Karara göre, söz konusu araştırma yöntemlerinin çoğu teknik olarak erişim kontrollerinin veya güvenlik önlemlerinin atlanmasını içermiyor; bu da bunların DMCA’nın hileli atlamayı önleme hükümleri kapsamına girmediği anlamına geliyor.
Yapay Zeka Araştırmasının Etkileri
Yapay zeka güvenilirliği araştırması için tam muafiyetin reddedilmesi bir aksilik olsa da belirli alanlarda bir miktar netlik sağlıyor. Karar, yasaklama sonrası hesap oluşturma, oran sınırlama, jailbreak istemleri ve hızlı enjeksiyon gibi birçok yaygın test yönteminin Bölüm 1201’i ihlal etmediğini açıkça belirtiyor. Bu açıklama, araştırmacılar için bir kazançtır çünkü etrafındaki belirsizliği azaltmaya yardımcı olur. Bu teknikleri kullanır ve bu kritik yapay zeka araştırmasını sürdürmek için daha fazla yasal güven sağlar.
Ancak karar, sonuçta yapay zeka araştırmacılarının zaman zaman yasal olarak gri bir alanda faaliyet göstermesine neden oluyor ve bu durum, özellikle kusurların teknolojiye derinden gömülü olduğu durumlarda, yapay zeka sistemlerini bağımsız olarak tam olarak test edememe veya isteksizlikle sonuçlanabiliyor.
Yapay zeka gelişmeye ve toplumun her yönünü etkilemeye devam ettikçe, yasal çerçevelerin de bu teknolojik gelişmelerle birlikte gelişmesi gerekiyor. Sağlanan ilave netlik memnuniyetle karşılanmaktadır, ancak iyi niyetli yapay zeka araştırmacıları için daha güçlü, daha kapsamlı yasal korumaların sağlanması amacıyla hâlâ yapılması gereken çok şey vardır.