Çevrimiçi olarak yayınlanan bir meclis sunumu, üçüncü bir taraf hakkında yapay zeka kullanılarak oluşturulmuş yanlış bilgiler içerdiğinin tespit edilmesi üzerine geri çekilmek zorunda kaldı.
Olay, parlamenterler ve komitelerin çalışmalarını bilgilendirmek için dışarıdan gelen görüşlere güvenmeleri açısından bir riski ortaya çıkarmış gibi görünüyor.
Senatör Richard Colbeck senato tahminlerine şöyle konuştu: “Bir senato komitesinde değil, ortak bir komitede yapay zeka kullanılarak yapılan bir sunumun yanlış bilgi içerdiği ortaya çıktı.”
“Sekreterliklerimizin bu konuları inceleme ve kontrol etme kapasitesi açıkça sınırlıdır.
“Sunum yayınlanana ve kendilerine karşı asılsız iddialarda bulunan taraf, ‘Hey, bu biz değildik’ ve ‘Bu olmadı’ diyene kadar bu iş çözülmedi.
Parlamenterler için işleri karmaşık hale getiren rahatsız edici sunum, yapay zeka tarafından üretilen ve insan tarafından hazırlanan materyallerin bir karışımını içeriyordu.
Yapay zeka olmadan oluşturulan sunumun bazı kısımlarının sağlam olduğuna dikkat çeken Colbeck şunları ekledi: “Benim endişem, sunumun alınmış olması, parlamento ayrıcalığı altında yayınlanması ve ardından bir partinin ‘Bunların hiçbiri olmadı’ diyen bir süreçten geçmek zorunda kalmasıdır.”
Senato katibi Richard Pye, sunum içeriğinin “makul göründüğünü” ve belirgin bir tehlike işareti göstermediğini belirtti.
Şu anda, gönderimlerin yapay zeka tarafından oluşturulan bölümlerini tespit etmek için herhangi bir “tanılama araçları” kullanımının rutin olarak kullanılmadığını söyledi, ancak M365 için Microsoft Copilot denemesinin, bu tür gönderimleri alındıkça tanımlamanın ve işaretlemenin teknik bir yoluna yol açabileceğini umduğunu söyledi.
Pye, “İnsanların yapay zekayı kullandığı koşulların daha fazla farkında olmamız gerektiğini düşünüyorum” dedi.
Gönderimlerdeki yapay zeka tarafından oluşturulan içeriğin tamamının endişe verici olmayabileceğini ekledi.
“Ayrıca yapay zekanın yardımıyla üretilen ürünleri hemen göz ardı etme konusunda dikkatli olmamız gerektiğini söyleyebilirim çünkü bunlar, gerekli araçlara sahip olmayan insanlar için kendi sunumlarını parlamentoya sunmanın iyi bir yolu olabilir.” dedi Pye. “Bu kolaylaştırıcı bir teknolojidir.”
ChatGPT açılır penceresi
Pye ayrıca Parlamento Hizmetleri Departmanı’nın parlamento personelinin kamuya açık olmayan bilgileri ChatGPT gibi üretken yapay zeka araçlarına girmesini engellemek için bir pop-up kullanmaya başladığını da açıkladı.
“Açılır pencere çıkıyor ve araçlara yalnızca kamuya açık bilgilerin girilmesi gerektiği ve sonuçların dikkatle kontrol edilmesi gerektiği konusunda uyarıyor ve yanlışlıkla hassas bilgiler girmeniz durumunda size bir iletişim sağlıyor” dedi.
Hareket, personelin kamuya açık üretken yapay zeka araçlarını kullanması konusunda farklı departman ve kurumların ne gibi korumalara sahip olduğunu anlamaya çalışan bir dizi sorunun duyurulmasının ardından geldi.