Victoria Aile, Adalet ve Konut Bakanlığı’na (DFFH), bir çocuk koruma görevlisinin Çocuk Mahkemesi’ne sunulan bir raporu hazırlamak için ChatGPT’yi kullanmasının ardından bir dizi üretken yapay zeka aracına erişimi yasaklama ve engelleme talimatı verildi.
Eyaletin bilgi komiseri, ortaya çıkan raporun “çocuğa yönelik riskleri küçümseyen yanlış kişisel bilgiler içerdiğini” söyledi.
Victoria Bilgi Komiserliği Ofisi (OVIC) yaptığı bir soruşturmada, “Neyse ki bu, çocuğun davasının sonucunu değiştirmedi, ancak ortaya çıkabilecek potansiyel zararı görmek kolay” dedi. [pdf].
Mahkemeye sunulan rapor, çocuk koruma görevlisinin “çocuğun riskleri ve ihtiyaçları ile ebeveynlerin çocuğun güvenliğini ve gelişimini sağlama kapasitesine ilişkin kendi değerlendirmesini” içermesi amaçlanıyor.
Bu durumda ChatGPT’nin, “cinsel suçlarla suçlanan ebeveynleriyle birlikte yaşamaya devam etmeleri halinde küçük bir çocuğun karşı karşıya kalabileceği riskleri tanımlamada” rol oynadığı tespit edildi.
Dava görevlisinin, rapor metnini oluşturmak için ChatGPT’ye “kişisel ve hassas” davaya özgü bilgileri girdiği tespit edildi; bu, eyaletin gizlilik kurallarının ciddi şekilde ihlali anlamına geliyor.
OVIC, “Bu davadaki bilgiler, yurtdışındaki bir şirket olan OpenAI’ye ifşa edildi ve DFFH’nin kontrolü dışında yayınlandı” dedi.
“OpenAI artık bu bilgileri elinde tutuyor ve bunların nasıl daha sonra kullanılacağını ve ifşa edileceğini belirleyebiliyor.”
OVIC’nin rapor incelemesi, ChatGPT kullanımına dair çok sayıda “gösterge” buldu; bunlar arasında davanın kişisel ayrıntılarındaki yanlışlıklardan, “çalışan eğitimi ve çocuk koruma yönergeleriyle uyuşmayan dil ve uygunsuz cümle yapısı”na kadar uzanıyor.
ChatGPT’nin kullanımı bu tek davadan daha geniş kapsamlı da olabilir.
OVIC, departmanın bir yıllık süre içerisinde vaka görevlisinin birimi tarafından ele alınan tüm vakalara ilişkin yaptığı dahili incelemede “ChatGPT’nin çocuk korumayla ilgili belgeleri hazırlamak için kullanılmış olabileceğine dair göstergeler içeren 100 vaka tespit edildiğini” söyledi.
Ayrıca, 2023’ün ikinci yarısında “DFFH genelindeki yaklaşık 900 çalışan ChatGPT web sitesine erişti ve bu da iş gücünün neredeyse yüzde 13’ünü temsil ediyor.”
OVIC, personelin üretken yapay zeka kullanımı konusunda özel bir eğitim veya rehberlik almadığını tespit etti.
Bunun üzerine OVIC, departmana bir uyumluluk bildirimi göndererek üretken yapay zeka araçlarının kullanımının yasaklanmasını ve bunlara şirket içinde teknik olarak erişimin engellenmesini istedi.
Bakanlığın dün itibarıyla tüm personele kamuya açık yapay zeka araçlarının kullanımının yasaklanması yönünde bir talimat vermesi gerekiyordu.
“Web tabanlı veya harici API tabanlı GenAI metin araçlarına” erişimi engelleyen teknik kontrolleri uygulamak için 5 Kasım’a kadar süresi var [including] ChatGPT; ChatSonic; Claude; Copy.AI; Meta AI; Grammarly; HuggingChat; Jasper; NeuroFlash; Poe; ScribeHow; QuillBot; Wordtune; Gemini; ve [Microsoft 365] Yardımcı pilot.”