Anahtar teslimatlar:
- Çinli milletvekilleri, algoritmaların internet platformlarının işleyişindeki merkezi rolünü fark ettiler ve 20 Ağustos 2021'de yürürlüğe giren ve bu teknolojiyi ilk kez düzenleyen Kişisel Bilgilerin Korunması Kanunu'nda (PIPL) bunu “otomatik karar verme” olarak tanımladılar.
- PIPL kapsamında platformlar, algoritmaların etkisini önceden değerlendirecek ve daha sonra karar vermenin sonuçlarından sorumlu olacaktır.
- PIPL, platform kullanıcılarının bilgi edinme hakkını genişletir ve platformların, kullanıcılara algoritmik kişiselleştirilmiş önerilerle oluşturulan "bilgi kozalarını" kırmasını gerektirir.
Çin'in Kişisel Bilgilerin Korunması Yasası (个人信息保护法)Ağustos 2021'de yürürlüğe giren , algoritmalar aracılığıyla otomatik karar alma gerçekleştiren İnternet platformlarının sınırlarını çiziyor.
Ⅰ. Arka plan
Çin İnternet platformları, tipik olarak TopBuzz ve TikTok of ByteDance, içerik ve ürünleri kullanıcılarına iletmek için kapsamlı bir şekilde öneri algoritmalarını kullanıyor.
Ancak, kullanıcıların özgür karar verme haklarına müdahale ettiği ve dolayısıyla ahlaki tehlike oluşturduğu iddia edilen bu tür algoritmalar, kamuoyu ve düzenleyiciler tarafından sorgulanmaktadır.
Çinli milletvekilleri, algoritmaların bu tür platformların işleyişindeki merkezi rolünü fark ettiler ve 20 Ağustos 2021'de yürürlüğe giren Kişisel Bilgilerin Korunması Kanunu'nda (bundan böyle 'PIPL' olarak anılacaktır) bu teknolojiyi “otomatik karar verme” olarak tanımladılar. İlk kez.
PIPL'ye göre, otomatik karar verme, bireylerin davranış alışkanlıklarını, hobilerini veya mali, sağlık ve kredi durumlarını bilgisayar programları aracılığıyla otomatik olarak analiz etme ve değerlendirme ve bunlar üzerinde karar verme faaliyetlerini ifade eder. (Madde 73)
Bundan önce, platformların otomatik karar verme sorumluluğu konusunda bölünmüş görüşler vardı. Örneğin, bazı insanlar, esasen bir tür tarafsız teknoloji olan otomatik karar verme algoritmalarının sonuçlarından platformların sorumlu olmaması gerektiğine inanıyordu. Ancak, PIPL bunun aksini açıklar.
Ⅱ. Platformlardaki kısıtlamalar
1. Düzenleyiciler, algoritmaları doğrudan gözden geçirir
Kişisel bilgi işlemcileri olarak platformlar, kişisel bilgilerin işlenmesinin yasalara ve idari düzenlemelere uygunluğunu düzenli olarak denetleyecektir. (Madde 54)
Bu, platformların algoritmik otomatik karar verme ve diğer bilgi işleme faaliyetlerini periyodik olarak denetlemesini gerektirir.
Kurala göre, düzenleyiciler, platformların eylemleri ve sonuçları üzerinde dış denetim yerine, platformların algoritmalarının işleyişine ilişkin iç denetimler de yapabilirler.
Buna göre, düzenleyiciler algoritmaları doğrudan düzenleyici nesne olarak yaparlar, bu da düzenleyicilerin otomatikleştirilmiş karar vermenin teknolojisine ve ayrıntılarına müdahale etmesini sağlar.
2. Platformlar, algoritmaların etkisini önceden değerlendirir
Kişisel bilgi işlemcileri olarak platformlar, kişisel bilgilerin korunması etki değerlendirmesini önceden yapacak ve kişisel bilgileri otomatik karar verme için kullanıyorlarsa işleme bilgilerini kaydedeceklerdir. (Madde 55)
Platformlar tarafından yapılan değerlendirme aşağıdakileri kapsayacaktır:
A. Kişisel bilgilerin işlenmesinin amaçları, yöntemleri veya diğer herhangi bir yönünün yasal, meşru ve gerekli olup olmadığı;
B. Kişisel hak ve menfaatler üzerindeki etkisi ve risk düzeyi; ve
C. Alınan güvenlik koruma önlemlerinin yasal, etkili ve risk düzeyiyle orantılı olup olmadığı.
Buna göre, platformlar, otomatik karar verme algoritmaları devreye girmeden önce bir ön değerlendirme yapacaktır. Risk değerlendirmesi, algoritmik otomatik karar vermenin meşruluğunu ve gerekliliğini, ayrıca etkisini ve riskini içerir.
Platformlardan alınan hatalı algoritmik otomatik karar verme, vatandaşların mülkiyetine ve kişilik haklarına, hatta kamu çıkarlarına ve ulusal güvenliğe bile zarar verebilir.
Bu nedenle, olumsuz sonuçlar binlerce kullanıcıyı etkileyebilir. Bu noktada, platformlar sorumlu tutulsa bile, daha önce verilmiş olan hasarın telafisi zor olabilir.
Böyle bir durumu önlemek için kanun, algoritmalara önceden müdahale etmek amacıyla platformların algoritmaları için bir ön değerlendirme sistemi kurar.
3. Platformlar, sonradan alınan kararların sonuçlarından sorumludur.
Platformlar, otomatik karar vermenin sonuçları için aşağıdaki yükümlülükleri üstlenir (Madde 24):
A. Platformlar, sonuçların adil ve tarafsız olmasını sağlayacaktır.
Kişisel bilgi işlemcileri, kişisel bilgilerle otomatik karar vermeyi yürüttüğünde, karar vermenin şeffaflığını ve sonuçların adil ve tarafsızlığını sağlayacak ve işlem fiyatları veya diğer işlem koşulları açısından bireylere makul olmayan farklı muamele uygulamayacaktır.
B. Platformlar, kullanıcılarına kişisel özellikleri hedeflemeyen otomatik karar verme seçenekleri sunacaktır.
Otomatik karar verme yoluyla bireylere push tabanlı bilgi dağıtımı veya ticari pazarlama yapıldığında, bireylerin kişisel özelliklerini hedef almayan seçenekler veya almayı reddetmenin kolay yolları bireylere eş zamanlı olarak sunulur.
C. Platformlar karar alma sonuçlarına ilişkin açıklamalar yapacaktır.
Bir kişinin hakları ve çıkarları üzerinde önemli bir etkisi olan bir kararın otomatik karar verme yoluyla alınması durumunda, kişi kişisel bilgi işlemcisinden açıklama yapmasını talep etme ve ayrıca açıklama yapmayı reddetme hakkına sahip olacaktır. kişisel bilgi işlemcisi tarafından yalnızca otomatik karar verme yoluyla alınan kararlar.
Kural, aşağıdakiler dahil olmak üzere otomatik karar vermenin sonuçlarından platformları sorumlu tutar:
C. Kural, platformlar tarafından kullanılan "teknoloji tarafsızlığı" savunmasını tanımıyor. Platformlar, algoritmik otomatik karar vermenin sonuçlarından sorumlu olmalı ve sonuçların adil ve makul olmasını sağlamalıdır.
B. Kural, platform kullanıcılarının bilgi edinme hakkını genişletir. Kullanıcılar, “önemli bir etki” durumunda platformlardan açıklamaların yanı sıra otomatik karar verme sonuçlarının şeffaflığını talep edebilir.
C. Kural, platformların kullanıcılara algoritmik kişiselleştirilmiş önerilerle oluşturulan "bilgi kozalarını" kırmasını ve platformların kullanıcıların bilme hakkını korumasını gerektirir.
III. Görüşlerimiz
Çin, platformların otomatik karar verme algoritmaları için yasal kurallar ekleyerek PIPL'de bir atılım yaptı. Ancak yine de daha da rafine edilmesi gerekiyor. Örneğin, yasa açıklığa kavuşturmaz:
A. platformların algoritma değerlendirmesini başlatması için koşullar.
B. Platformların algoritmalarını değerlendirdikten sonra değerlendirme raporlarının kamuya açıklanıp yayınlanmayacağı ve ne ölçüde kamuoyuna açıklanacağı ve
C. Algoritmik otomatik karar verme süreçlerinin neden olduğu zarardan platformların nasıl sorumlu olması gerektiği.
Çinli düzenleyicilerin hala PIPL'yi daha fazla uygulamak için bir dizi özel düzenlemeyi yürürlüğe koyma olasılığını araştırdıklarını tahmin ediyorum.
Fotoğraf Raj ile Yolculuk on Unsplash
Katkıda bulunanlar: Guodong Du 杜国栋