Çin Adalet Gözlemcisi

中司观察

İngilizceArapçaBasitleştirilmiş Çince)FlemenkçeFransızcaAlmancaHintçeİtalyanJaponcaKoreliPortekizceRusçaİspanyolcaİsveççeİbraniceEndonezyaVietnamTaylandTürkMalaya

Çin, Algoritmik Karar Vermede Platform Sorumluluğunu Nasıl Ele Alır?

Paz, 28 Kas 2021
Kategoriler: Trendleri
Katkıda bulunanlar: Guodong Du 杜国栋

avatar

 

Anahtar teslimatlar:

  • Çinli milletvekilleri, algoritmaların internet platformlarının işleyişindeki merkezi rolünü fark ettiler ve 20 Ağustos 2021'de yürürlüğe giren ve bu teknolojiyi ilk kez düzenleyen Kişisel Bilgilerin Korunması Kanunu'nda (PIPL) bunu “otomatik karar verme” olarak tanımladılar.
  • PIPL kapsamında platformlar, algoritmaların etkisini önceden değerlendirecek ve daha sonra karar vermenin sonuçlarından sorumlu olacaktır.
  • PIPL, platform kullanıcılarının bilgi edinme hakkını genişletir ve platformların, kullanıcılara algoritmik kişiselleştirilmiş önerilerle oluşturulan "bilgi kozalarını" kırmasını gerektirir.


Çin'in Kişisel Bilgilerin Korunması Yasası (个人信息保护法)Ağustos 2021'de yürürlüğe giren , algoritmalar aracılığıyla otomatik karar alma gerçekleştiren İnternet platformlarının sınırlarını çiziyor.

Ⅰ. Arka plan

Çin İnternet platformları, tipik olarak TopBuzz ve TikTok of ByteDance, içerik ve ürünleri kullanıcılarına iletmek için kapsamlı bir şekilde öneri algoritmalarını kullanıyor.

Ancak, kullanıcıların özgür karar verme haklarına müdahale ettiği ve dolayısıyla ahlaki tehlike oluşturduğu iddia edilen bu tür algoritmalar, kamuoyu ve düzenleyiciler tarafından sorgulanmaktadır.

Çinli milletvekilleri, algoritmaların bu tür platformların işleyişindeki merkezi rolünü fark ettiler ve 20 Ağustos 2021'de yürürlüğe giren Kişisel Bilgilerin Korunması Kanunu'nda (bundan böyle 'PIPL' olarak anılacaktır) bu teknolojiyi “otomatik karar verme” olarak tanımladılar. İlk kez.

PIPL'ye göre, otomatik karar verme, bireylerin davranış alışkanlıklarını, hobilerini veya mali, sağlık ve kredi durumlarını bilgisayar programları aracılığıyla otomatik olarak analiz etme ve değerlendirme ve bunlar üzerinde karar verme faaliyetlerini ifade eder. (Madde 73)

Bundan önce, platformların otomatik karar verme sorumluluğu konusunda bölünmüş görüşler vardı. Örneğin, bazı insanlar, esasen bir tür tarafsız teknoloji olan otomatik karar verme algoritmalarının sonuçlarından platformların sorumlu olmaması gerektiğine inanıyordu. Ancak, PIPL bunun aksini açıklar.

Ⅱ. Platformlardaki kısıtlamalar

1. Düzenleyiciler, algoritmaları doğrudan gözden geçirir

Kişisel bilgi işlemcileri olarak platformlar, kişisel bilgilerin işlenmesinin yasalara ve idari düzenlemelere uygunluğunu düzenli olarak denetleyecektir. (Madde 54)

Bu, platformların algoritmik otomatik karar verme ve diğer bilgi işleme faaliyetlerini periyodik olarak denetlemesini gerektirir.

Kurala göre, düzenleyiciler, platformların eylemleri ve sonuçları üzerinde dış denetim yerine, platformların algoritmalarının işleyişine ilişkin iç denetimler de yapabilirler.

Buna göre, düzenleyiciler algoritmaları doğrudan düzenleyici nesne olarak yaparlar, bu da düzenleyicilerin otomatikleştirilmiş karar vermenin teknolojisine ve ayrıntılarına müdahale etmesini sağlar.

2. Platformlar, algoritmaların etkisini önceden değerlendirir 

Kişisel bilgi işlemcileri olarak platformlar, kişisel bilgilerin korunması etki değerlendirmesini önceden yapacak ve kişisel bilgileri otomatik karar verme için kullanıyorlarsa işleme bilgilerini kaydedeceklerdir. (Madde 55)

Platformlar tarafından yapılan değerlendirme aşağıdakileri kapsayacaktır:

A. Kişisel bilgilerin işlenmesinin amaçları, yöntemleri veya diğer herhangi bir yönünün yasal, meşru ve gerekli olup olmadığı;

B. Kişisel hak ve menfaatler üzerindeki etkisi ve risk düzeyi; ve

C. Alınan güvenlik koruma önlemlerinin yasal, etkili ve risk düzeyiyle orantılı olup olmadığı.

Buna göre, platformlar, otomatik karar verme algoritmaları devreye girmeden önce bir ön değerlendirme yapacaktır. Risk değerlendirmesi, algoritmik otomatik karar vermenin meşruluğunu ve gerekliliğini, ayrıca etkisini ve riskini içerir.

Platformlardan alınan hatalı algoritmik otomatik karar verme, vatandaşların mülkiyetine ve kişilik haklarına, hatta kamu çıkarlarına ve ulusal güvenliğe bile zarar verebilir.

Bu nedenle, olumsuz sonuçlar binlerce kullanıcıyı etkileyebilir. Bu noktada, platformlar sorumlu tutulsa bile, daha önce verilmiş olan hasarın telafisi zor olabilir.

Böyle bir durumu önlemek için kanun, algoritmalara önceden müdahale etmek amacıyla platformların algoritmaları için bir ön değerlendirme sistemi kurar.

3. Platformlar, sonradan alınan kararların sonuçlarından sorumludur.

Platformlar, otomatik karar vermenin sonuçları için aşağıdaki yükümlülükleri üstlenir (Madde 24):

A. Platformlar, sonuçların adil ve tarafsız olmasını sağlayacaktır.

Kişisel bilgi işlemcileri, kişisel bilgilerle otomatik karar vermeyi yürüttüğünde, karar vermenin şeffaflığını ve sonuçların adil ve tarafsızlığını sağlayacak ve işlem fiyatları veya diğer işlem koşulları açısından bireylere makul olmayan farklı muamele uygulamayacaktır.

B. Platformlar, kullanıcılarına kişisel özellikleri hedeflemeyen otomatik karar verme seçenekleri sunacaktır.

Otomatik karar verme yoluyla bireylere push tabanlı bilgi dağıtımı veya ticari pazarlama yapıldığında, bireylerin kişisel özelliklerini hedef almayan seçenekler veya almayı reddetmenin kolay yolları bireylere eş zamanlı olarak sunulur.

C. Platformlar karar alma sonuçlarına ilişkin açıklamalar yapacaktır.

Bir kişinin hakları ve çıkarları üzerinde önemli bir etkisi olan bir kararın otomatik karar verme yoluyla alınması durumunda, kişi kişisel bilgi işlemcisinden açıklama yapmasını talep etme ve ayrıca açıklama yapmayı reddetme hakkına sahip olacaktır. kişisel bilgi işlemcisi tarafından yalnızca otomatik karar verme yoluyla alınan kararlar.

Kural, aşağıdakiler dahil olmak üzere otomatik karar vermenin sonuçlarından platformları sorumlu tutar:

C. Kural, platformlar tarafından kullanılan "teknoloji tarafsızlığı" savunmasını tanımıyor. Platformlar, algoritmik otomatik karar vermenin sonuçlarından sorumlu olmalı ve sonuçların adil ve makul olmasını sağlamalıdır.

B. Kural, platform kullanıcılarının bilgi edinme hakkını genişletir. Kullanıcılar, “önemli bir etki” durumunda platformlardan açıklamaların yanı sıra otomatik karar verme sonuçlarının şeffaflığını talep edebilir.

C. Kural, platformların kullanıcılara algoritmik kişiselleştirilmiş önerilerle oluşturulan "bilgi kozalarını" kırmasını ve platformların kullanıcıların bilme hakkını korumasını gerektirir.

III. Görüşlerimiz

Çin, platformların otomatik karar verme algoritmaları için yasal kurallar ekleyerek PIPL'de bir atılım yaptı. Ancak yine de daha da rafine edilmesi gerekiyor. Örneğin, yasa açıklığa kavuşturmaz:

A. platformların algoritma değerlendirmesini başlatması için koşullar.

B. Platformların algoritmalarını değerlendirdikten sonra değerlendirme raporlarının kamuya açıklanıp yayınlanmayacağı ve ne ölçüde kamuoyuna açıklanacağı ve 

C. Algoritmik otomatik karar verme süreçlerinin neden olduğu zarardan platformların nasıl sorumlu olması gerektiği.

Çinli düzenleyicilerin hala PIPL'yi daha fazla uygulamak için bir dizi özel düzenlemeyi yürürlüğe koyma olasılığını araştırdıklarını tahmin ediyorum.

 

Fotoğraf Raj ile Yolculuk on Unsplash

 

 

 

 

 

Katkıda bulunanlar: Guodong Du 杜国栋

PDF olarak kaydet

Çin Yasaları Portalı ile ilgili yasalar

Bunları da beğenebilirsin

Vaka Çalışması: Yüz Tanıma İdari Cezası

400'den fazla idari ceza davasıyla ilgili bir araştırma, Çin hükümetinin yüz tanıma konusundaki mevcut tutumuna ışık tutuyor ve vakaların bugün meydana gelmesi durumunda Çin'in Kişisel Bilgi Koruma Yasasının nasıl uygulanacağını değerlendirmek için bir senaryo sunuyor.

Çin'in Adli Yardım Yasası Ne Diyor?

Görevli avukat nedir? Adli yardım personeli olarak kimler görev yapacak? Ne tür hukuki hizmetler sunulabilir? İşte Çin'in Adli Yardım Yasasını tanımak için cevaplanması gereken temel sorular.

Çin İş Güvenliği Kanunu (2021)

İş Güvenliği Kanunu (安全生产法) 29 Haziran 2002'de yayımlanmış ve sırasıyla 2009, 2014 ve 2021'de değiştirilmiştir. En son revizyon 1 Eylül 2021'de yürürlüğe girdi.

Kişisel Bilgilerin İşlenmesi İçin Yüz Tanıma Teknolojilerinin Kullanıldığı Hukuk Davalarının Yargılanmasında Hukukun Uygulanmasına İlişkin Çeşitli Konulara İlişkin Hükümler(2021)

Kişisel Bilgilerin İşlenmesi için Yüz Tanıma Teknolojilerinin Kullanıldığı Hukuk Davalarının Yargılanmasında Hukukun Uygulanmasına İlişkin Çeşitli Konulara İlişkin Yüksek Halk Mahkemesi Hükümleri (最高人民法院关于审理使用人脸识别技术处理个人信息相关民事案件适用法律若干问题的规定) 27 Temmuz 2021'de yayımlandı ve 1 Ağustos 2021'de yürürlüğe girdi.