Çin Adalet Gözlemcisi

中司观察

İngilizceArapçaBasitleştirilmiş Çince)FlemenkçeFransızcaAlmancaHintçeİtalyanJaponcaKoreliPortekizceRusçaİspanyolcaİsveççeİbraniceEndonezceVietnamTaylandTürkceMalaya

Çin, Algoritmik Karar Vermede Platform Sorumluluğunu Nasıl Ele Alır?

Paz, 28 Kas 2021
Kategoriler: Trendleri
Katkıda bulunanlar: Guodong Du 杜国栋

avatar

 

Anahtar teslimatlar:

  • Çinli milletvekilleri, algoritmaların internet platformlarının işleyişindeki merkezi rolünü fark ettiler ve 20 Ağustos 2021'de yürürlüğe giren ve bu teknolojiyi ilk kez düzenleyen Kişisel Bilgilerin Korunması Kanunu'nda (PIPL) bunu “otomatik karar verme” olarak tanımladılar.
  • PIPL kapsamında platformlar, algoritmaların etkisini önceden değerlendirecek ve daha sonra karar vermenin sonuçlarından sorumlu olacaktır.
  • PIPL, platform kullanıcılarının bilgi edinme hakkını genişletir ve platformların, kullanıcılara algoritmik kişiselleştirilmiş önerilerle oluşturulan "bilgi kozalarını" kırmasını gerektirir.


Çin'in Kişisel Bilgilerin Korunması Yasası (个人信息保护法)Ağustos 2021'de yürürlüğe giren , algoritmalar aracılığıyla otomatik karar alma gerçekleştiren İnternet platformlarının sınırlarını çiziyor.

Ⅰ. Arka plan

Çin İnternet platformları, tipik olarak TopBuzz ve TikTok of ByteDance, içerik ve ürünleri kullanıcılarına iletmek için kapsamlı bir şekilde öneri algoritmalarını kullanıyor.

Ancak, kullanıcıların özgür karar verme haklarına müdahale ettiği ve dolayısıyla ahlaki tehlike oluşturduğu iddia edilen bu tür algoritmalar, kamuoyu ve düzenleyiciler tarafından sorgulanmaktadır.

Çinli milletvekilleri, algoritmaların bu tür platformların işleyişindeki merkezi rolünü fark ettiler ve 20 Ağustos 2021'de yürürlüğe giren Kişisel Bilgilerin Korunması Kanunu'nda (bundan böyle 'PIPL' olarak anılacaktır) bu teknolojiyi “otomatik karar verme” olarak tanımladılar. İlk kez.

PIPL'ye göre, otomatik karar verme, bireylerin davranış alışkanlıklarını, hobilerini veya mali, sağlık ve kredi durumlarını bilgisayar programları aracılığıyla otomatik olarak analiz etme ve değerlendirme ve bunlar üzerinde karar verme faaliyetlerini ifade eder. (Madde 73)

Bundan önce, platformların otomatik karar verme sorumluluğu konusunda bölünmüş görüşler vardı. Örneğin, bazı insanlar, esasen bir tür tarafsız teknoloji olan otomatik karar verme algoritmalarının sonuçlarından platformların sorumlu olmaması gerektiğine inanıyordu. Ancak, PIPL bunun aksini açıklar.

Ⅱ. Platformlardaki kısıtlamalar

1. Düzenleyiciler, algoritmaları doğrudan gözden geçirir

Kişisel bilgi işlemcileri olarak platformlar, kişisel bilgilerin işlenmesinin yasalara ve idari düzenlemelere uygunluğunu düzenli olarak denetleyecektir. (Madde 54)

Bu, platformların algoritmik otomatik karar verme ve diğer bilgi işleme faaliyetlerini periyodik olarak denetlemesini gerektirir.

Kurala göre, düzenleyiciler, platformların eylemleri ve sonuçları üzerinde dış denetim yerine, platformların algoritmalarının işleyişine ilişkin iç denetimler de yapabilirler.

Buna göre, düzenleyiciler algoritmaları doğrudan düzenleyici nesne olarak yaparlar, bu da düzenleyicilerin otomatikleştirilmiş karar vermenin teknolojisine ve ayrıntılarına müdahale etmesini sağlar.

2. Platformlar, algoritmaların etkisini önceden değerlendirir 

Kişisel bilgi işlemcileri olarak platformlar, kişisel bilgilerin korunması etki değerlendirmesini önceden yapacak ve kişisel bilgileri otomatik karar verme için kullanıyorlarsa işleme bilgilerini kaydedeceklerdir. (Madde 55)

Platformlar tarafından yapılan değerlendirme aşağıdakileri kapsayacaktır:

A. Kişisel bilgilerin işlenmesinin amaçları, yöntemleri veya diğer herhangi bir yönünün yasal, meşru ve gerekli olup olmadığı;

B. Kişisel hak ve menfaatler üzerindeki etkisi ve risk düzeyi; ve

C. Alınan güvenlik koruma önlemlerinin yasal, etkili ve risk düzeyiyle orantılı olup olmadığı.

Buna göre, platformlar, otomatik karar verme algoritmaları devreye girmeden önce bir ön değerlendirme yapacaktır. Risk değerlendirmesi, algoritmik otomatik karar vermenin meşruluğunu ve gerekliliğini, ayrıca etkisini ve riskini içerir.

Platformlardan alınan hatalı algoritmik otomatik karar verme, vatandaşların mülkiyetine ve kişilik haklarına, hatta kamu çıkarlarına ve ulusal güvenliğe bile zarar verebilir.

Bu nedenle, olumsuz sonuçlar binlerce kullanıcıyı etkileyebilir. Bu noktada, platformlar sorumlu tutulsa bile, daha önce verilmiş olan hasarın telafisi zor olabilir.

Böyle bir durumu önlemek için kanun, algoritmalara önceden müdahale etmek amacıyla platformların algoritmaları için bir ön değerlendirme sistemi kurar.

3. Platformlar, sonradan alınan kararların sonuçlarından sorumludur.

Platformlar, otomatik karar vermenin sonuçları için aşağıdaki yükümlülükleri üstlenir (Madde 24):

A. Platformlar, sonuçların adil ve tarafsız olmasını sağlayacaktır.

Kişisel bilgi işlemcileri, kişisel bilgilerle otomatik karar vermeyi yürüttüğünde, karar vermenin şeffaflığını ve sonuçların adil ve tarafsızlığını sağlayacak ve işlem fiyatları veya diğer işlem koşulları açısından bireylere makul olmayan farklı muamele uygulamayacaktır.

B. Platformlar, kullanıcılarına kişisel özellikleri hedeflemeyen otomatik karar verme seçenekleri sunacaktır.

Otomatik karar verme yoluyla bireylere push tabanlı bilgi dağıtımı veya ticari pazarlama yapıldığında, bireylerin kişisel özelliklerini hedef almayan seçenekler veya almayı reddetmenin kolay yolları bireylere eş zamanlı olarak sunulur.

C. Platformlar karar alma sonuçlarına ilişkin açıklamalar yapacaktır.

Bir kişinin hakları ve çıkarları üzerinde önemli bir etkisi olan bir kararın otomatik karar verme yoluyla alınması durumunda, kişi kişisel bilgi işlemcisinden açıklama yapmasını talep etme ve ayrıca açıklama yapmayı reddetme hakkına sahip olacaktır. kişisel bilgi işlemcisi tarafından yalnızca otomatik karar verme yoluyla alınan kararlar.

Kural, aşağıdakiler dahil olmak üzere otomatik karar vermenin sonuçlarından platformları sorumlu tutar:

C. Kural, platformlar tarafından kullanılan "teknoloji tarafsızlığı" savunmasını tanımıyor. Platformlar, algoritmik otomatik karar vermenin sonuçlarından sorumlu olmalı ve sonuçların adil ve makul olmasını sağlamalıdır.

B. Kural, platform kullanıcılarının bilgi edinme hakkını genişletir. Kullanıcılar, “önemli bir etki” durumunda platformlardan açıklamaların yanı sıra otomatik karar verme sonuçlarının şeffaflığını talep edebilir.

C. Kural, platformların kullanıcılara algoritmik kişiselleştirilmiş önerilerle oluşturulan "bilgi kozalarını" kırmasını ve platformların kullanıcıların bilme hakkını korumasını gerektirir.

III. Görüşlerimiz

Çin, platformların otomatik karar verme algoritmaları için yasal kurallar ekleyerek PIPL'de bir atılım yaptı. Ancak yine de daha da rafine edilmesi gerekiyor. Örneğin, yasa açıklığa kavuşturmaz:

A. platformların algoritma değerlendirmesini başlatması için koşullar.

B. Platformların algoritmalarını değerlendirdikten sonra değerlendirme raporlarının kamuya açıklanıp yayınlanmayacağı ve ne ölçüde kamuoyuna açıklanacağı ve 

C. Algoritmik otomatik karar verme süreçlerinin neden olduğu zarardan platformların nasıl sorumlu olması gerektiği.

Çinli düzenleyicilerin hala PIPL'yi daha fazla uygulamak için bir dizi özel düzenlemeyi yürürlüğe koyma olasılığını araştırdıklarını tahmin ediyorum.

 

Fotoğraf Raj ile Yolculuk on Unsplash

 

 

 

 

 

Katkıda bulunanlar: Guodong Du 杜国栋

PDF olarak kaydet

Çin Yasaları Portalı ile ilgili yasalar

Bunları da beğenebilirsin

Yabancı Kararların Tanınması ve Tenfizi Konusunda Çinli Yargıçlar Böyle Dedi: Çin Yüksek Mahkemesi Yargıçlarından 2023 Medeni Usul Kanunu Değişikliğine İlişkin Görüşler (4)

2023 tarihli Hukuk Muhakemeleri Kanunu, yabancı kararların tanınmasını ve tenfizini geliştirmek, şeffaflığı, standardizasyonu ve usul adaletini teşvik etmek için sistematik düzenlemeler getirirken, dolaylı yargı yetkisinin belirlenmesinde hibrit bir yaklaşım benimsiyor ve hukuki çözüm olarak yeniden değerlendirme prosedürünü getiriyor.

Çinli Yargıçlar Yurt Dışında Delil Toplanması Konusunda Böyle Dedi: Çin Yüksek Mahkemesi Yargıçlarının 2023 Medeni Usul Kanunu Değişikliğine İlişkin Görüşleri (3)

2023 tarihli Hukuk Muhakemeleri Kanunu, yurt dışında delil toplanmasına yönelik sistematik bir çerçeve getirerek hukuk ve ticari davalarda uzun süredir devam eden zorlukları ele alırken, aynı zamanda anlık mesajlaşma cihazlarının kullanılması gibi yenilikçi yöntemleri de benimseyerek hukuki prosedürlerde verimliliği ve uyarlanabilirliği artırıyor.

Çinli Yargıçlar Sınır Ötesi Süreç Hizmeti Konusunda Böyle Dedi: Çin Yüksek Mahkemesi Yargıçlarından 2023 Medeni Usul Kanunu Değişikliğine İlişkin Görüşler (2)

2023 tarihli Hukuk Usulü Muhakemeleri Kanunu, kanalları genişleterek ve ikametgâhı olmayan taraflar için hizmet yayın süresini 60 güne kısaltarak yurt dışıyla ilgili davalar için tebliğ sürecindeki zorlukları ele alan, sorun odaklı bir yaklaşım benimsemektedir ve bu da verimliliği artırmaya yönelik daha geniş bir girişimi yansıtmaktadır. ve yasal prosedürleri uluslararası davaların karmaşıklığına uyarlamak.

Çinli Yargıçlar Uluslararası Hukuk Yargısı Konusunda Böyle Buyurdu: Çin Yüksek Mahkemesi Yargıçlarından 2023 Medeni Usul Kanunu Değişikliğine İlişkin Görüşler (1)

Çin Yüksek Mahkemesi Yargıçlarının 2023 Medeni Usul Kanunu Değişikliği hakkındaki görüşleri, Çin mahkemelerinin genişletilmiş yetki alanı, rızaya dayalı yargı yetkisindeki iyileştirmeler ve uluslararası yetki çatışmalarının koordinasyonu da dahil olmak üzere uluslararası hukuk usul kurallarında yapılan önemli değişiklikleri vurgulamaktadır.

Pekin Mahkemesi Vatandaşların Kişisel Bilgilerinin İhlaline İlişkin Raporunu Yayımladı

Çin'in veri koruma ortamının 2009 Ceza Kanunu Değişikliğinden 2016 Siber Güvenlik Kanununa ve 2021 Kişisel Bilgilerin Korunması Kanununa kadar olan evrimini gösteren Pekin Yüksek Halk Mahkemesi tarafından Kasım 2023'te yayınlanan çok önemli bir teknik rapor, Çin mahkemelerinin cezai yaptırımların uygulanmasındaki rolünün altını çiziyor. ağ operatörleri için katı kurallar ve vatandaşların kişisel bilgilerinin korunması.

Çin, Kişisel Bilgilerin Yurt Dışına Aktarılmasına Yönelik Yönergeler Yayımladı

Mayıs 2023'te Çin Siber Uzay İdaresi (CAC), standart sözleşmeleri dosyalamak için yöntemler, prosedürler ve materyaller için özel gereksinimler sağlayan "Kişisel Bilgilerin Giden Transferine İlişkin Standart Sözleşmelerin Doldurulmasına İlişkin Kılavuz İlkeler (Birinci Baskı)" yayınladı. kişisel bilgilerin dışarıya aktarımı için.

Çin'de Çocuk Sabıka Kayıtları Mühürleme Sistemi

Bir suç işlerken 18 yaşını dolduran ve beş yıllık sabit süreli hapis cezasına veya daha hafif bir cezaya çarptırılan bir çocuğun Çin ceza kanunlarına göre, ilgili sabıka kayıtları korunmak üzere mühürlenecektir.