Uber, muhtemelen hiçbir açıklama yapılmadan hesabı kilitlenen herkesin aşina olduğu bir uygulamayla bağlantılı olarak 825 milyon avroluk bir GDPR para cezasıyla karşı karşıya: sürücülerin algoritmik kararlara dayanarak, hiçbir insanın vakayı incelemesi olmadan otomatik olarak askıya alınması. Bu ceza, son dönemin en büyük gizlilik para cezalarından biri ve çoğu internet kullanıcısının sahip olduğunu bilmediği bir hakkı ön plana çıkarıyor: gerçek sonuçlar doğuran tamamen otomatik kararlara tabi olmama hakkı.

Uber Ne Yaptı: İnsan İncelemesi Olmadan Algoritmik Askıya Almalar

Bu davanın merkezinde Uber'in sürücüleri devre dışı bırakma sistemi yer alıyor. Düzenleyicilere göre, sürücüler yalnızca faaliyetlerine, dolandırıcılık sinyallerine, puanlarına veya diğer veri noktalarına ilişkin otomatik değerlendirmelere dayanarak, kararın adil hatta doğru olduğunu doğrulamak için hiçbir kişi devreye girmeden askıya alınabiliyor ve fiilen gelirlerini kaybedebiliyorlardı. Bir esnaf için askıya alma küçük bir rahatsızlık değildir. Genellikle neden olduğu veya nasıl itiraz edileceği konusunda çok az netlikle, anında geçim kaybı anlamına gelebilir.

Bu, tek bir başıboş algoritmanın hata yapmasıyla ilgili bir hikaye değil. Bu yapısal bir tercihle ilgili: makinelerin sonuç doğuran kararlar aldığı ve insanların isteğe bağlı olduğu bir sistem kurmak. Bu ayrım Avrupa gizlilik hukuku kapsamında son derece önemlidir ve cezanın bir uyarı mektubu yerine yüz milyonlarca avroya ulaşmasının nedeni de budur. Cezanın nasıl hesaplandığı ve Hollanda makamının ne tespit ettiği dahil olmak üzere tam düzenleyici arka planı isteyen okuyucular, dava hakkında daha fazla ayrıntı için Hollanda düzenleyicisinin Uber'a verdiği orijinal GDPR para cezasına göz atabilir.

GDPR'nin 22. Maddesi Otomatik Kararlara Karşı Nasıl Koruma Sağlıyor

Bu cezanın yasal dayanağı GDPR'nin 22. maddesinde yer alıyor. Bu hüküm, bireylere, yalnızca otomatik işleme dayanan ve hukuki sonuçlar doğuran veya kişiyi benzer şekilde önemli ölçüde etkileyen bir karara tabi olmama hakkı veriyor. Birincil gelir kaynağınıza erişimi kaybetmek açıkça bu kapsama girer.

Kural otomasyonu tamamen yasaklamaz. Şirketler sorunları işaretlemek, riski puanlamak veya vakaları önceliklendirmek için algoritmalar kullanabilir. GDPR'nin gerektirdiği şey, bir kararın ciddi sonuçları olduğunda, bir insanın anlamlı bir şekilde dahil olmasıdır; makineyi gerçekten geçersiz kılma yetkisine ve bilgisine sahip, sadece çıktıyı onaylayan biri değil. Düzenleyiciler, "onaylayan bir kişi" ifadesinin, o kişinin sonucu gerçekten araştırma veya tersine çevirme şansı olmadıysa yetersiz olduğunu giderek daha fazla kabul ediyor. Uber davası, kağıt üzerinde bir insanın süreçte olması ile pratikte olması arasındaki bu boşluğun tam olarak şirketlerin başını belaya sokan şey olduğunu gösteriyor.

Esnek Çalışmanın Ötesinde: Gölge Yasaklama, Hesap Engelleme ve Veri Silme Talepleri

Bu ceza bir araç çağırma şirketini içerse de, altta yatan sorun esnek çalışmanın çok ötesine uzanıyor. Sosyal medya platformları hesapları gölge yasaklamak veya içerik kaldırmak için otomatik sistemler kullanıyor. Bankalar ve ödeme işlemcileri şüpheli dolandırıcılık nedeniyle hesapları dondurmak için algoritmalar kullanıyor. Yayın hizmetleri ve pazaryerleri, işaretlenen davranışlar için kullanıcıları otomatik olarak yasaklıyor. Temel GDPR hakları olan veri silme ve erişim talepleri bile, genellikle meşru bir talebi herhangi bir insan incelemesi olmadan sessizce reddedebilen otomatik sistemler tarafından işleniyor.

Bu senaryoların her birinde aynı gerilim geçerli: şirket için kolaylık ve ölçek, birey için ise yasal süreç ve şeffaflık. Çoğu kullanıcı, kendilerini etkileyen kararı bir insanın inceleyip incelemediğini sormayı hiç düşünmez, çünkü platformlar bunu nadiren açıklar. Uber cezası, düzenleyicilerin bu opaklığı yalnızca bir müşteri hizmetleri sorunu olarak değil, bir uyum riski olarak görmeye başladığının sinyalini veriyor.

Bu Sizin İçin Ne İfade Ediyor

Bir uygulama veya platform tarafından net bir açıklama yapılmadan askıya alındıysanız, yasaklandıysanız veya talebiniz reddedildiyse, bu kararı asgari düzeyde veya hiç insan gözetimi olmadan bir algoritmanın vermiş olma ihtimali yüksektir. GDPR kapsamında, AB'deyseniz veya verileriniz orada faaliyet gösteren bir şirket tarafından işleniyorsa, genellikle sizi önemli ölçüde etkileyen otomatik kararlar hakkında açıklama isteme, karara itiraz etme ve anlamlı insan incelemesi talep etme hakkına sahipsiniz. Bu alanda faaliyet gösteren şirketler, açıkça reklamı yapılmasa bile bu güvenlik vanasını kurmakla yasal olarak yükümlüdür.

Bu dava aynı zamanda, otomatik uygulamaya büyük ölçüde dayanan platformlara ne kadar kontrol devrettiğiniz konusunda dikkatli olmanın pratik değerini de ortaya koyuyor. GDPR otomatik karar alma haklarınızı anlamak yalnızca soyut bir yasal kavram değildir; bir uygulama sizi dışarıda kilitlediğinde veya bir algoritma hesabınızı işaretlediğinde gerçekten başvurabileceğiniz bir araçtır.

Önemli Çıkarımlar

Otomatik bir askıya alma, yasaklama veya reddetmenin muhatabı olduğunuzda, kararın kesin olduğunu varsaymak yerine harekete geçmeye değer. Kararın nasıl alındığına ve bir insanın incelediğine dair yazılı bir açıklama isteyin. Şirket AB hukukuna tabiyse GDPR haklarınızı açıkça belirtin ve tatmin edici bir yanıt alamazsanız ilgili veri koruma makamına şikayette bulunun. Platformla iletişimlerinizin kayıtlarını tutun; çünkü belgelenmiş bir otomatik ve incelemesiz karar modeli, Uber'a 825 milyon avroluk cezayı getiren türden bir kanıttır. Günlük yaşamın daha fazlası algoritmalardan geçerken, bu hakları bilmek ve kullanmak, makine hata yaptığında geri adım atmanın en net yollarından biridir.