Algoritmaların yönetimine ne kadar hazırız? Yapay zeka uygulamalarının temeli algoritmalardan oluşuyor. Yapay zeka tabanlı uygulamaların sunmuş olduğu bir çok imkanı kurumsal şirketler uzun süredir kullanıyor. Özellikle çok fazla iş yükünün olduğu sektörlerde örneğin işe alım sürecinde bir iş ilanına gelen binlerce CV’nin incelenmesi ve filtrelenmesi gibi. Aşağıdaki haber iş süreçlerinde yapay zeka teknolojilerini kullanan şirketler bu teknolojilerin aldığı kararların yanlış yada yanlı olması durumlarına karşılık Avrupa Birliğinin ilk yasa teklifi ile ilgili olması açısından önemli gördüğümüz için paylaşalım istedik. Keyifli okumalar…
Avrupa Birliği’nin dijital çalışma platformlarını düzenleyecek yeni mevzuatı olan Platform Çalışma Yönetmeliği’ne bu ay son şeklini vermesi bekleniyor. Bu, Avrupa Birliği düzeyinde “algoritmik yönetimi” açıkça düzenlemek için önerilen ilk yasa: işe alım, işe alma, görev atama ve işten çıkarma gibi kararları almak veya bilgilendirmek için otomatik izleme, değerlendirme ve karar verme sistemlerinin kullanılması.
Bununla birlikte, Platform Çalışması Yönetmeliğinin kapsamı dijital çalışma platformları, yani “platform çalışması” ile sınırlıdır. Algoritmik yönetim ilk olarak esnek çalışma ekonomisinin emek platformlarında yaygınlaşırken, son birkaç yılda- pandeminin ortasında – geleneksel istihdam ilişkileri içinde algoritmik yönetim teknolojilerinin ve uygulamalarının hızlı bir şekilde yaygınlaştığı görüldü.
En hassas şekilde denetlenen, tehlikeli ve kamuoyuna yansıyan kullanımlardan bazıları depo işleri ve çağrı merkezlerinde olmuştur. Örneğin depo çalışanları, tuvalete gidecek zamanları olmayacak kadar katı kotalar uygulandığını ve bu kotalara uymadıkları için algoritma tarafından işten çıkarıldıklarını bildirmişlerdir. Algoritmik yönetim perakende ve imalat sektörlerinde; yazılım mühendisliği, pazarlama ve danışmanlık alanlarında ve sağlık hizmetleri ve polislik de dahil olmak üzere kamu sektörü işlerinde de görülmektedir.
İnsan kaynakları uzmanları bu algoritmik yönetim uygulamalarını genellikle “insan analitiği” olarak adlandırmaktadır. Ancak bazı gözlemciler ve araştırmacılar, çalışanların bilgisayarlarına ve telefonlarına yüklenen ve genellikle dayandığı izleme yazılımı için daha isabetli bir isim geliştirdiler: “Patron yazılımı.” Bu yazılımlar iş hayatına yeni bir gözetim düzeyi eklemiştir: konum takibi; tuş vuruşlarının kaydedilmesi; çalışanların ekran görüntülerinin alınması ve hatta bazı durumlarda çalışanların bilgisayarlarındaki web kameraları aracılığıyla çekilen video ve fotoğraflar.
Sonuç olarak, araştırmacılar ve politika yapıcılar arasında Platform Çalışma Yönetmeliğinin yeterli olmadığı ve Avrupa Birliği’nin geleneksel istihdam bağlamında algoritmik yönetimi özel olarak düzenleyen bir yönetmelik geliştirmesi gerektiği yönünde bir görüş ortaya çıkmaktadır.
Geleneksel kuruluşların neden algoritmik yönetimi kullandığını anlamak zor değil. En belirgin faydalar, bilgi işlemenin hızını ve ölçeğini geliştirmekle ilgilidir. Örneğin, işe alımlarda şirketler tek bir açık pozisyon için binlerce başvuru alabilmektedir. Özgeçmiş tarama yazılımı ve diğer otomatik araçlar bu büyük miktardaki bilginin ayıklanmasına yardımcı olabilir. Bazı durumlarda algoritmik yönetim, örneğin çalışanları işle daha akıllıca eşleştirerek organizasyonel performansı artırmaya yardımcı olabilir. Ve şimdiye kadar çoğunlukla gerçekleşmemiş olsa da bazı potansiyel faydalar da vardır. Dikkatli bir şekilde tasarlandığında algoritmik yönetim işe alma, değerlendirme ve terfide önyargıları azaltabilir ya da eğitim veya destek ihtiyaçlarını tespit ederek çalışanların refahını artırabilir.
Ancak çalışanlar ve kurumlar için açık zararlar ve riskler de vardır. Sistemler her zaman çok iyi değildir ve bazen açıkça hatalı veya ayrımcı kararlar verirler. Çok sayıda veriye ihtiyaç duyarlar, bu da genellikle çalışanların yeni yeni yaygınlaşan ve mahrem bir şekilde gözetlenmesine neden olur ve genellikle çalışanların nispeten az katkısıyla tasarlanıp uygulamaya konurlar. Sonuç olarak bazen önyargılı ya da başka türlü kötü yönetim kararları verebiliyorlar; mahremiyete zarar veriyorlar; kuruluşları düzenleyici ve halkla ilişkiler risklerine maruz bırakıyorlar ve çalışanlar ile yönetim arasındaki güveni zedeleyebiliyorlar.
AB’de algoritmik yönetime ilişkin mevcut düzenleyici durum karmaşıktır. Birçok hukuk kurumu halihazırda uygulanmaktadır. Örneğin veri koruma yasası, ulusal iş ve istihdam hukuku sistemleri, ayrımcılık yasası ve iş sağlığı ve güvenliği yasası gibi çalışanlara ve iş adaylarına bazı haklar sağlamaktadır. Ancak hala bazı eksik parçalar bulunmaktadır. Örneğin, veri koruma kanunu işverenlere çalışanlar ve başvuru sahipleri hakkında sakladıkları verilerin “doğru” olmasını sağlama yükümlülüğü getirirken, karar verme sistemlerinin bu verilere dayanarak makul çıkarımlar yapma veya kararlar alma yükümlülüğü olduğu açık değildir. Bir hizmet çalışanı kötü bir müşteri yorumu nedeniyle işten çıkarılırsa, ancak bu yorum çalışanın kontrolü dışındaki faktörlerden kaynaklanıyorsa, veriler müşterinin tatmin edici olmayan deneyimini yansıtması anlamında “doğru” olabilir. Dolayısıyla bu verilere dayanarak alınan karar yasal olabilir, ancak yine de makul ve uygun olmayabilir.
Bu durum ilginç bir paradoksa yol açmaktadır. Bir yandan daha fazla korumaya ihtiyaç duyulmaktadır. Öte yandan, halihazırda mevcut olan yasalar, algoritmik yönetimi sorumlu bir şekilde kullanmaya çalışan kuruluşlar için gereksiz bir karmaşıklık yaratmaktadır. Yeni Platform Çalışma Yönetmeliği’nin algoritmik yönetim hükümleri, uzun süredir yasalar tarafından yeterince korunmayan platform çalışanlarının, müdahaleci izleme ve hataya eğilimli algoritmik yönetime karşı geleneksel çalışanlardan daha fazla korumaya sahip olacağı anlamına geliyor.
Kaynak:
