Yapay zekâ, insan anlamında “zeki” değildir. Özünde, büyük miktarda mevcut veriyi analiz eden, içindeki kalıpları tanıyan ve bunları yeni durumlara aktaran algoritmalardan oluşur. Bu nedenle yapay zekâ geçmişi yansıtır – ve onunla birlikte toplumumuzdaki mevcut eşitsizlikleri ve ayrımcılıkları da. Bu durum çalışanlar için ciddi riskleri barındırır.
Algoritmalar geçmiş verilerden öğrenir – ve böylece bu verilerdeki önyargıları da devralır. Bu, örneğin işe alım süreçlerini etkiler: Yapay zekâ sistemleri önceki kararlarla eğitilir ve hangi başvuruların “başarılı” olduğunu, hangilerinin olmadığını öğrenir. Bu süreçte değerlendirme yalnızca isim, cinsiyet ya da fotoğrafa dayanarak eşitsizliğe yol açabilir. Bu aslında yeni bir durum değildir. Ancak algoritmik sistemler, eğitim geçmişi, dil bilgisi veya iş deneyimi gibi görünüşte tarafsız bilgilerden yola çıkarak cinsiyet, köken veya sosyal sınıf hakkında çıkarımlar yapabilir. Adaylar, bir insan belgelerini incelemeden otomatik olarak elenebilir. Ayrımcılık çoğu zaman daha başvuru yapılmadan başlar. Algorithm Watch tarafından yapılan araştırmalar, Facebook gibi çevrim içi platformlarda iş ilanlarının belirli gruplara özellikle gösterildiğini – ya da gösterilmediğini – ortaya koymuştur. Bu durum geleneksel rol kalıplarını pekiştirir. Çocuk bakımına yönelik işler daha çok kadınlara, taşımacılık sektöründeki işler ise ağırlıklı olarak erkeklere gösterilmektedir.
Günlük iş hayatında da yapay zekâ kullanımı çalışanlar üzerindeki baskıyı artırmaktadır. Verimlilik ve üretkenlik gerekçesiyle süreçler yoğunlaştırılır ve hızlandırılır. Bu da çalışanlar için şu anlama gelir: daha yüksek tempo, daha fazla denetim ve daha fazla stres. Buna karşılık kazançtan pay yoktur; ne daha yüksek maaş ne de daha fazla boş zaman sağlanır. Amazon gibi büyük lojistik merkezlerinde bu durum en uç noktaya ulaşmıştır: Algoritmalar görevleri dağıtır, ortalama süreleri hesaplar ve performansı sürekli izler. Yapay zekâ sayesinde veriler gerçek zamanlı olarak değerlendirilir. Belirlenen hedeflere ulaşamayanlar otomatik olarak cezalandırılır.
İş yerinde yapay zekâ kullanımı hukuksuz bir alan olmamalıdır. Alınan kararlara itiraz edilebilir olmalıdır. Bu nedenle Unia, iş yerinde yapay zekâ kullanımında şeffaflık talep etmektedir. Ortak karar alma hakları dijital teknolojiler için de geçerlidir. İşverenler, yapay zekâ sistemlerinin kullanımından tamamen sorumludur ve hatalı kararların sonuçlarından da sorumlu tutulmalıdır. Bir ayrımcılık şüphesi varsa ya da bu kanıtlanmışsa, durum Algorithm Watch bildirilebilir.
Kaynaklar:
Autorin ist Fachsekretärin der Unia
[JR1]Diese beiden allenfalls verlinken?