Matematiksel İmha Silahları

Cathy O’Neil’in dikkate değer kitabı Matematiksel İmha Silahları yayımlandı. Matematiğin günümüzdeki kullanımının toplumsal anlamıyla bir şekilde ilgileniyorsanız, okumalısınız.
'Algoritma çağında yaşıyoruz. Yaşamlarımızı etkileyen kararlar –okula gittiğimiz yer, araba kredisi alıp almadığımız, sağlık sigortası için ne kadar ödeyeceğimiz– insanlar tarafından değil matematiksel modeller tarafından veriliyor.'diyor

Cathy meslektaşım olarak burada, Columbia’daki matematik bölümünde geçirdiği dönem dahil olmak üzere oldukça ilginç bir kariyer geçmişine sahip. Talih ve heyecanı kovalamak üzere buradan ayrılıp en büyük koruma fonlarından biri olan D. E. Shaw Hedge Fonu’na geçti. Bu sayede, finansal endüstrinin 2008 yılındaki çöküşünü ön sıralardan izleme fırsatını elde etti. O çöküşün en büyük etkenlerinden biri de matematik modellerinin oynadığı roldü ve zaten kitabında bu hikâyenin bir kısmını anlatıyor (bu konuda başka bir kaynak olarak Columbia’lı diğer meslektaşım Emanuel Derman’ın Models.Behaving.Badly kitabı var). Benim anlayabildiğim kadarıyla, ipoteğe dayalı menkul kıymet bozgununda matematiksel modellemenin oynadığı rol, düpedüz dolandırıcılığa alet olmaktı. Şaibeli ve hileli borç verme araçları matematikle ambalajlanarak nispeten güvenli bir yatırım aracı gibi pazarlandı. Kullanılan modelin buradaki asıl işlevi, olup bitenin anlaşılmasını güçleştirmekti. Nitekim, satış yapanlar için işler gayet yolunda gitti, seçilen modeller ortadaki dolandırıcılığı gizlemede ve tüm failleri hapisten uzak tutmada işe yaradı.

Hikâyenin bu kısmı artık epey eskimiş ve klişeleşmiş olsa da Matematiksel İmha Silahları’nda önemli ve yeni olan, matematiksel modellemenin toplumumuz üzerindeki çok daha geniş rolünü inceliyor olması. Cathy, D. E. Shaw’daki işini bırakarak yeni kurulan bir internet medya kuruluşunun risk yönetimine geçti, daha sonra yine bu kuruluşta veri bilimci olarak göreve devam etti. Aynı süreçlerin bazılarına, buradaki görevinde de tanık oldu;

Aslında, finans sektörü ile Büyük Veri arasında her tür paralelliği gördüm. Her iki endüstri de MIT, Princeton ve Stanford gibi seçkin üniversitelerin yetenek havuzundan besleniyor. Bu havuzdan seçtikleri yeni elemanlar, tüm yaşamları boyunca Akademik Yeterlilik Testi (SAT) puanları ve üniversitelere girmek gibi harici başarı ölçümlerine odaklanmış, başarıya aç bireylerden oluşuyor. Finans veya teknoloji sektöründe olmaları fark etmiyor, zengin olacaklarına ve dünyayı kendilerinin yöneteceğine dair mesajı zaten almış oluyorlar.

Her iki endüstride de gerçek dünya tüm karmaşasıyla ayrı bir yerde duruyor. Belirli bir amacı optimize etmek için insanların yerine veri izleri koyarak onları daha etkin müşterilere, seçmenlere veya işçilere dönüştürmenin peşindeler… Teknik modeller ile insanlar arasındaki ayrım ile bu ayrımın ahlaki yansımaları hakkında gittikçe daha fazla endişe duyuyorum. Gerçek şu ki, daha önce finans sektöründe tanık olduğum bir örüntünün ortaya çıkışını gördüm: Yanlış bir güvenlik algısı, kusurlu modellerin, kendini besleyen başarı tanımlarının ve artan geribildirim döngülerinin yaygın kullanımına yol açıyor, buna karşı gelenler ise eski kafalı ve yenilik karşıtı (Luddit^[1]) ilan ediliyordu.

Kredi krizinin Büyük Veri’de neye denk düşebileceğini düşündüm. İflas yerine eşitsizliğin arttığı, büyüyen bir distopya gördüm. Algoritmalar, bir kez kaybedenlerin hep o şekilde kalmasını garanti altına alıyor. Diğer yandan şanslı bir azınlık veri ekonomisi üzerinde gittikçe daha fazla hakimiyet kazanıyor; muazzam zenginlikler elde edip, bunu hak ettiklerine kendilerini inandırıyorlar.

Buradan sonra kitapta, Büyük Veri’nin ve karmaşık algoritmaların uygulamadaki örnekleri inceleniyor. Bunlardan bazıları şöyle;

• S. News & World Report’un üniversite sıralamasında kullandığı, bir yanda algoritmayı alt etmeye çalışan üniversitelere, diğer yanda seçkin üniversitelerin öğrenci kabul sistemlerini çözmeye uğraşan ailelere sebep olan algoritmanın etkisi;
• Özellikle saldırgan reklamcıların, sahtekarlıklara karşı en savunmasız grupları oldukça etkin biçimde izlemesine olanak sağladığı düşünüldüğünde, hedefli reklam uygulamalarının etkisi,
• Kanunlar önünde eşitlik ilkesi yerine, farklı kesimden insanlara farklı düzeylerde kolluk kuvvetleri gönderebilecek bir algoritmayı esas alan, öngörüye dayalı emniyet uygulamasının etkileri,
• Toplumsal sınıflar arasında dolaylı ayrımcılığa neden olan, iş başvurularını sınıflandırılmada ve reddetmede kullanılan otomatik algoritmaların etkileri,
• Öğretmen yeterliklerinin değerlendirilmesinde kullanılan ve kimi zaman mükemmel öğretmenlerin işini kaybetmesine yol açan, yetersiz tasarlanmış algoritmaların etkileri,
• Kredi hesaplaması yapan, ipotekli borçların verilip verilmeyeceğini veya sigortaları tespit eden, başarısız olduğuna kanaat getirilen kişilerin hep bu hâlde kalmalarını garanti altına almak gibi dolaylı bir sonuca yol açan algoritmaların etkileri.

Kitapta son olarak, Facebook ve sunduğu bilgilerin siyasal çıkarlara hizmet edecek mesajları belirlemek üzere, demokrasiyi yıpratarak nasıl kullanıldığına dair bir bölüm yer alıyor.