Bir Sistemin Amacı, Ödüllendirdiği Şeyde Gizlidir

Son zamanlarda “Bir sistemin gerçek amacı, ortaya koyduğu sonuçtur” demek moda oldu. Yani bir kurumun gerçek amacı, ilan ettiği misyondan ziyade, gerçekte ne yaptığına bakarak anlaşılır deniyor. Scott Alexander bu fikri eleştiren dikkat çekici bir yazı kaleme aldı: “Bir sistemin gerçek amacı, ortaya koyduğu sonuç değildir” diyor yazısında. Bir kanser hastanesinin amacı, hastaların tamamının iyileşmesi olabilir. Ancak bunlardan bir bölümü süreç içinde hayatını kaybedebilir. “Ben sonuca bakarım” diyerek, bu kusurlar, sistemin amacı buymuş gibi yorumlanmamalıdır. Bazı insanlar, bir sistemin en kötü ve en istenmeyen yan etkisini alıyor, sonra da sistemin asıl amacının bu olduğunu (sistemin gerçekleştirdiği daha makul pek çok sonucu hiçe sayarak) iddia ediyorlar. Alexander, “Eğer illa söylemek istiyorsanız, en azından bunu biraz daha açık bir şekilde yeniden ifade etmeyi deneyin derim.” diyor. “Mesela şöyle diyebilirsiniz: ‘Hiçbir sistem, amacında başarısız olmaz.’ ya da ‘İstenmeyen sonuç diye bir şey yoktur.’ En azından böylece nerede durduğunuz herkes tarafından açıkça anlaşılır!”

Rob Ennals’a göre daha yerinde bir bakış açısı şu: “Bir sistemin amacı, insanları ne için ödüllendirdiğinde gizlidir.“

Meta, yani eski adıyla Facebook, amacını “insan bağlantısının geleceğini inşa etmek” olarak tanımlıyor. Eskiden misyonları “dünyayı daha açık ve bağlantılı hale getirmek”ti. Ancak şirket çalışanları bu yüce hedeflere ne kadar katkı sunduklarına göre değil; insanların ekrana daha fazla bakmasını ve reklamlara tıklamasını ne kadar sağladıklarına göre değerlendiriliyor (kaynak: Orada çalıştım). Bu yüzden Meta’nın asıl amacı bence şudur: İnsanların ekrana bakarak reklamlara tıklamasını sağlamak.

Bir tanıdığım hastanede doktor olarak çalışıyor. Performansı hastaların iyileşmesine göre değil; hastaların kendini iyi hissetmesine, teşhis konulmasına ve hastaneye kesilen fatura tutarına göre ölçülüyor. Yani o hastanenin gerçek amacı, insanları iyileştirmekten çok, onların iyi hissetmesini sağlamak, bir teşhis koymak ve mümkün olduğunca sigorta şirketlerinden ücret tahsil etmek. Tabii ki bu süreçte sağlıkla ilgili bazı olumlu sonuçlar da elde ediliyor ama sistem bunlar için ödül vermiyorsa, amaçları da bu değil demektir.

Kısacası, bir sistemin amacı ne olduğunu iddia ettiği şey değildir. Tüm olumsuz sonuçların kasten gerçekleştiğini söylemek de adil olmaz.
Ama sistemin neyi ödüllendirdiğine bakmak, onun gerçek amacını anlamak için oldukça isabetli bir yoldur.

Ve çoğu zaman, sistemin neyi ödüllendirdiği gayet açıkça görülebilir.