Yildiz
New member
Profil oluştururken temel oranların dikkate alınması da önemlidir. Özellikle güvenlik ve suç araştırmalarında bir modelin başarısı yalnızca doğruluk oranıyla ölçülemez. Nadir görülen bir olayı tahmin etmeye çalışan sistem, yüksek genel doğruluğa sahip olsa bile çok sayıda masum kişiyi yanlış biçimde riskli olarak sınıflandırabilir.
Bu sorunu basit bir örnekle açıklayalım. Varsayımsal olarak 10.000 kişilik bir grupta belirli bir olayın görülme sıklığı yüzde 1 olsun. Olayı belirlemede yüzde 90 duyarlılığa ve yüzde 90 özgüllüğe sahip bir sistem kullanalım.
- Gerçekten ilgili özelliği taşıyan 100 kişinin yaklaşık 90'ı doğru belirlenir.
- Bu özelliği taşımayan 9.900 kişinin yaklaşık 990'ı yanlış biçimde pozitif sınıflandırılır.
- Böylece sistemin pozitif olarak işaretlediği yaklaşık 1.080 kişinin yalnızca 90'ı gerçekten ilgili gruptadır.
Bu varsayımsal senaryoda pozitif sonuçların yalnızca yaklaşık yüzde 8,3'ü doğrudur. Örnek, temel oranların neden önemli olduğunu ve teknik olarak başarılı görünen bir sistemin neden pratikte yanıltıcı sonuçlar üretebileceğini gösterir.
Dolayısıyla bilimsel değerlendirme, yalnızca modelin ne kadar çok kişiyi doğru sınıflandırdığına değil, hataların kimleri ve hangi koşullarda etkilediğine de odaklanmalıdır.
5. Erkeklerin ve Kadınların Bakış Açıları: Kalıplardan Kaçınmak
Profil çıkarma konusunda veri odaklı analizlerle sosyal ve duygusal değerlendirmeler arasındaki ilişkiyi ele almak önemlidir. Ancak bu iki yaklaşımı doğrudan erkeklere ve kadınlara atfetmek bilimsel açıdan sorunludur.
Toplumda erkeklerin daha analitik, kadınların ise daha empatik olduğu yönünde yaygın kabuller bulunur. Fakat bu genellemeler, bireyler arasındaki büyük farklılıkları gözden kaçırabilir. Bir kişinin cinsiyetinden hareketle onun istatistiksel düşünme becerisi, duygusal duyarlılığı veya karar verme biçimi hakkında güvenilir bir sonuca ulaşmak mümkün değildir.
Eagly ve Wood'un sosyal rol yaklaşımı, kadınlar ve erkekler arasında gözlemlenen bazı davranış farklılıklarının toplumsal roller, fırsatlar ve beklentilerle ilişkili olabileceğini tartışır. Bu yaklaşım, davranış farklılıklarını yalnızca biyolojik özelliklere bağlamak yerine sosyal koşulları da değerlendirmeyi gerektirir.
Öte yandan, Hyde'ın 2005 yılında American Psychologist dergisinde yayımlanan ve cinsiyet benzerlikleri hipotezini ele alan meta-analizi, kadınlarla erkeklerin birçok psikolojik değişkende birbirine benzer olduğunu; farklılıkların ise incelenen özelliğe göre değiştiğini ortaya koymuştur. Bu bulgu, cinsiyetler arasındaki her farklılığın yok sayılması gerektiği anlamına gelmez. Daha çok, farklılıkların ölçüm ve bağlam temelinde değerlendirilmesi gerektiğini gösterir.
Profil çıkarma açısından iki yaklaşım da değerlidir:
- Veri odaklı yaklaşım, gözlemlerin sistematik biçimde toplanmasına, istatistiksel ilişkilerin test edilmesine ve ölçüm hatalarının azaltılmasına yardımcı olur.
- Sosyal ve empatik yaklaşım, bireyin içinde bulunduğu koşulları, ilişkilerini, duygusal deneyimlerini ve davranışların başkaları üzerindeki etkilerini anlamayı sağlar.
Bu yaklaşımlar birbirinin alternatifi değildir. Örneğin, bir çalışanın performansını değerlendiren yöneticinin yalnızca sayısal çıktılara bakması; bakım sorumlulukları, ekip içindeki görünmeyen katkılar veya çalışma koşulları gibi etkenleri gözden kaçırmasına neden olabilir. Buna karşılık yalnızca kişisel izlenimlere dayanmak da ölçülebilir performans farklılıklarını görmeyi engelleyebilir.
En sağlıklı değerlendirme, ölçülebilir kanıtları bağlamsal anlayışla birleştiren yaklaşımdır. Analitik düşünme ile empatiyi kadınlara veya erkeklere ait sabit özellikler gibi görmek yerine, her bireyin geliştirebileceği ve birlikte kullanabileceği beceriler olarak değerlendirmek daha tutarlıdır.
6. Bilişsel Önyargılar ve Profil Çıkarma Hataları
İnsan zihni, karmaşık dünyayı anlamlandırabilmek için hızlı çıkarımlar yapar. Ancak bu pratik mekanizma bazen yanlış değerlendirmelere yol açabilir. Profil çıkarma sürecinde özellikle üç bilişsel önyargı öne çıkar.
Doğrulama yanlılığı: Kişinin mevcut düşüncelerini destekleyen bilgilere daha fazla önem vermesi, karşıt kanıtları ise küçümsemesidir. Bir insanın güvenilmez olduğuna inanan kişi, onun küçük hatalarını bu inancın kanıtı olarak yorumlayabilir; güvenilir davranışlarını ise göz ardı edebilir.
Temel atıf hatası: Başkalarının davranışlarını açıklarken kişilik özelliklerine aşırı, durumsal koşullara ise yetersiz önem verilmesidir. Bir toplantıda sessiz kalan birinin ilgisiz olduğu düşünülebilir. Oysa kişi konuyu düşünüyor, kendisini rahat hissetmiyor veya söz almak için uygun anı bekliyor olabilir.
Temsil edilebilirlik yanlılığı: Bir kişinin belirli bir kalıba benzemesi nedeniyle onun o kategoriye ait olduğunun varsayılmasıdır. Dış görünüş, konuşma tarzı veya meslek gibi özellikler, yeterli kanıt bulunmadan kişilik hakkında sonuç çıkarmaya neden olabilir.
Tversky ve Kahneman'ın 1974 tarihli, Science dergisinde yayımlanan çalışması, insanların belirsizlik altında yargıda bulunurken sezgisel kestirme yollar kullandığını ve bu süreçlerin sistematik hatalara yol açabildiğini göstermiştir.
Bu bulgular, profil çıkarırken ilk izlenimlerin neden dikkatle değerlendirilmesi gerektiğini açıklar. Bir gözlemin tekrar edilmesi, onun otomatik olarak doğru olduğu anlamına gelmez; aynı önyargı her gözlemde yeniden ortaya çıkabilir.
Bu tür hataları azaltmak için alternatif açıklamaları değerlendirmek, karşıt kanıtları özellikle aramak, mümkün olduğunda standart ölçüm araçları kullanmak ve sonuçların belirsizlik düzeyini açıkça belirtmek gerekir.
7. Dijital Dünyada Profil Çıkarma ve Algoritmik Analiz
İnternet kullanımının yaygınlaşmasıyla profil çıkarma, bireysel gözlemlerin ötesine geçerek büyük veri sistemlerinin önemli bir parçası hâline gelmiştir. Arama geçmişleri, çevrim içi alışverişler, içerik etkileşimleri ve uygulama kullanımları, kişilerin ilgi alanlarını tahmin etmek amacıyla analiz edilebilir.
Bu sistemler, kullanıcı deneyimini kişiselleştirmek ve ilgili içerikleri sunmak gibi yararlar sağlayabilir. Örneğin, daha önce izlenen içeriklerle benzer özellikler taşıyan videoların önerilmesi, kullanıcının aradığı bilgilere daha hızlı ulaşmasına yardımcı olabilir.
Ancak dijital profil çıkarma bazı önemli riskleri de beraberinde getirir.
İlk olarak, kullanıcıların bir amaçla paylaştıkları veriler başka amaçlarla kullanılabilir. İkinci olarak, geçmiş davranışlardan oluşturulan tahminler yanlış olabilir. Üçüncü olarak, algoritmalar geçmiş verilerdeki eşitsizlikleri öğrenerek bu eşitsizlikleri yeni kararlara taşıyabilir.
Barocas ve Selbst'in 2016 yılında California Law Review dergisinde yayımlanan çalışması, büyük veri analizlerinde görünüşte tarafsız olan yöntemlerin bile toplumsal eşitsizlikleri yeniden üretebileceğini ayrıntılı biçimde ele alır. Bir algoritmanın doğrudan cinsiyet veya etnik köken bilgisi kullanmaması, bu özelliklerle ilişkili başka değişkenlerden yararlanamayacağı anlamına gelmez.
Örneğin, bir değerlendirme sistemi posta kodunu, eğitim geçmişini veya satın alma örüntülerini kullanabilir. Bu değişkenler belirli grupların toplumsal ve ekonomik koşullarıyla ilişkiliyse, sonuçlarda dolaylı ayrımcılık oluşabilir.
Bu nedenle dijital profil çıkarma sistemleri yalnızca tahmin başarısı açısından değil; veri minimizasyonu, şeffaflık, hesap verebilirlik, ayrımcılık riski ve bireylerin itiraz hakkı açısından da incelenmelidir.
Avrupa Birliği'nin Genel Veri Koruma Tüzüğü (GDPR), kişisel verilerin işlenmesi ve profil çıkarmaya ilişkin önemli kurallar içerir. Özellikle belirli durumlarda kişilerin yalnızca otomatik işlemeye dayanan ve kendileri üzerinde hukuki ya da benzer ölçüde önemli etkiler doğuran kararlara karşı korunması gündeme gelir. Bununla birlikte, bu korumaların uygulanması işlemenin niteliğine ve mevzuattaki istisnalara bağlıdır.
Bilimsel açıdan temel soru şudur: Bir algoritmanın bir insan hakkında tahmin üretebilmesi, bu tahminin o kişi hakkında karar vermek için yeterince güvenilir ve adil olduğu anlamına gelir mi? Tahmin doğruluğu ile etik meşruiyetin ayrı ayrı değerlendirilmesi gerekir.
Bu sorunu basit bir örnekle açıklayalım. Varsayımsal olarak 10.000 kişilik bir grupta belirli bir olayın görülme sıklığı yüzde 1 olsun. Olayı belirlemede yüzde 90 duyarlılığa ve yüzde 90 özgüllüğe sahip bir sistem kullanalım.
- Gerçekten ilgili özelliği taşıyan 100 kişinin yaklaşık 90'ı doğru belirlenir.
- Bu özelliği taşımayan 9.900 kişinin yaklaşık 990'ı yanlış biçimde pozitif sınıflandırılır.
- Böylece sistemin pozitif olarak işaretlediği yaklaşık 1.080 kişinin yalnızca 90'ı gerçekten ilgili gruptadır.
Bu varsayımsal senaryoda pozitif sonuçların yalnızca yaklaşık yüzde 8,3'ü doğrudur. Örnek, temel oranların neden önemli olduğunu ve teknik olarak başarılı görünen bir sistemin neden pratikte yanıltıcı sonuçlar üretebileceğini gösterir.
Dolayısıyla bilimsel değerlendirme, yalnızca modelin ne kadar çok kişiyi doğru sınıflandırdığına değil, hataların kimleri ve hangi koşullarda etkilediğine de odaklanmalıdır.
5. Erkeklerin ve Kadınların Bakış Açıları: Kalıplardan Kaçınmak
Profil çıkarma konusunda veri odaklı analizlerle sosyal ve duygusal değerlendirmeler arasındaki ilişkiyi ele almak önemlidir. Ancak bu iki yaklaşımı doğrudan erkeklere ve kadınlara atfetmek bilimsel açıdan sorunludur.
Toplumda erkeklerin daha analitik, kadınların ise daha empatik olduğu yönünde yaygın kabuller bulunur. Fakat bu genellemeler, bireyler arasındaki büyük farklılıkları gözden kaçırabilir. Bir kişinin cinsiyetinden hareketle onun istatistiksel düşünme becerisi, duygusal duyarlılığı veya karar verme biçimi hakkında güvenilir bir sonuca ulaşmak mümkün değildir.
Eagly ve Wood'un sosyal rol yaklaşımı, kadınlar ve erkekler arasında gözlemlenen bazı davranış farklılıklarının toplumsal roller, fırsatlar ve beklentilerle ilişkili olabileceğini tartışır. Bu yaklaşım, davranış farklılıklarını yalnızca biyolojik özelliklere bağlamak yerine sosyal koşulları da değerlendirmeyi gerektirir.
Öte yandan, Hyde'ın 2005 yılında American Psychologist dergisinde yayımlanan ve cinsiyet benzerlikleri hipotezini ele alan meta-analizi, kadınlarla erkeklerin birçok psikolojik değişkende birbirine benzer olduğunu; farklılıkların ise incelenen özelliğe göre değiştiğini ortaya koymuştur. Bu bulgu, cinsiyetler arasındaki her farklılığın yok sayılması gerektiği anlamına gelmez. Daha çok, farklılıkların ölçüm ve bağlam temelinde değerlendirilmesi gerektiğini gösterir.
Profil çıkarma açısından iki yaklaşım da değerlidir:
- Veri odaklı yaklaşım, gözlemlerin sistematik biçimde toplanmasına, istatistiksel ilişkilerin test edilmesine ve ölçüm hatalarının azaltılmasına yardımcı olur.
- Sosyal ve empatik yaklaşım, bireyin içinde bulunduğu koşulları, ilişkilerini, duygusal deneyimlerini ve davranışların başkaları üzerindeki etkilerini anlamayı sağlar.
Bu yaklaşımlar birbirinin alternatifi değildir. Örneğin, bir çalışanın performansını değerlendiren yöneticinin yalnızca sayısal çıktılara bakması; bakım sorumlulukları, ekip içindeki görünmeyen katkılar veya çalışma koşulları gibi etkenleri gözden kaçırmasına neden olabilir. Buna karşılık yalnızca kişisel izlenimlere dayanmak da ölçülebilir performans farklılıklarını görmeyi engelleyebilir.
En sağlıklı değerlendirme, ölçülebilir kanıtları bağlamsal anlayışla birleştiren yaklaşımdır. Analitik düşünme ile empatiyi kadınlara veya erkeklere ait sabit özellikler gibi görmek yerine, her bireyin geliştirebileceği ve birlikte kullanabileceği beceriler olarak değerlendirmek daha tutarlıdır.
6. Bilişsel Önyargılar ve Profil Çıkarma Hataları
İnsan zihni, karmaşık dünyayı anlamlandırabilmek için hızlı çıkarımlar yapar. Ancak bu pratik mekanizma bazen yanlış değerlendirmelere yol açabilir. Profil çıkarma sürecinde özellikle üç bilişsel önyargı öne çıkar.
Doğrulama yanlılığı: Kişinin mevcut düşüncelerini destekleyen bilgilere daha fazla önem vermesi, karşıt kanıtları ise küçümsemesidir. Bir insanın güvenilmez olduğuna inanan kişi, onun küçük hatalarını bu inancın kanıtı olarak yorumlayabilir; güvenilir davranışlarını ise göz ardı edebilir.
Temel atıf hatası: Başkalarının davranışlarını açıklarken kişilik özelliklerine aşırı, durumsal koşullara ise yetersiz önem verilmesidir. Bir toplantıda sessiz kalan birinin ilgisiz olduğu düşünülebilir. Oysa kişi konuyu düşünüyor, kendisini rahat hissetmiyor veya söz almak için uygun anı bekliyor olabilir.
Temsil edilebilirlik yanlılığı: Bir kişinin belirli bir kalıba benzemesi nedeniyle onun o kategoriye ait olduğunun varsayılmasıdır. Dış görünüş, konuşma tarzı veya meslek gibi özellikler, yeterli kanıt bulunmadan kişilik hakkında sonuç çıkarmaya neden olabilir.
Tversky ve Kahneman'ın 1974 tarihli, Science dergisinde yayımlanan çalışması, insanların belirsizlik altında yargıda bulunurken sezgisel kestirme yollar kullandığını ve bu süreçlerin sistematik hatalara yol açabildiğini göstermiştir.
Bu bulgular, profil çıkarırken ilk izlenimlerin neden dikkatle değerlendirilmesi gerektiğini açıklar. Bir gözlemin tekrar edilmesi, onun otomatik olarak doğru olduğu anlamına gelmez; aynı önyargı her gözlemde yeniden ortaya çıkabilir.
Bu tür hataları azaltmak için alternatif açıklamaları değerlendirmek, karşıt kanıtları özellikle aramak, mümkün olduğunda standart ölçüm araçları kullanmak ve sonuçların belirsizlik düzeyini açıkça belirtmek gerekir.
7. Dijital Dünyada Profil Çıkarma ve Algoritmik Analiz
İnternet kullanımının yaygınlaşmasıyla profil çıkarma, bireysel gözlemlerin ötesine geçerek büyük veri sistemlerinin önemli bir parçası hâline gelmiştir. Arama geçmişleri, çevrim içi alışverişler, içerik etkileşimleri ve uygulama kullanımları, kişilerin ilgi alanlarını tahmin etmek amacıyla analiz edilebilir.
Bu sistemler, kullanıcı deneyimini kişiselleştirmek ve ilgili içerikleri sunmak gibi yararlar sağlayabilir. Örneğin, daha önce izlenen içeriklerle benzer özellikler taşıyan videoların önerilmesi, kullanıcının aradığı bilgilere daha hızlı ulaşmasına yardımcı olabilir.
Ancak dijital profil çıkarma bazı önemli riskleri de beraberinde getirir.
İlk olarak, kullanıcıların bir amaçla paylaştıkları veriler başka amaçlarla kullanılabilir. İkinci olarak, geçmiş davranışlardan oluşturulan tahminler yanlış olabilir. Üçüncü olarak, algoritmalar geçmiş verilerdeki eşitsizlikleri öğrenerek bu eşitsizlikleri yeni kararlara taşıyabilir.
Barocas ve Selbst'in 2016 yılında California Law Review dergisinde yayımlanan çalışması, büyük veri analizlerinde görünüşte tarafsız olan yöntemlerin bile toplumsal eşitsizlikleri yeniden üretebileceğini ayrıntılı biçimde ele alır. Bir algoritmanın doğrudan cinsiyet veya etnik köken bilgisi kullanmaması, bu özelliklerle ilişkili başka değişkenlerden yararlanamayacağı anlamına gelmez.
Örneğin, bir değerlendirme sistemi posta kodunu, eğitim geçmişini veya satın alma örüntülerini kullanabilir. Bu değişkenler belirli grupların toplumsal ve ekonomik koşullarıyla ilişkiliyse, sonuçlarda dolaylı ayrımcılık oluşabilir.
Bu nedenle dijital profil çıkarma sistemleri yalnızca tahmin başarısı açısından değil; veri minimizasyonu, şeffaflık, hesap verebilirlik, ayrımcılık riski ve bireylerin itiraz hakkı açısından da incelenmelidir.
Avrupa Birliği'nin Genel Veri Koruma Tüzüğü (GDPR), kişisel verilerin işlenmesi ve profil çıkarmaya ilişkin önemli kurallar içerir. Özellikle belirli durumlarda kişilerin yalnızca otomatik işlemeye dayanan ve kendileri üzerinde hukuki ya da benzer ölçüde önemli etkiler doğuran kararlara karşı korunması gündeme gelir. Bununla birlikte, bu korumaların uygulanması işlemenin niteliğine ve mevzuattaki istisnalara bağlıdır.
Bilimsel açıdan temel soru şudur: Bir algoritmanın bir insan hakkında tahmin üretebilmesi, bu tahminin o kişi hakkında karar vermek için yeterince güvenilir ve adil olduğu anlamına gelir mi? Tahmin doğruluğu ile etik meşruiyetin ayrı ayrı değerlendirilmesi gerekir.