Muhabir
New member
ABD merkezli tartışmalı bir yapay zeka yüz tanıma şirketi olan Clearview AI, geçen ay bir açıklama yaptı ve yapay zeka teknolojisini Ukrayna hükümetine verdiğini duyurdu.
Bu değişen teknolojinin hem canlı birebir vakitte ölülerden oluşan binden çok olayda bireylerin tanınmasında nasıl kullanıldığına dair deliller BBC’ye sunuldu.
Bu haberdeki birtakım tabirler, birtakım okurlar tarafınca ıstırap verici bulunabilir.
Bir adam, başı aşağı eğik biçimde yerde hareketsiz yatıyor. Calvin Klein marka şortu haricinde bedeni çıplak. Gözlerinin etrafı morarmış görünüyor.
Ceset, Ukrayna’nın doğusundaki Harkov’da, savaşın yıkıntıları içinde bulundu. BBC olay yerinde çekilmiş fotoğrafları gördü, lakin vefatın hangi şartlarda gerçekleştiğine dair bilgi sahibi değil. Fotoğrafta baştaki darbe net görülüyor. Sol omuzda da bir dövme var.
Ukraynalı yetkililer adamın kim olduğunu bilmediği için son teknoloji bir yola başvurmaya karar veriyor: Yapay zeka yoluyla yüz tanıma sistemi.
Clearview tahminen de dünyadaki en ünlü ve tartışmalı yüz tanıma sistemi.
Şirket, CEO’su ve kurucusu Hoan Ton-That’ın “yüzler için arama motoru” dediği sistemin bilgi tabanını oluşturmak için Facebook ve Twitter üzere toplumsal medya şirketlerinden milyarlarca fotoğrafı kullanıyor.
Ton-That, “Bir bakıma Google üzere çalışıyor. Burada kullanıcı, sözler yerine bir profil fotoğrafı koyuyor” diye açıklıyor.
Para cezası aldı
Şirket bugüne kadar bir dizi yasal meseleyle karşılaştı. Facebook, YouTube, Google ve Twitter, kendi platformlarındaki fotoğrafları kullanmaya son vermesi talebiyle Clearview’a ihtar mektupları gönderdi.
İngiltere’nin düzenleyici kuruluşu Enformasyon Ofisi, insanlara fotoğraflarını topladığına dair bildirim yapmadığı için şirkete para cezası bile verdi.
Bugün Ukrayna hükümeti tarafınca kullanılması ise bu süratle gelişen teknolojinin etkin bir savaşa dahil edilmesinin tesirleri konusunda soruları gündeme getirdi.
Clearview, tartışmalı da olsa ABD’deki kolluk kuvvetleri tarafınca yaygın olarak kullanılıyor.
Ton-That, 3.200 devlet kurumunun teknolojiyi satın aldığını yahut denediğini söylüyor.
Rusya’nın Ukrayna’yı işgalinden daha sonra, Clearview kendi teknolojisi için öbür bir potansiyel uygulama alanı gördü.
Şirketin kurucusu Ton-That, “Savaş esiri olan yahut kaçan insanların imgelerini gördük ve bu bize potansiyel olarak kimlik tespiti ve doğrulama için yararlı olabilecek bir teknoloji olabileceğimizi düşündürdü” diyor
Harkov’daki olay gerine geri dönersek, yetkililer meyyit adamın yüzünün fotoğrafını çekti – başı üstte, çökük gözleri kameraya çevrildi.
Çekilen fotoğraf Clearview bilgi tabanında taranınca, meyyit adama fazlaca benzeyen birinin birkaç fotoğrafı bulundu.
Sıcak bir günde çekildiği anlaşılan bir fotoğrafta adam gömleksizdi ve sol omzunda bir dövme görülüyordu.
Fotoğraflar eşleştirildi ve isim tespiti yapıldı.
Ölülerin kimlik tespitinde yüz tanıma sistemi yeni olmadığı üzere Clearview Ukrayna’da kullanılan tek platform değil.
Araştırmacı gazetecilik konusunda uzmanlaşmış bir kuruluş olan Bellingcat’in araştırma yöneticisi Aric Toler, “Bunu yıllardır kullanıyoruz” diyor.
Ukrayna’da kullanması daha geniş kapsamlı
2019’da Bellingcat, Suriye’de bir mahkuma azap edilmesini ve öldürülmesini sinemaya alan Rus bir adamın kimliğini tespit etmek için yüz tanıma teknolojisini kullandı.
Bu yüz tanımanın kullanıldığı birinci savaş değil. Fakat Ukrayna’da kullanması, evvelkilerden daha geniş kapsamlı. Toler, Rusya’da yüz tanıma platformu FindClone’u kullandığını ve bunun bilhassa meyyit Rus askerlerinin kimliğini belirlemede yardımcı olduğunu söylüyor.
Clearview üzere FindClone da Rus toplumsal medya sayfaları dahil olmak üzere herkese açık internet imgelerinde arama yapıyor.
Bu arama kararında toplumsal medya hesapları olmayan bireyler bile yakınlarının paylaşımlarından bulunabiliyor.
Bu nokta, yüz tanıma teknolojisinin gücünü bakımından değerli.
Bu bir kişinin, daha evvel hiç toplumsal medya profili olmasa da, tüm imajlarını internetten silse de, bir daha de bulunabileceği manasına geliyor. Bir arkadaşı tarafınca yüklenen bir fotoğrafta görünerek yahut internette rastgele bir fotoğrafın art planında yer alarak data tabanında belirebilir.
Bu, internette neredeyse hiç varlık göstermeyen askeri yahut güvenlik işçisinin bile izlenebileceği manasına geliyor.
Şüphelilerin kimlilk tespitinde de kullanılıyor
Lakin bu teknolojiyi eleştirenler, yüz tanıma teknolojisinin her vakit yanlışsız çıkmasının mümkün olmadığına ve savaş devrinde yanlışların potansiyel olarak feci sonuçlara yol açabileceğine dikkat çekiyor.
Clearview yalnızca Ukrayna’daki cesetleri teşhis etmek için kullanılmıyor. Şirket ayrıyeten Ukrayna hükümeti tarafınca denetim noktalarında düşman şüphelilerinin belirlenmesine yardımcı olmak için kullanılıyor.
Clearview, Ukraynalı bir ajanstan gelen ve canlı bireylerin kimlik tespitinde de sistemin kullanıldığını doğrulayan bir e-postayı BBC ile paylaştı.
İsmini vermek istemeyen Ukraynalı bir yetkiliden gelen e-postada, “Sistem, gözaltına alınan şüphelilerin datalarının doğruluğunu süratli bir biçimde teyit etme fırsatı verdi” yazıyor.
E-postada, “Clearview yapay zeka kullanması sırasında, uygun doğrulama ve tanımlamayı gerçekleştirmek için binden çok arama sorgusu gerçekleştirildi” deniyor.
Bu, kimi uzmanları endişelendiriyor.
Güvenlik teknolojilerini denetleyen bir kuruluş olan IPVM’de yüz tanıma uzmanı olan Conor Healy, “Ukrayna kuvvetlerinin, birinin dost mu düşman mı olduğunu belirlemenin %100 yanlışsız bir yolu olmadığını anlaması önemli” diyor.
Healy, bunun bir insanın mukadderatını belirleyecek bir “ölüm kalım teknolojisi” olmaması gerektiğini belirtiyor ve “Kesinlikle bu biçimde kullanılmamalı” diyor.
Daha önemli ikazlarda bulunanlar da var. Nezaret Teknolojisi İzleme Projesi’nden Albert Fox Cahn, bunu “gerçekleşmekte olan bir insan hakları felaketi” olarak nitelendiriyor.
Cahn, Forbes’a verdiği demeçte, “Barış vaktinde yüz tanıma teknolojindeki bir kusur niçiniyle beşerler kazara tutuklanıyor. Bir savaş bölgesinde yüz tanıma yanlışında saf beşerler vuruluyor” diyor.
BBC, Clearview’in kullanması hakkında görüş almak için Ukrayna hükümetiyle temasa geçti, lakin karşılık alamadı.
Clearview’un kurucusu Ton-That, testlerde bu süratle gelişen teknolojinin %99’dan fazla gerçek sonuç verdiğini savunuyor.
Lakin sonuçlar, imgenin kalitesine, başın pozisyonuna yahut yüzün ne kadarının net göründüğüne bağlı olarak değişebiliyor.
Ayrıyeten ABD ve Avrupa’da Clearview için sıkıntılı olan şahsi mahremiyet sorunu da kelam konusu.
Şirket, data tabanını oluşturmak için Facebook ve Instagram üzere platformlardan herkese açık olan fotoğrafları bilgi tabanına alıyor.
Lakin bunu yapmak için ne toplumsal medya şirketlerinden ne de bireylerden bu fotoğrafların kullanması için müsaade almış değil.
Pentagon ile mukavele
Geçen yıl Clearview, İngiltere’nin Enformasyon Ofisi tarafınca, toplumsal medya platformlarından fotoğraflarını topladığını insanlara bildirmediği için para cezasına çarptırıldı.
Şirketin kurucusu Ton-That, yüz tanıma teknolojisinin yasallığı konusunda hala tartışma olduğunu kabul ediyor, fakat Clearview’in yasalar dahilinde çalıştığına inanıyor ve süratle gelişen teknolojinin “yanlış anlaşıldığını” söylüyor.
Yüz tanıma teknolojisi, açıkça distopik uygulamalara sahip. Geçen yıl BBC, Çin’de gazetecileri amaç almak için yüz tanıma teknolojisini kullanma planları yapıldığını bildirmişti.
Ton-That, Clearview’in bu türlü kullanılabilse bile bu tıp aramalara müsaade vermeyeceğini söylüyor. Clearview’in otoriter hükümetlerle çalışmadığını ve şirketin Rusya ile çalışmayacağını sav ediyor.
tıpkı vakitte Clearview teknolojisinin askeri emelli kullanması için yapılan müracaatlar var.
Şirket geçen yıl, teknolojisinin artırılmış gerçeklik gözlüklerine yerleştirilmesi denemeleri için Pentagon ile mukavele imzaladı. Clearview, askeri kontratlarla yüz tanıma yapay zekası geliştiren birkaç şirket içinde yer alıyor.
Mahremiyet savunucularının öbür bir kaygısı daha var.
Yüz tanıma teknolojisi, savaş vaktinde Ukraynalı yetkililer için faydalı olabilir. Lakin barış vaktinde teknolojiyi Clearview’a geri mi verecekler?
Güvenlik teknolojilerini denetleyen bir kuruluş olan IPVM’de yüz tanıma uzmanı Healy, “Savaş vaktinde kullanılan ve barış devrinde de devam eden epeyce sayıda teknoloji örneği var” diyor:
“Umarım benimsedikleri yaklaşım bu değildir.”
Bu değişen teknolojinin hem canlı birebir vakitte ölülerden oluşan binden çok olayda bireylerin tanınmasında nasıl kullanıldığına dair deliller BBC’ye sunuldu.
Bu haberdeki birtakım tabirler, birtakım okurlar tarafınca ıstırap verici bulunabilir.
Bir adam, başı aşağı eğik biçimde yerde hareketsiz yatıyor. Calvin Klein marka şortu haricinde bedeni çıplak. Gözlerinin etrafı morarmış görünüyor.
Ceset, Ukrayna’nın doğusundaki Harkov’da, savaşın yıkıntıları içinde bulundu. BBC olay yerinde çekilmiş fotoğrafları gördü, lakin vefatın hangi şartlarda gerçekleştiğine dair bilgi sahibi değil. Fotoğrafta baştaki darbe net görülüyor. Sol omuzda da bir dövme var.
Ukraynalı yetkililer adamın kim olduğunu bilmediği için son teknoloji bir yola başvurmaya karar veriyor: Yapay zeka yoluyla yüz tanıma sistemi.
Clearview tahminen de dünyadaki en ünlü ve tartışmalı yüz tanıma sistemi.
Şirket, CEO’su ve kurucusu Hoan Ton-That’ın “yüzler için arama motoru” dediği sistemin bilgi tabanını oluşturmak için Facebook ve Twitter üzere toplumsal medya şirketlerinden milyarlarca fotoğrafı kullanıyor.
Ton-That, “Bir bakıma Google üzere çalışıyor. Burada kullanıcı, sözler yerine bir profil fotoğrafı koyuyor” diye açıklıyor.
Para cezası aldı
Şirket bugüne kadar bir dizi yasal meseleyle karşılaştı. Facebook, YouTube, Google ve Twitter, kendi platformlarındaki fotoğrafları kullanmaya son vermesi talebiyle Clearview’a ihtar mektupları gönderdi.
İngiltere’nin düzenleyici kuruluşu Enformasyon Ofisi, insanlara fotoğraflarını topladığına dair bildirim yapmadığı için şirkete para cezası bile verdi.
Bugün Ukrayna hükümeti tarafınca kullanılması ise bu süratle gelişen teknolojinin etkin bir savaşa dahil edilmesinin tesirleri konusunda soruları gündeme getirdi.
Clearview, tartışmalı da olsa ABD’deki kolluk kuvvetleri tarafınca yaygın olarak kullanılıyor.
Ton-That, 3.200 devlet kurumunun teknolojiyi satın aldığını yahut denediğini söylüyor.
Rusya’nın Ukrayna’yı işgalinden daha sonra, Clearview kendi teknolojisi için öbür bir potansiyel uygulama alanı gördü.
Şirketin kurucusu Ton-That, “Savaş esiri olan yahut kaçan insanların imgelerini gördük ve bu bize potansiyel olarak kimlik tespiti ve doğrulama için yararlı olabilecek bir teknoloji olabileceğimizi düşündürdü” diyor
- Yapay zeka, iş müracaatlarının kabulü ya da reddinde nasıl bir rol oynuyor?
- Yapay zekayla his tanıma teknolojisi ‘Uygurlar üzerinde denendi’
Harkov’daki olay gerine geri dönersek, yetkililer meyyit adamın yüzünün fotoğrafını çekti – başı üstte, çökük gözleri kameraya çevrildi.
Çekilen fotoğraf Clearview bilgi tabanında taranınca, meyyit adama fazlaca benzeyen birinin birkaç fotoğrafı bulundu.
Sıcak bir günde çekildiği anlaşılan bir fotoğrafta adam gömleksizdi ve sol omzunda bir dövme görülüyordu.
Fotoğraflar eşleştirildi ve isim tespiti yapıldı.
Ölülerin kimlik tespitinde yüz tanıma sistemi yeni olmadığı üzere Clearview Ukrayna’da kullanılan tek platform değil.
Araştırmacı gazetecilik konusunda uzmanlaşmış bir kuruluş olan Bellingcat’in araştırma yöneticisi Aric Toler, “Bunu yıllardır kullanıyoruz” diyor.
Ukrayna’da kullanması daha geniş kapsamlı
2019’da Bellingcat, Suriye’de bir mahkuma azap edilmesini ve öldürülmesini sinemaya alan Rus bir adamın kimliğini tespit etmek için yüz tanıma teknolojisini kullandı.
Bu yüz tanımanın kullanıldığı birinci savaş değil. Fakat Ukrayna’da kullanması, evvelkilerden daha geniş kapsamlı. Toler, Rusya’da yüz tanıma platformu FindClone’u kullandığını ve bunun bilhassa meyyit Rus askerlerinin kimliğini belirlemede yardımcı olduğunu söylüyor.
Clearview üzere FindClone da Rus toplumsal medya sayfaları dahil olmak üzere herkese açık internet imgelerinde arama yapıyor.
Bu arama kararında toplumsal medya hesapları olmayan bireyler bile yakınlarının paylaşımlarından bulunabiliyor.
Bu nokta, yüz tanıma teknolojisinin gücünü bakımından değerli.
- Financial Times: AB, yüz tanıma teknolojisinin kullanmasını kısıtlamayı planlıyor
- San Francisco yüz tanıma teknolojisini yasaklıyor
Bu bir kişinin, daha evvel hiç toplumsal medya profili olmasa da, tüm imajlarını internetten silse de, bir daha de bulunabileceği manasına geliyor. Bir arkadaşı tarafınca yüklenen bir fotoğrafta görünerek yahut internette rastgele bir fotoğrafın art planında yer alarak data tabanında belirebilir.
Bu, internette neredeyse hiç varlık göstermeyen askeri yahut güvenlik işçisinin bile izlenebileceği manasına geliyor.
Şüphelilerin kimlilk tespitinde de kullanılıyor
Lakin bu teknolojiyi eleştirenler, yüz tanıma teknolojisinin her vakit yanlışsız çıkmasının mümkün olmadığına ve savaş devrinde yanlışların potansiyel olarak feci sonuçlara yol açabileceğine dikkat çekiyor.
Clearview yalnızca Ukrayna’daki cesetleri teşhis etmek için kullanılmıyor. Şirket ayrıyeten Ukrayna hükümeti tarafınca denetim noktalarında düşman şüphelilerinin belirlenmesine yardımcı olmak için kullanılıyor.
Clearview, Ukraynalı bir ajanstan gelen ve canlı bireylerin kimlik tespitinde de sistemin kullanıldığını doğrulayan bir e-postayı BBC ile paylaştı.
İsmini vermek istemeyen Ukraynalı bir yetkiliden gelen e-postada, “Sistem, gözaltına alınan şüphelilerin datalarının doğruluğunu süratli bir biçimde teyit etme fırsatı verdi” yazıyor.
E-postada, “Clearview yapay zeka kullanması sırasında, uygun doğrulama ve tanımlamayı gerçekleştirmek için binden çok arama sorgusu gerçekleştirildi” deniyor.
Bu, kimi uzmanları endişelendiriyor.
- Deepfake teknolojisi: ‘İçerik üretiminin geleceği’ niye bu kadar tartışma yaratıyor?
- Microsoft Lideri: Orwell’in 1984 romanında tasvir ettiği hayat 2024’te gerçek olabilir
Güvenlik teknolojilerini denetleyen bir kuruluş olan IPVM’de yüz tanıma uzmanı olan Conor Healy, “Ukrayna kuvvetlerinin, birinin dost mu düşman mı olduğunu belirlemenin %100 yanlışsız bir yolu olmadığını anlaması önemli” diyor.
Healy, bunun bir insanın mukadderatını belirleyecek bir “ölüm kalım teknolojisi” olmaması gerektiğini belirtiyor ve “Kesinlikle bu biçimde kullanılmamalı” diyor.
Daha önemli ikazlarda bulunanlar da var. Nezaret Teknolojisi İzleme Projesi’nden Albert Fox Cahn, bunu “gerçekleşmekte olan bir insan hakları felaketi” olarak nitelendiriyor.
Cahn, Forbes’a verdiği demeçte, “Barış vaktinde yüz tanıma teknolojindeki bir kusur niçiniyle beşerler kazara tutuklanıyor. Bir savaş bölgesinde yüz tanıma yanlışında saf beşerler vuruluyor” diyor.
BBC, Clearview’in kullanması hakkında görüş almak için Ukrayna hükümetiyle temasa geçti, lakin karşılık alamadı.
Clearview’un kurucusu Ton-That, testlerde bu süratle gelişen teknolojinin %99’dan fazla gerçek sonuç verdiğini savunuyor.
Lakin sonuçlar, imgenin kalitesine, başın pozisyonuna yahut yüzün ne kadarının net göründüğüne bağlı olarak değişebiliyor.
Ayrıyeten ABD ve Avrupa’da Clearview için sıkıntılı olan şahsi mahremiyet sorunu da kelam konusu.
Şirket, data tabanını oluşturmak için Facebook ve Instagram üzere platformlardan herkese açık olan fotoğrafları bilgi tabanına alıyor.
Lakin bunu yapmak için ne toplumsal medya şirketlerinden ne de bireylerden bu fotoğrafların kullanması için müsaade almış değil.
Pentagon ile mukavele
Geçen yıl Clearview, İngiltere’nin Enformasyon Ofisi tarafınca, toplumsal medya platformlarından fotoğraflarını topladığını insanlara bildirmediği için para cezasına çarptırıldı.
Şirketin kurucusu Ton-That, yüz tanıma teknolojisinin yasallığı konusunda hala tartışma olduğunu kabul ediyor, fakat Clearview’in yasalar dahilinde çalıştığına inanıyor ve süratle gelişen teknolojinin “yanlış anlaşıldığını” söylüyor.
Yüz tanıma teknolojisi, açıkça distopik uygulamalara sahip. Geçen yıl BBC, Çin’de gazetecileri amaç almak için yüz tanıma teknolojisini kullanma planları yapıldığını bildirmişti.
Ton-That, Clearview’in bu türlü kullanılabilse bile bu tıp aramalara müsaade vermeyeceğini söylüyor. Clearview’in otoriter hükümetlerle çalışmadığını ve şirketin Rusya ile çalışmayacağını sav ediyor.
tıpkı vakitte Clearview teknolojisinin askeri emelli kullanması için yapılan müracaatlar var.
Şirket geçen yıl, teknolojisinin artırılmış gerçeklik gözlüklerine yerleştirilmesi denemeleri için Pentagon ile mukavele imzaladı. Clearview, askeri kontratlarla yüz tanıma yapay zekası geliştiren birkaç şirket içinde yer alıyor.
Mahremiyet savunucularının öbür bir kaygısı daha var.
Yüz tanıma teknolojisi, savaş vaktinde Ukraynalı yetkililer için faydalı olabilir. Lakin barış vaktinde teknolojiyi Clearview’a geri mi verecekler?
Güvenlik teknolojilerini denetleyen bir kuruluş olan IPVM’de yüz tanıma uzmanı Healy, “Savaş vaktinde kullanılan ve barış devrinde de devam eden epeyce sayıda teknoloji örneği var” diyor:
“Umarım benimsedikleri yaklaşım bu değildir.”