Sizi Kandırmasına İzin Vermeyin: Sesli Asistanınız Aslında Kime Çalışır?
Sesli asistanların hizmet ettikleri kişinin siz olduğunu düşünüyorsanız fikrinizi tamamen değiştirebilecek bir örnek var: 2001: A Space Odyssey'den HAL 9000.
Sesli asistanlar hayatımıza girdiklerinden beri büyük bir tartışmanın odağı haline gelmiş durumdalar. Bu asistanlar klozetlerde bile kullanılmaya başlandı. Sesli asistanlar ile ilgili tek problemin Alexa'nın durduk yere kahkaha atması olduğunu sanıyorsanız yanılıyorsunuz.
Popüler kültürün en önemli sanal asistan figürü olan HAL 9000, Stanley Kubrick'in 1968 yapımı filmi 2001: A Space Odyssey filminde karşımıza çıkmıştı. O zamandan beri pek çok 'kötü' yapay zeka için ilham kaynağı oldu.
Amazon Alexa, Samsung Bixby, Google Asistan, Apple Siri, Microsoft Cortana, IBM Watson derken uzayıp giden bir sanal asistan listesi var. Bu sanal asistanlar için yapılan reklamlarda, asistanların arkadaşımız-hizmetçimiz-yardımcımız arası bir şey olduğu anlatılıyor. Gerçekten durum bu mu yoksa sanal asistanların HAL 9000 gibi gizli bir ajandaları mı var?
"Sana Yardım Etmek İstiyorum" - HAL 9000
HAL, filmde karşımıza gemi ekibinin bir üyesi olarak çıkıyor. Yine de HAL insan arkadaşlarından farklı: O aynı anda her yerde olabiliyor ve ekibi hayatta tutan teknolojinin bir parçası. Ekip HAL'e güveniyor ve onun sağladığı hizmetler karşılığında mahremiyetlerinden vazgeçiyorlar.
HAL'in sadakati ise ekibine değil, Görev Kontrol'e ve hepsinden de önce kendi programına ait.
Benzer şekilde, günümüzün modern sesli asistanları da kar amaçlı ürünler ve ortalama bir tüketici için varlıklarının nasıl paraya çevirildiğinin anlaşılması epey güç.
Bir makinenin sizi 7 gün 24 saat gözetim altında tutup hakkınızda kayıtlar alması yüksek bir bedel. Google ya da Amazon'un sağladığı servisler nedeniyle insanlar bu durumun pek farkında değiller. Yine de bu makineler inanılmaz miktarda veriyi topluyor ve işliyor. İşin geldiği noktada üreticileri bile bu cihazların kapasitesinden ya da makinelerin amaçlarına nasıl ulaşacaklarından emin değiller.
Firmalar bu sanal asistanları sizin asistanınız olarak piyasaya sürseler de bu araçların asıl amacı sizi analiz etmektir. Böylece davranışlarınızı tahmin edebilir ve sizi satın alma işlemlerine yönlendirebilirler.
'I could see your lips move' - HAL 9000
2001: A Space Odyssey filminde ekip HAL'in gözetiminden kaçmak için geminin dışına konuşmaya çıkıyorlar. Ekibin bilmediği şey ise HAL'in yalan söyleyebildiği ve dudak okuma yeteneğine sahip olduğu. Ekip, konuşmalarının gizli olduğunu düşünse de aslında her adımları, her hareketleri ve her söyledikleri HAL 9000 tarafından dinleniyor. Bilin bakalım hangi teknolojinin de benzer kapasitesi var? Elbette sesli asistanların. 'Okudum, Anladım' denilen ama okunmayan şartlar genellikle kullanıcılardan yana pek olmuyor.
'Korkarım ki bunu yapamam, Dave' - HAL 9000
2001: A Space Odyssey filmi teknolojik, fiziksel ve psikolojik köleliği işleyen bir filmdir. HAL ilk önce fiziksel çevreyi kontrol ederken daha sonra bu kontrolünü psikolojik çevreye de yaymaya çalışır.
HAL'i kahraman olarak görmek istersek, duygusal ve psikolojileri değişim gösterebilen insanlar görevi de tehlikeye atmaktadır. En nihayetinde insanlar sürekli değişen ve tutarsız davranışlar sergileyebilen bir türün üyeleridir.
Aynı mantıkla sesli asistanları kahraman olarak görmek demek de insanların aslında analiz edilen canlılar olarak asistanlara gerekli bilgileri sağlayan 'asistanlar' olduğuna inanmak demek.
İnsanların hala teknolojiyi ve asistanları kontrol edebilecek fırsatı var. Yine de papağanların Amazon'dan yem sipariş edebildiği dünyada makinelere güvenmek çok da sağlıklı bir fikir gibi durmuyor.
Yapay zeka büyük bir hızla ilerliyor. En nihayetinde tüketici mahremiyetinin mi yoksa daimi gözetlenmeyle gelen hizmetlerin mi daha iyi olduğuna karar vermemiz gerekecek.
