Yeni yapay zeka cihazları yasal sınırları nasıl zorluyor ?

Teknoloji şirketleri, toplantıları yazıya dökmek, konuşmaları takip etmek, hatırlatıcılar kurmak ve kişiselleştirilmiş öneriler sunmak gibi işlevlere sahip, sürekli dinlemede olan yapay zeka destekli cihazları piyasaya sürdükçe, kullanıcılar giderek daha sık bu tür durumlarla karşı karşıya kalıyor.

Bu cihazların en yeni örnekleri, Perşembe günü Amazon’un Bee Frontier adlı giyilebilir cihazı ve akıllı telefonlara takılabilen, kart şeklindeki Bee Eclipse ile geldi. Her iki cihaz da kullanıcının gününü kaydetmek, yazıya dökmek ve analiz etmek üzere tasarlandı. 

Eylül ayında tanıtılan Apple Watch Series 12’de ise, gün boyunca “ortamdaki” konuşmaları not eden ve bunlardan özetler çıkaran “Siri Recap” özelliği bulunuyor. “Live Rewind” adlı bir diğer özellik ise, bir konuşmanın son 15 saniyesini metin dökümü olarak özetleyebiliyor.

Meta’nın popüler akıllı gözlükleri fotoğraf çekebiliyor, video kaydedebiliyor, sesli notlar veya hatırlatıcılar oluşturabiliyor. 

Plaud ve Pocket gibi girişimler de kart boyutunda not alma cihazları geliştirirken, “Friend” adlı bir başka girişim ise yapay zeka destekli bir kolye sunuyor. 

Söz konusu cihazlar; çevredekilerin rızası alınmaksızın gizlice kayıt yapılmasına olanak tanıması ve başkalarının erişimine açık olabilecek hassas verileri toplaması nedeniyle, mahremiyeti zedeleyebileceklerine dair endişeleri körükledi.

Amazon, Google ve sesle komut edilen akıllı hoparlörler üreten diğer firmalar, cihazlarını ilk kez piyasaya sürdüklerinde benzer mahremiyet endişeleriyle karşılaşmış; bu durum kimi zaman davalara ve idari para cezalarına yol açmıştı.

Ancak bu yeni nesil yapay zekâ cihazları, mahremiyet hukukunun sınırlarını da zorluyor.

Belirli bir "uyandırma sözcüğü" ile harekete geçen ve bazen ses kayıtlarını depolayan ya da buluta gönderen önceki akıllı hoparlörlerin aksine, bu yeni ürünlerden bazıları sürekli olarak dinleme yapabiliyor, konuşmaları yorumlayabiliyor ve orijinal ses kaydını saklamaksızın konuşmanın anlamını çıkarabiliyor. 

Bu yetenek, söz konusu işleme sürecinin bizatihi kendisinin hukuka aykırı bir "dinleme" (veya veri ele geçirme) eylemi teşkil edip etmeyeceğine dair, henüz tam olarak yanıtlanmamış bir soruyu gündeme getiriyor.

Tufts Mühendislik Fakültesi Lisansüstü Eğitim Dekanı ve Elektrik ve Elektronik Mühendisleri Enstitüsü (IEEE) üyesi Karen Panetta, "Bunun gibi yeni teknolojiler söz konusu olduğunda, her zaman temkinli yaklaşılması gerektiğini savunuyorum" dedi.

Panetta ayrıca şunları ekledi: "Kendi adıma kaydedilmeme ya da baktığım her şeyin kaydedilmesine izin veriyor olmam, çevremdeki diğer herkesin de bu izni verdiği anlamına gelmez."

Gri alan

Apple ve Amazon, önceki sesli asistanların başını ağrıtan bazı gizlilik endişelerini aşmış gibi görünüyor.

Apple, söz konusu özelliğin ses verilerini depolamadığını, kayıtları sunucularına göndermediğini ve insan denetimi gerektirmediğini belirtiyor. Amazon ise cihazlarından alınan ses verilerini saklamadığını; konuşmaların, "Amazon dahil hiç kimsenin verilere erişemeyeceği" güvenli bir ortamda işlendiğini ifade ediyor.

Ancak bu durum, hukuki soruyu çözmeye yetmeyebilir.

Birçok eyaletteki yasa dışı dinleme ve gizlice kayıt alma ile ilgili kanunlar, yalnızca geleneksel bir ses kaydının oluşturulup oluşturulmadığına değil; özel bir iletişimin ele geçirilip geçirilmediğine veya içeriğinin elde edilip edilmediğine odaklanır.

Foley Hoag hukuk bürosunda gizlilik ve veri güvenliği avukatı olan Colin Zick, Apple'ın sesli asistanlarla ilgili ilk dava dalgasından ders çıkarmış göründüğünü belirtiyor. 

Ne var ki yeni teknoloji, önceki davalarda yanıtlanması gerekmeyen soruları da beraberinde getiriyor: Sürekli dinleme yapan, konuşmaları yorumlayıp bir özete dönüştüren bir sistem, temel ses verisini hiçbir zaman kaydetmese bile yine de bir "ele geçirme" (dinleme/kayıt altına alma) eylemi sayılabilir mi?

Bazı eyalet yasaları, "ele geçirme" (interception) kavramını geniş bir şekilde tanımlar. Örneğin Massachusetts eyaletinde, bir iletişimi "ileten, alan, güçlendiren veya kaydeden" her türlü ekipman "ele geçirme cihazı" olarak kabul edilir; iletişimin "içeriği" ise, o iletişimin özünü ve anlamını kapsayacak şekilde tanımlanır.

Zick’e göre, sürekli olarak konuşmaları dinleyip bunlardan yazılı bir özet çıkaran bir cihaz, ses kaydını saklamıyor olsa bile, söz konusu yasal tanımlama kapsamına girebilir.

Üstelik bazı eyaletlerde, daha büyük bir hukuki risk Apple, Amazon veya diğer yapay zekâ destekli cihaz üreticilerinden ziyade, cihazı üzerinde taşıyan kişiye yüklenebilir.

Zick, "Cihazı üzerinde taşımayan kişi; saati satın almamış, Apple’ın kullanım koşullarını kabul etmemiş veya konuşmalarının bir uygulama aracılığıyla özetlenmesini tercih etmemiştir" diyor.

New Hampshire Üniversitesi Franklin Pierce Hukuk Fakültesi’nde doçent olan Daniel Pi, New Hampshire eyalet yasasının kapsamının oldukça geniş olduğunu ve bu nedenle söz konusu cihazın yeni ses tabanlı istihbarat özelliklerinin “dinleme/ele geçirme” (interception) olarak değerlendirilebileceğini belirtiyor. 

Yasa, yalnızca kayıt altına almayı değil, bir iletişimin içeriğinin “işitsel yolla veya başka bir biçimde elde edilmesini” de kapsıyor.

Bu durum, sıradan bir tüketicinin, yaygın olarak kullanılan bir cihazdaki bir özelliği etkinleştirip, özel bir konuşma sırasında —tüm tarafların rızası olmaksızın— kullanmasıyla, en azından teknik olarak eyalet yasalarını ihlal ettiği sıra dışı bir tablo ortaya çıkarabilir.

Pi, New Hampshire’daki bir kullanıcının bu eylemi nedeniyle hukuki veya cezai sorumlulukla karşı karşıya kalabileceğini, ancak pratikte yargılanma riskinin çok daha düşük olduğunu vurguladı. 

Birinin söz konusu özelliği etkinleştirip etkinleştirmediğini anlamak zaten zor olabilir; ayrıca Pi, kimsenin zarar görmediği, yalnızca yasal bir ihlalin söz konusu olduğu durumlarda savcıların dava açmasının şaşırtıcı olacağını ifade etti.

Buradaki hukuki sorular, daha önceki akıllı hoparlörler ve sesli asistanlarla ilgili tartışmalardan da farklılık gösteriyor. Söz konusu eski örneklerde mesele genellikle cihazların yanlışlıkla devreye girmesi veya komut olarak amaçlanmayan konuşmaların kaydedilmesi etrafında şekilleniyordu. 

Oysa burada, özellik bizzat bir konuşmanın içeriğini elde etmek ve yorumlamak üzere tasarlanmış durumda; üstelik kullanıcı da bu özelliği bilinçli olarak kendisi etkinleştiriyor.

Pi, bu durumun hukuki değerlendirmeyi değiştirdiğini ve sorumluluğun teknoloji şirketinden ziyade, cihazı kullanan kişiye kayabileceğini belirtti.

Çevredeki insanlar

Daha geniş kapsamlı gizlilik endişesi, yasal sorumluluğun kimde olduğu sorusunun ötesine geçiyor.

Eski bir CIA görevlisi ve Veilant şirketinde gelişmekte olan teknolojilerden sorumlu kıdemli başkan yardımcısı olan Michael Stokes, asıl büyük değişimin, insanların, veri toplayan cihaza sahip olmadıkları veya onunla bilerek etkileşime girmedikleri halde, yapay zeka destekli bir gözetim sisteminin içine çekilebilmeleri olduğunu belirtiyor.

Stokes, "Bence asıl endişe verici olan, 'çevredeki insan' (bystander) sorunu; yani teknolojiye sahip olmadığınız halde gözetim altına alınabiliyorsunuz," diyor.

Stokes; akıllı gözlüklerden saatlere ve yapay zeka destekli kayıt cihazlarına kadar, tüketici ürünlerine entegre edilen kamera, mikrofon ve sensörlerin giderek arttığına dikkat çekiyor. 

Ona göre günümüzdeki fark, yapay zekanın bu cihazlar tarafından toplanan verileri hızla yorumlayabilmesi ve önceki nesil tüketici teknolojilerine kıyasla çok daha büyük miktardaki bilgiden anlam çıkarabilmesidir.

Stokes için bu durum, Apple Watch gibi cihazları, gizlilik ortamındaki çok daha büyük bir değişimin parçası haline getiriyor. 

CIA'de görev yaptığı dönemde, günlük cihazların kimlikleri, konumları ve ilişkileri açığa çıkarabilecek bilgileri sürekli olarak ürettiği bir dünyayı tanımlayan "her yerde mevcut teknik gözetim" (ubiquitous technical surveillance) kavramının geliştirilmesine katkıda bulunmuştu.

Stokes, asıl meselenin sadece daha fazla veri toplanabilmesi değil, bu verileri anlamlandırmanın maliyetinin de ciddi oranda düşmüş olması olduğunu vurguluyor.

Geçmişte, bir kişi hakkındaki bilgilerin toplanması, sınıflandırılması ve analiz edilmesi binlerce saatlik çalışma gerektirebiliyordu. Yapay zeka ise bu süreci giderek daha fazla otomatikleştirerek, tesadüfen toplanmış olabilecek verilerden anlamlı bilgiler çıkarmayı daha ucuz ve kolay hale getiriyor.

Bu durum, söz konusu teknolojiyi hiçbir zaman tercih etmemiş olan insanlar için yeni bir tür maruz kalma riski yaratıyor; ister yakındaki bir giyilebilir cihaz tarafından kaydedilen özel bir konuşma olsun, isterse de kişinin kendisine ait olmayan bir cihaz tarafından toplanan bilgiler olsun.

Stokes, "Geçmişte var olduğunu düşündüğümüz o küçük, korunaklı gizlilik alanlarına artık sahip değiliz," diyor.

Deveillance adlı girişimin kurucusu Aida Baradari, rızası dışında kaydedilmekten endişe duyan insanlara bir nebze kontrol imkanı geri kazandırmaya çalışıyor.

Şirket, "Spectre I" adını verdiği, hokey diski şeklindeki bir cihaz geliştirdi. Bu cihaz, yapay zeka kullanarak çevredeki cihazları tarıyor ve mikrofonlar sesi işleyemeden önce, kişinin konuşmasını bozacak "karşıt sinyaller" (adversarial signals) yayıyor. 

Baradari, yapay zeka destekli giyilebilir cihazların piyasaya sürülüşünü izlediğini ve kullanıcıların bu cihazlarla nasıl etkileşim kuracakları konusunda daha fazla söz sahibi olmaları gerektiğini düşündüğünü belirtti.

“Temel değerlerimizden ya da haklarımızdan vazgeçmeden teknolojiyi kullanabilmeliyiz” dedi.

CNBC