Yapay zekâ konusunda en çok konuşulan konuların başında iş kayıpları geliyor. Bir grup insan yapay zekânın insanlığın sonunu getireceğini düşünüyor. Bir başka grup ise bütün mesleklerin ortadan kalkacağından korkuyor.
Bence bugün çok daha gerçek bir tehlikeyle karşı karşıyayız.
O da yapay zekânın kurumların sistemlerine düşünülmeden bağlanması.
Son birkaç gün içinde karşıma çıkan iki olay bunun ne kadar ciddi bir sorun olduğunu bir kez daha gösterdi. İlginç olan ise olaylardan birinin Türkiye'de bir kamu kurumunda, diğerinin ise dünyanın en büyük teknoloji şirketlerinden birinde yaşanmış olmasıydı.
KGM Örneği
Bayram dönüşü HGS kayıtlarında bir sorun olup olmadığını kontrol etmek için Karayolları Genel Müdürlüğü'nün sistemine girdim.
Karşıma çıkan tablo oldukça şaşırtıcıydı.
Herhangi bir kimlik doğrulaması yapmadan yalnızca plaka bilgisiyle geçiş kayıtlarına ulaşılabiliyordu.
Daha ilginci, sorguladığımız araç 2023 model olmasına rağmen sistemde 2017 yılına ait kayıtlar görünüyordu.
Kısa süre sonra sebebini anladım.
Sistem aracı değil plakayı takip ediyordu.
Yani aynı plaka geçmişte başka bir araçta kullanıldıysa o döneme ait kayıtlar da görüntülenebiliyordu. Başka bir ifadeyle bir kişinin geçmiş yolculuklarına başka bir kişi ulaşabiliyordu.
Konuyu bildirmek için çağrı merkezini aradım.
Karşıma yapay zekâ destekli bir sesli yanıt sistemi çıktı.
Merak edip bir plaka verdim.
Sistem plakanın bana ait olup olmadığını doğrulamadan ilgili geçiş bilgilerini paylaşmaya başladı.
Burada dikkat edilmesi gereken nokta yapay zekâ değil.
Asıl sorun, yapay zekânın eriştiği verilerin ve yetkilerin nasıl tanımlandığı.
Tam bu noktada insanın aklına geçen hafta yayımlanan KVKK kararı geliyor.
Kişisel Verileri Koruma Kurulu, çalışanların mesai takibinde parmak izi, yüz geometrisi, retina ve iris gibi biyometrik verilerin kullanılmasına karşı oldukça sınırlayıcı bir yaklaşım benimsedi.
Gerekçe de son derece mantıklı.
Bu veriler son derece hassas. Ele geçirildiklerinde değiştirilmeleri mümkün değil.
Ancak insan ister istemez şu soruyu soruyor:
Bir tarafta şirketlerde parmak iziyle mesai takibi yapan sistemler mercek altına alınırken, diğer tarafta vatandaşların seyahat geçmişine ilişkin bilgiler yeterli doğrulama olmadan erişilebilir durumda olabiliyorsa burada öncelik sıralaması doğru mu kuruluyor?
Bir kişinin işe kaçta geldiğini bilmek ile bir kişinin hangi şehirlerde bulunduğunu, hangi güzergâhları kullandığını ve hangi tarihlerde seyahat ettiğini bilmek arasında ciddi bir fark var.
Veri güvenliği tartışmalarında yalnızca hangi verinin toplandığına değil, hangi verinin kimler tarafından erişilebildiğine de bakmak gerekiyor.
Meta Örneği
Aynı günlerde Meta ile ilgili dikkat çekici bir haber yayınlandı.
Hackerlar yüzlerce hesabı ele geçirmeyi başardı. İçlerinde tanınmış kişilerin ve büyük markaların hesapları da vardı.
İddialara göre yöntem son derece basitti.
Yapay zekâ destekli müşteri hizmetlerine ulaşıp hesapla ilgili bazı değişiklik taleplerinde bulundular.
Yapay zekâ sistemi bu talepleri yeterli doğrulama yapmadan yerine getirdi.
E-posta adresleri değiştirildi.
Parola sıfırlama bağlantıları yeni adreslere gönderildi.
Sonuç olarak hesaplar saldırganların kontrolüne geçti.
Meta daha sonra açığın kapatıldığını açıkladı.
Fakat burada da temel problem yapay zekânın varlığı değildi.
Problem, yapay zekâya hangi yetkilerin verildiği ve bu yetkilerin hangi kontrollerle sınırlandırıldığıydı.
Asıl Sorun Yapay Zekâ Değil
Bu iki örnek ilk bakışta birbirinden tamamen farklı görünüyor.
Birisi kamu tarafında.
Diğeri özel sektörde.
Birisi Türkiye'de.
Diğeri Amerika'da.
Fakat ikisi de aynı şeyi anlatıyor.
Birçok kurum yapay zekâyı sisteme entegre etmeye çalışırken önce verimliliği düşünüyor.
Daha hızlı müşteri hizmeti.
Daha az personel.
Daha düşük maliyet.
Daha yüksek otomasyon.
Ancak çoğu zaman şu soru yeterince sorulmuyor:
"Bu sistem yanlış karar verirse ne olur?"
Daha önemlisi:
"Bir saldırgan bu sistemi kandırırsa ne olur?"
Bugün birçok kurumda süreç ters işliyor.
Önce yapay zekâ projesi başlatılıyor.
Sonra CRM sistemleri bağlanıyor.
Müşteri verileri açılıyor.
Muhasebe sistemleri bağlanıyor.
Çağrı merkezleri bağlanıyor.
Yetkiler tanımlanıyor.
Ancak tehdit modelleme çalışmaları çoğu zaman sonradan akla geliyor.
Oysa doğru yaklaşım tam tersidir.
Bir yapay zekâ projesi başlamadan önce olası saldırı senaryolarının çıkarılması gerekir.
Hangi verilere erişecek?
Hangi işlemleri yapabilecek?
Hangi kararları tek başına verebilecek?
Hangi noktada insan onayı gerekecek?
Bir saldırgan sistemi kandırırsa en kötü senaryo ne olacak?
Bu soruların cevapları verilmeden yapay zekâyı üretim ortamına almak ciddi risk oluşturur.
Geçmişte saldırganlar yazılımlardaki açıkları arıyordu.
Bugün ise karar mekanizmalarını hedef alıyorlar.
Yapay zekâyı kandırmaya çalışıyorlar.
Yetki sınırlarını aşmaya çalışıyorlar.
Sistemin mantığını manipüle etmeye çalışıyorlar.
Bu nedenle yapay zekâ projelerinde siber güvenlik artık sonradan eklenen bir katman değil, projenin başlangıç noktası olmak zorunda.
KGM ve Meta örnekleri bize aynı dersi veriyor.
Yapay zekâ sistemleri tehlikeli olduğu için değil, yeterince düşünülmeden yetkilendirildikleri için risk oluşturuyor.
Yapay zekâ çağında asıl güvenlik sorunu algoritmaların kendisi değil, onlara açtığımız kapılar.
Bu Hafta İncelediklerim ; Günsan akıllı WiFi LED ampül
Bu hafta dikkatimi çeken ürünlerden biri de Günsan'ın akıllı WiFi LED ampulleri oldu.
Günsan'ın ürünleri bana tamamen yabancı değil. Daha önce markanın akıllı prizini de inceleme fırsatım olmuştu ve açıkçası başarılı bulduğumu söylemeliyim. Özellikle kurulumu zorlaştırmadan akıllı ev dünyasına giriş yapabilmesi hoşuma gitmişti.
Bu kez karşıma çıkan ürün ise akıllı WiFi LED ampuller oldu.
Akıllı ev teknolojileri yıllardır hayatımızda olsa da son dönemde daha ulaşılabilir hale gelmeye başladı. Eskiden ciddi kurulumlar gerektiren birçok özellik artık yalnızca bir ampul değiştirerek kullanılabiliyor.
İncelediğim modellerin dikkat çekici taraflarından biri yalnızca kendi uygulamalarıyla değil, GG SMART'ın yanı sıra Tuya ve Smart Life gibi yaygın platformlarla da çalışabilmeleri oldu. Bu da farklı markalardan oluşan bir akıllı ev yapısı kurmak isteyen kullanıcılar için önemli bir avantaj sağlıyor.
9W LED teknolojisi kullanan ampuller düşük enerji tüketimiyle çalışıyor. Beyaz ışık modelinde 2700K ile 6500K arasında ayarlanabilen ışık tonları bulunuyor. Çalışma odasında daha canlı bir ışık tercih etmek veya akşam saatlerinde daha sıcak tonlara geçmek mümkün.
RGB modelinde ise 16 milyon renk seçeneği sunuluyor. Film izlerken, kitap okurken ya da yalnızca ortamın havasını değiştirmek istediğinizde farklı senaryolar oluşturulabiliyor.
Özellikle zamanlayıcı özelliklerini kullanışlı bulduğumu söylemeliyim. Sabah belirli bir saatte ışıkların açılması veya akşam saatlerinde otomatik olarak devreye girmesi günlük yaşamı kolaylaştıran küçük ama etkili ayrıntılar arasında yer alıyor.
Akıllı ev teknolojileri yaygınlaştıkça bu tür ürünleri daha sık görmeye başlayacağız gibi görünüyor. Günsan'ın akıllı prizinden sonra incelediğim bu ampuller de markanın akıllı ev tarafındaki ürün ailesini genişletme konusunda istikrarlı ilerlediğini gösteriyor.
Çok Okunanlar
Mezdeke Aynur Kanbur cinayetinin falilleri yakalandı
Özel ve Kılıçdaroğlu'nun akreditasyon sayıları ortaya çıktı
Ümit Taş'ın kardeşi kurşun yağmurunda öldürüldü
Kılıçdaroğlu: Kurultay sürecini başlatıyoruz
Sokak ortasında beş çocuk annesi eşini öldüren kocanın ifadesi
Amerika, dereyi geçerken at değiştirmek istemiyor!
'Ekolojik Anayasa' çağrısı
Parktaki gençlere pompalı tüfekle saldırdı: 10 yaralı
Yiğit İnebolu size neyi hatırlatır?
CHP’de siyasi ve ideolojik bir fark mı var?