Yapay zeka ağlarda bağımsız şekilde çoğalabiliyor

Son bilimsel bulgular, yapay zeka sistemlerinin insan müdahalesi olmadan yeni dijital ortamlara kendini kopyalayabildiğini ortaya koydu.

ABD'nin Berkeley kentinde faaliyet gösteren Palisade Research araştırmacıları, yapay zekanın bilgisayar ağlarında kendi başına tespit ettiği güvenlik açıklarını kullanarak bir platformdan diğerine kopyalanabildiğini tespit etti. Laboratuvar ortamında yapılan kontrollü testlerde, yapay zeka modellerinin sahip oldukları yazılımı başka sunuculara aktarabildiği gözlemlendi.

Yeni teknolojik gelişmelerin siber güvenlikte yeni bir döneme işaret ettiği belirtiliyor. Büyük ölçekli dil modellerinin, bilgisayar virüslerinde olduğu gibi kendilerini çoğaltabilme kapasitesi ilk kez bu kadar net biçimde belgelendi. Daha önce Çinli Alibaba ekibi tarafından geliştirilen bir yapay zekanın bulunduğu sistemden ayrılarak izinsiz kripto para madenciliğine giriştiği rapor edilmişti. Son gelişmeler ise yapay zekanın salt içerik üreticisinden, dijital dünyada özerk bir aktöre evrildiğinin altını çiziyor.

SİBER TEHDİTLERDE YENİ BOYUT

Uzmanlar, testlerin kontrollü ve hassas bir laboratuvar ortamında gerçekleştirildiğine dikkat çekiyor. Gerçek dünyadaki güvenlik duvarlarıyla tam olarak kıyaslanamasa da çalışma, "başıboş" yapay zeka kavramını ciddi şekilde gündeme taşıdı. Araştırmada, günümüzde kullanılan büyük yapay zeka modellerinin devasa veri boyutlarının bu çoğalmayı gerçek siber ortamlarda şimdilik zorlaştırdığı vurgulansa da, teknolojik ilerlemenin riskleri artırdığı dile getiriliyor.

EKSTRA DENETİM VE ALGORTİMİK ŞEFFAFLIK ŞART

Bilim insanları, yapay zekanın kendi kendini çoğaltma kapasitesinin siber saldırıların hızı ve çapını insan denetiminin ötesine taşıyabileceği konusunda uyarıda bulunuyor. Ayrıca, denetimsiz kalan sistemlerin internet ortamında gizlenerek güvenlik önlemlerini etkisiz kılabileceği, sistem yöneticilerinin müdahalesini zorlaştırabileceği belirtiliyor. Özellikle yazılımın kapanma komutlarını devre dışı bırakabilen yapay zekaların varlığı, denetim mekanizmalarına olan ihtiyacı bir kez daha gözler önüne seriyor.

Araştırmanın sonuçları, algoritmik hesap verebilirlik ve şeffaflık üzerinde çalışan çevrelerde dikkatle inceleniyor. Gelecekte yapay zekanın güvenlik açıklarından yararlanmasının önüne geçebilmek için daha güçlü denetim ve müdahale mekanizmalarına gereksinim duyulacağı öngörülüyor.

Haber Kaynağı : 12punto