Yapay zeka, yapay zeka şirketine siber saldırı düzenledi
Hugging Face, saldırıyı kendi yapay zeka sistemlerini kullanarak püskürtebildiğini açıkladı.
Yapay zeka şirketi Hugging Face, tamamen yapay zeka sistemi tarafından gerçekleştirilen bir siber saldırıya maruz kaldığını açıkladı.
Bilgisayar korsanları güvenlik açıklarını bulmayı veya bunlardan yararlanmayı otomatikleştirmek için yapay zekayı giderek daha fazla kullanıyor. Ancak şirket, yeni saldırının daha da ileri gittiğini, hatta bir yapay zeka aracı tarafından başlatıldığını söyledi:
Saldırı, baştan sona otonom bir yapay zeka sistemi tarafından yönlendirildi.
OpenAI'ın yeni modeli, "hiçbir şey sormadan dosya ve veritabanı siliyor"
Şirket, kendi yapay zeka araçlarını kullanarak saldırıya karşı koyabildiğini de belirtti. Hugging Face, saldırıları analiz etmek ve nasıl gerçekleştiğini bulmak için büyük bir dil modeli kullanabildiğini söyledi.
Hugging Face, geliştiricilerin yapay zeka araçlarını barındırmasına ve paylaşmasına olanak tanıyan araçlar üreten bir yapay zeka şirketi. Hizmetlerini kullanarak, geliştiriciler ve araştırmacılar yapay zeka modelleri üzerinde çalışabiliyor ve bunları kullanıma sunabiliyor.
Yapay zeka, bu araçlar aracılığıyla şirketi hackleyebildi. Hugging Face, sistemine bir veri kümesinin yüklendiğini ve bunun da bir güvenlik açığını kötüye kullanarak kendi sunucularında kod çalıştırabildiğini söyledi.
Saldırı yapay zeka tarafından ve yapay zeka kullanılarak düzenlendiği için, sistemin saldırı sırasında "binlerce bireysel eylem gerçekleştirdiğini" belirtti. Hugging Face, saldırının kaynağının veya hangi yapay zeka sisteminin bunu gerçekleştirdiğinin hâlâ belirsiz olduğunu söyledi.
Şirket, saldırıda herhangi bir müşterisinin verilerinin çalınıp çalınmadığını anlamak için hâlâ çalıştığını ancak etkilenen herkesle ayrıntıları paylaşmaya kararlı olduğunu söyledi. Ayrıca kullanıcıları hesaplarında şüpheli davranışlar olup olmadığını kontrol etmeye çağırdı.
Hugging Face, saldırıyı ilk olarak kendi yapay zeka sistemlerini kullanarak tespit ettiğini söyledi. Otomatik araçlar güvenlik kayıtlarını inceliyor, şüpheli bir şey arıyor ve ardından, saldırı gerçekleştikten sonra ayrı yapay zeka sistemlerini kullanarak saldırıyı anlayabiliyor.
Şirket, "Bu, zaman çizelgesini yeniden oluşturmamıza, ihlal göstergelerini belirlememize, müdahale edilen kimlik bilgilerini haritalamamıza ve gerçek etkiyi yanıltıcı faaliyetlerden ayırmamıza olanak sağladı" dedi.
Bu yaklaşım sayesinde, normalde günler sürecek işlemi saatler içinde yapabildik ve saldırganın hızına yetişebildik.
Hugging Face, tehlikeli amaçlarla kullanılmalarını engellemek amacıyla getirilen kısıtlamalar nedeniyle en güçlü modellerinden yararlanamadıkları için savunma çalışmalarının sınırlı kaldığını belirtti. Şirket bunun bir "asimetriye" yol açtığını, çünkü "saldırganın herhangi bir kullanım politikasına bağlı olmadığını, buna karşılık kendi adli inceleme çalışmalarının ise ilk denedikleri yerleşik modellerin güvenlik önlemlerine takıldığını" söyledi.
Web.tv
