Microsoft, Counterfit AI Güvenlik Değerlendirme Aracını Açık Kaynağa Dönüştürüyor

Microsoft, AI güvenlik risk değerlendirme aracı Counterfit'i açık kaynak kodlu hale getirerek herkesin aracı ücretsiz olarak kullanmaya başlamasına izin verdi. Şu anda, kuruluşlar, güvenlik riski değerlendirmelerini otomatikleştirmek için Counterfit'i kullanabilir ve kullandıkları korumanın sıfıra uygun olmasını sağlar.

Microsoft başlangıçta Counterfit'i yapay zeka ve makine öğrenimi sistemlerinin güvenliğini hızla değerlendirebilen dahili bir araç olarak geliştirdi. Bir operatörün aynı anda "birden fazla AI sistemine saldırmak" için kullanabileceği genel bir AI otomasyonuna hızla geçmeden önce bir komut dosyası koleksiyonu olarak hayata başladı.

Microsoft artık yapay zeka kırmızı ekip operasyonlarında temel bir araç olarak Counterfit'i düzenli olarak kullanıyor. Counterfit ortam, model ve verilerden bağımsız olduğu için, araç empedans olmadan hassas değerlendirme sağlayabilir.

Aracın kendisi, güvenlik uzmanları tarafından kullanılmak üzere tasarlanmıştır. Counterfit, kapsamlı destekle Metasploit veya PowerShell Empyre gibi diğer popüler kırmızı ekip araçlarına benzer iş akışlarını kullanır komut dosyası oluşturma, önceden yüklenmiş saldırı algoritmaları, güvenlik açığı taraması, gelişmiş günlük kaydı ve daha fazlası için komut satırından erişilir.

Microsoft, Counterfit'i daha iyi geliştirmek için güvenlik uzmanları ve büyük kuruluşlarla yoğun bir şekilde çalıştı. Üzerinde Microsoft Güvenlik bloguAirbus Kıdemli Siber Güvenlik Araştırmacısı Matilda Rhode şunları söyledi:

AI, endüstride giderek daha fazla kullanılmaktadır; Özellikle sorunlu alanda özellik alanı saldırılarının nerede gerçekleştirilebileceğini anlamak için bu teknolojiyi güvence altına almak için ileriye bakmak çok önemlidir. Güvenlik uygulayıcılarının değerlendirmesi için Microsoft gibi bir kuruluştan açık kaynaklı araçların piyasaya sürülmesi AI sistemlerinin güvenliği hem memnuniyetle karşılanır hem de endüstrinin bu sorunu üstlendiğinin açık bir göstergesidir. ciddi anlamda.

Açık kaynağı bulabilirsin Microsoft Counterfit resmi GitHub'larında.

İlişkili: Asla Bilmediğiniz İşler Yapay Zeka Tarafından Gerçekleştirildi

Counterfit Neden Faydalı?

Microsoft büyüklüğünde bir şirket için bile, etkili güvenlik değerlendirmelerini tamamlamak kolay değildir, özellikle bu şirketler Fortune 500'ün büyük liderleri, hükümetler, kar amacı gütmeyen kuruluşlar ve daha fazlasıysa. Önceki bir Microsoft araştırması, çok sayıda işletmenin yapay zeka sistemlerini doğru bir şekilde test edemediğini ortaya çıkardı.

28 işletmeden 25'inin AI sistemlerini güvence altına almak için doğru araçlara sahip olmadıklarını ve güvenlik uzmanlarının bu alanda özel rehberlik aradıklarını belirttik.

Counterfit, analiz ve test sürecini otomatikleştirerek bu değerlendirmeleri tamamlamayı kolaylaştırır.

İlişkili: İşinizi Geliştirmek için Yapay Zeka Teknolojisini Kullanmanın Yolları

Ayrıca, yakın zamanda yayınlanan Gartner çalışması AI güvenliğinin benimsenmesini, bir şirketin korumayı iyileştirmek için alabileceği en önemli güvenlik önlemlerinden biri olarak listeledi. Aynı çalışma, "2024 yılına kadar, özel AI risk yönetimi kontrollerini uygulayan kuruluşların, olumsuz AI sonuçlarından, yapmayanlara göre iki kat daha sık başarıyla kaçınacağını" belirtti.

Kısacası, Counterfit'in açık kaynaklı bir AI güvenlik değerlendirme aracı haline gelmesi, dünyayı biraz daha güvenli bir yer haline getirmeye yardımcı olmalıdır.

Bu 4 Antivirüs Aracı, Sisteminizi Korumak İçin AI Kullanıyor

Bir sonraki antivirüs aboneliğinizin yapay zeka içermesi mi gerekiyor yoksa bu sadece başka bir güvenlik kelimesi mi?

Sonrakini Oku

Yazar hakkında