VirusTotal och Hugging Face har bildat ett samarbete för att förbättra säkerheten för AI-modeller och relaterade filer genom att integrera VirusTotals säkerhetsanalyser direkt i Hugging Faces plattform.
Detta samarbete är av stor betydelse, eftersom Hugging Face Hub nu kontinuerligt skannas för att identifiera potentiellt skadliga eller komprometterade filer bland de över 2,2 miljoner offentliga modell- och datasetrepositorier som finns tillgängliga.
När du besöker en fil på Hugging Face Hub körs nu en automatisk säkerhetskontroll i bakgrunden. Systemet jämför filens hash-värde mot VirusTotals hotdatabas och visar resultatet direkt i gränssnittet. Om en fil tidigare flaggats som skadlig får du se detektionsantalet och kan klicka vidare until en fullständig rapport.
Det smarta är att ingen faktisk fildata skickas until VirusTotal. Istället används SHA256-hashen som en fingeravtryck för att identifiera filer som redan analyserats, vilket skyddar både användarnas integritet och uppfyller Hugging Faces dataskyddsprinciper.
Varför det behövs
AI-modeller är komplexa digitala filer som kan gömma faror i type av manipulerade modellvikter, osäkra beroenden eller injicerad skadlig kod. Eftersom Hugging Face växt until världens största öppna plattform för maskininlärningsmodeller blev behovet av additional säkerhetslager kritiskt.
