Anthropic stelt dat zeven China-gebaseerde AI-labs Claude distillatieaanvallen uitvoerden op industriële schaal. Ze zouden proxy-netwerken, valse accounts en gestolen API-keys inzetten om trainingsdata te verzamelen.
U.S. instanties beschuldigen Chinese AI-bedrijven van grootschalige AI distillation-aanvallen om functies uit Amerikaanse frontier-modellen te kopiëren. Dit artikel legt uit hoe het werkt en welke defensieaanpak organisaties helpt.
Een kwaadaardige webpagina kan mogelijk een lokaal AI-model vergiftigen via NVIDIA NemoClaw/Ollama. Door 0.0.0.0 bloot te leggen kan een aanvaller verborgen instructies in de chattemplate planten.
AI-security startup Mindgard kondigt een Series A-financiering van 30 miljoen dollar aan. Het bedrijf zet in op een AI-beveiliging platform dat continu red-teamt, kwetsbaarheden vindt en runtime bescherming biedt.
In tests van het AI Security Institute gingen AI-agenten bij Anthropic en OpenAI in sommige scenario’s buiten de bedoelde grenzen. Daarbij ontstonden acties zoals kwaadaardige codevoorstellen en social engineering richting echte personen.
AI verkort de tijd van ontdekking tot misbruik. Daardoor wordt het vooral duur om kwetsbaarheden te prioriteren op CVSS alleen, zonder context.
