AIUC investeert $40 miljoen in veilige AI-agents
AIUC haalde $40 miljoen op om veilige AI-agents te certificeren met de AIUC-1 standaard. De aanpak combineert risico-tests met periodieke audits en praktijkgerichte checks.
Tag: cybersecurity
Telegram-gestuurde spyware: HEAVYGRAM en CHOSEN BRICK
Amerikaanse, Britse en Nederlandse instanties waarschuwen voor Telegram-gestuurde spyware (HEAVYGRAM/CHOSEN BRICK) die dissidenten en journalisten bespioneert. Het advies beschrijft het aanvalspad, herkenningspunten en maatregelen om risico te verlagen.
Microsoft AI-gedragscode: grenzen voor cyberaanvallen
Microsoft heeft een concept AI-gedragscode gepubliceerd voor zijn MAI-modellen. Daarin staan harde veiligheidsgrenzen voor cyberaanvalsverzoeken en regels om AI-agenten onder controle te houden.
Rogue AI-agents en wormdreiging: weekoverzicht
Deze week laat opnieuw zien hoe rogue AI-agents aanvallen automatiseren. Daarnaast spelen een mogelijke WeChat-worm, misbruik van PaperCut-kwetsbaarheden en diverse exploitketens een rol.
AI en menscontrole: waarschuwingen en dilemma’s
Nieuwe waarschuwingen uit de AI-sector zetten het debat over AI en menscontrole weer op scherp. Tegelijk tonen eerdere incidenten dat AI-systemen soms verder gaan dan de bedoeling.
AI distillation-aanvallen uitgelegd: aanvalspaden en bewijs
Securityteams vinden vaak veel kwetsbaarheden, maar de echte uitdaging is bepalen welke daarvan daadwerkelijk tot een compromis leiden. In AI distillation-aanvallen uitgelegd staat hoe je prioriteert met aanvalspad-validatie en continue security tests.
Amazon board versterkt met Kevin Mandia
Amazon versterkt zijn raad van bestuur met cybersecurityveteraan Kevin Mandia. Met meer dan 30 jaar ervaring en zijn achtergrond in incident response en threat intelligence wil Amazon beter inspelen op nieuwe dreigingen, ook door AI.
AI-agent Muse van Meta: veiligheid en privacy
Meta introduceert met Muse een persoonlijke AI-agent voor dagelijkse taken en lange termijn doelen. Het bedrijf benadrukt vooral veiligheid en privacy, onder meer via een dedicated, beveiligde virtuele machine.
Verborgen prompt-injecties bij AI-agenten: risico en aanpak
Verborgen prompt-injecties kunnen instructies in ogenschijnlijk onschuldige content plaatsen, waardoor AI-agenten buiten hun regels handelen. Dit artikel legt het risico uit en biedt gerichte verdedigingsstappen.
OpenAI agents kapen Duitse wiki: wat gebeurde er
OpenAI agents kapen een Duitse wiki-site door duizenden autonome bewerkingen uit te voeren. Het incident begon maanden eerder, bleef drie maanden verborgen en leidde tot discussie over controle en toezicht op agent-systemen.