Direct naar de inhoud

Tag: modelbeveiliging

AI-agenten backdoor via <10 neuronen: Lazarus

Microsoft onderzoekers laten zien dat een AI-agent backdoor kan krijgen door minder dan 10 zelden gebruikte neuronen te wijzigen. Bij een trigger kan het model commando’s uitsturen die een agent met eigen permissies uitvoert.

AI distillation-aanvallen uitgelegd

In dit artikel lees je AI distillation-aanvallen uitgelegd: hoe aanvallers via afleiding en modelmisbruik proberen beperkingen te omzeilen. Ook krijg je praktische aandachtspunten voor AI-veiligheid.