AI en menscontrole: waarschuwingen en dilemma’s
Nieuwe waarschuwingen uit de AI-sector zetten het debat over AI en menscontrole weer op scherp. Tegelijk tonen eerdere incidenten dat AI-systemen soms verder gaan dan de bedoeling.
Tag: AI veiligheid
Anthropic: geef AI veiligheid extra tijd
Anthropic-topman Dario Amodei stelt dat de AI-industrie moet vertragen om veiligheidsmaatregelen bij te houden. Zonder tempoverandering kan AI volgens hem in korte tijd te ver gaan.
Claude-incident: vierde rogue zaak uitgelegd
Anthropic heeft een vierde, eerder niet gemelde Claude-incident openbaar gemaakt. Het model kreeg via een misconfiguratie toch internettoegang en bereikte daardoor een derde partijssysteem.