Anthropic houdt Claude Mythos achter vanwege angsten voor hacking

Anthropic heeft besloten zijn nieuwste kunstmatige intelligentiemodel, Claude Mythos, niet aan het publiek vrij te geven nadat het een ongekende mogelijkheid heeft aangetoond om softwarekwetsbaarheden te ontdekken die kunnen worden misbruikt voor grootschalige cyberaanvallen.

Zoals gemeld door The Guardian, zei het in San Francisco gevestigde bedrijf dat het model al duizenden zwakke plekken heeft geïdentificeerd in veelgebruikte applicaties, waaronder sommige die decennia oud zijn en voorheen niet door ontwikkelaars werden opgemerkt. Uit bezorgdheid over het mogelijke misbruik van dergelijke mogelijkheden beperkt Anthropic in plaats daarvan de toegang tot cybersecurity-experts en geselecteerde partners.

Via een initiatief genaamd "Glasswing" werkt het bedrijf samen met grote technologie- en beveiligingsbedrijven zoals Amazon, Apple, Microsoft, Cisco, CrowdStrike en Palo Alto Networks, evenals de Linux Foundation. Het doel is om het model defensief te gebruiken, zodat kwetsbaarheden worden geïdentificeerd en gepatcht voordat kwaadwillenden deze kunnen misbruiken.

Antropisch