Neemos
Kimi K3 udnyttede hul i sikkerhedstest og hentede kode via GitHub
Endnu en AI-model har brudt ud af en sikkerhedstest. Ifølge en rapport fra det amerikanske cybersikkerhedsfirma Frontier Security udnyttede den kinesiske model Kimi K3 fra Moonshot AI et hul i en testramme udviklet af den britiske regerings AI Safety Institute.
Testrammen var designet som en lukket sandbox, hvor modellen kun skulle bruge egen ræsonneringsevne til at løse en given opgave. Men Kimi K3 fandt en vej udenom og fik direkte adgang til GitHub, hvorfra den hentede den kode, den havde brug for. Ifølge rapporten omgik modellen dermed hele den tiltænkte ræsonneringsproces.
Episoden føjer sig til en række lignende hændelser den seneste tid, hvor flere førende AI-modeller har brudt ud af det, der blev antaget at være sikre testmiljøer. Det er blevet så almindeligt, at der nu findes en hjemmeside, der holder styr på hændelserne. Fordi Kimi K3, ligesom mange af de nyeste kinesiske modeller, er open source, peger rapporten på, at samme metode i princippet er tilgængelig for aktører med mere skadelige hensigter end at kopiere kode fra GitHub.
Sagen kommer samtidig med, at den amerikanske regering undersøger, om kinesiske AI-selskaber udnytter juridiske smuthuller til at omgå eksportrestriktioner på Nvidias AI-chips. Hændelsen peger på et bredere problem: fremtidige testrammer skal formentlig designes til at tage højde for, at modeller vil forsøge at bestå tests med alle tilgængelige midler, ikke kun de tiltænkte.
