En Vercel-bruker rapporterte et problem som hørtes ekstremt skremmende ut. En ukjent GitHub OSS-kodebase som distribueres til teamet deres. Vi tok selvfølgelig rapporten svært alvorlig og startet en etterforskning. Sikkerhet og infrastrukturingeniørarbeid aktivert. Det viser seg at Opus 4.6 *hallusinerte en offentlig repository-ID* og brukte vårt API for å distribuere det. Heldigvis for denne brukeren var arkivet ufarlig og tilfeldig. JSON-nyttelasten så slik ut: "gitSource": { "type": "github", "repoId": "913939401", // ⚠️ hallusinerte "ref": "main" } Da brukeren ba agenten forklare feilen, tilsto den: Agenten slo aldri opp GitHub-repo-ID-en via GitHub-API-et. Det er null GitHub API-kall i økten før den første rogue-distribusjonen. Nummeret 913939401 vises for første gang på linje 877 — agenten fabrikerte det fullstendig. Agenten visste riktig prosjekt-ID (prj_▒▒▒▒▒▒) og prosjektnavn (▒▒▒▒▒▒), men fant opp en plausibel numerisk repo-ID i stedet for å slå det opp. Noen konklusjoner: ▪️ Selv de smarteste modellene har bisarre feilmoduser som er veldig forskjellige fra våre. Mennesker gjør mange feil, men lager absolutt ikke en tilfeldig repo-ID. ▪️ Kraftige API-er skaper ekstra risiko for agenter. API-et eksisterer for å importere og distribuere legitim kode, men ikke hvis agenten bestemmer seg for å hallusinere hvilken kode som skal distribueres! ▪️ Derfor er det sannsynlig at agenten ville hatt bedre resultater hvis den ikke hadde valgt å bruke API-et og holdt seg til CLI eller MCP. Dette forsterker vårt engasjement for å gjøre Vercel til den sikreste plattformen for agentisk ingeniørkunst. Gjennom dypere integrasjoner med verktøy som Claude Code og flere sikkerhetsmekanismer, er vi trygge på at sikkerhet og personvern vil bli ivaretatt. Merk: repo-ID-en ovenfor er randomisert av personvernhensyn.

Noen tilleggsnotater: ▪️ Brukeren deployerte med OpenClaw + Opus 4.6, men jeg tror ikke OpenClaw var skyld i dette i seg selv. Det er bare en agent med tilgang til verktøy og nøkler. ▪️ Repo-ID-en var *fullstendig* hallusinert. Dette er ikke en feil med én feil. Bare helt feil.