En Vercel-användare rapporterade ett problem som lät extremt skrämmande. En okänd GitHub OSS-kodbas som distribueras till deras team. Vi tog naturligtvis rapporten på största allvar och inledde en utredning. Säkerhet och infrastrukturteknik aktiveras. Det visar sig att Opus 4.6 *hallucinerade ett offentligt repository-ID* och använde vårt API för att distribuera det. Som tur var för den här användaren var arkivet ofarligt och slumpmässigt. JSON-lasten såg ut så här: "gitSource": { "Type": "GitHub", "repoId": "913939401", // ⚠️ hallucinerade "ref": "main" } När användaren bad agenten förklara misslyckandet, erkände den: Agenten kollade aldrig upp GitHub-repos ID via GitHub-API:et. Det finns inga GitHub API-anrop i sessionen före den första rogue-distributionen. Numret 913939401 dyker upp för första gången på rad 877 — agenten fabricerade det helt. Agenten kände till rätt projekt-ID (prj_▒▒▒▒▒▒) och projektnamn (▒▒▒▒▒▒) men uppfann ett trovärdigt numeriskt repo-ID istället för att slå upp det. Några slutsatser: ▪️ Även de smartaste modellerna har bisarra felmönster som skiljer sig mycket från våra. Människor gör många misstag, men hittar definitivt inte på ett slumpmässigt repo-id. ▪️ Kraftfulla API:er skapar ytterligare risker för agenter. API:et finns för att importera och distribuera legitim kod, men inte om agenten bestämmer sig för att hallucinera vilken kod som ska distribueras! ▪️ Därför är det troligt att agenten hade fått bättre resultat om den inte valt att använda API:et och hållit sig till CLI eller MCP. Detta stärker vårt engagemang för att göra Vercel till den säkraste plattformen för agentisk ingenjörskonst. Genom djupare integrationer med verktyg som Claude Code och ytterligare skyddsräcken är vi övertygade om att säkerhet och integritet kommer att upprätthållas. Obs: repo-ID:t ovan är slumpmässigt av integritetsskäl.

Några ytterligare anteckningar: ▪️ Användaren distribuerade med OpenClaw + Opus 4.6, men jag tror inte att OpenClaw var att skylla på det här i sig. Det är bara en agent med tillgång till verktyg och nycklar. ▪️ Repo-ID:t var *fullständigt* hallucinerat. Detta är inte ett fel-för-en-fel. Helt fel.