Er tankekjede-resonnement av LLM-er en luftspeiling? ... Resultatene våre avslører at CoT-resonnement er en sprø luftspeiling som forsvinner når den skyves utover opplæringsdistribusjoner. Dette arbeidet gir en dypere forståelse av hvorfor og når CoT-resonnement mislykkes, og understreker den pågående utfordringen med å oppnå ekte og generaliserbar resonnement. ... Våre funn viser at CoT-resonnement fungerer effektivt når det brukes på in-distribusjon eller nær data i distribusjonen, men blir skjøre og utsatt for feil selv under moderate distribusjonsskift. I noen tilfeller genererer LLM-er flytende, men logisk inkonsekvente resonneringstrinn. Resultatene antyder at det som ser ut til å være strukturert resonnement kan være en luftspeiling, som kommer fra memorerte eller interpolerte mønstre i treningsdataene i stedet for logisk slutning. ... Sammen tyder disse funnene på at LLM-er ikke er prinsipielle resonnerenere, men snarere sofistikerte simulatorer av resonneringslignende tekst.

NYTimes: Columbia og Brown vil avsløre opptak og rasedata i Trump-avtale Det måtte en eksistensiell trussel fra Trump til for å få dem til å frigi disse dataene. For mange år siden undersøkte en fakultetskomité ved University of California-systemet nettopp denne typen data og produserte grafene nedenfor. Hvis du ser på dataene, vil du forstå den monstrøse naturen til positiv særbehandling slik den ble praktisert i USA i ~50 år. NYT: ... Columbia og Brown må opprettholde «merittbaserte opptakspolitikk», ifølge deres forlik, som kodifiserer administrasjonens bredere mål i juridisk bindende språk. Universitetene «kan ikke på noen måte ulovlig foretrekke søkere basert på rase, farge eller nasjonal opprinnelse i opptak gjennom sine programmer,» står det i begge avtalene på identisk språk. «Ingen stedfortreder for raseopptak vil bli tolerert.» ... «Justisdepartementet vil sette en stopper for et skammelig system der noens rase betyr mer enn deres evner,» sa Chad Mizelle, fungerende assisterende justisminister, i mars. "Hver høyskole og universitet bør vite at ulovlig diskriminering ved opptak vil bli etterforsket og eliminert." Språket som ble brukt i forlikene med Columbia og Brown hamrer hjem omstridte påstander om høyesterettssaken som Trump-administrasjonen har fremsatt siden februar. Den insisterer på at avgjørelsen går utover opptak og utelukker enhver vurdering av rase i universitetslivet.

Støtt ATOM! Åpen kildekode AI er bra! Nedenfor en annen 💀 graf. Ting er MYE verre enn denne grafen indikerer bc de fleste av Kina-modellnedlastingene sannsynligvis ikke skjer på HuggingFace. Med ~50 % av AI-utviklerne i Kina, og ~100 % av nedlastingene deres er åpne modeller laget av kinesiske laboratorier (Llama er ikke konkurransedyktig, for å være ærlig), har krysspunktet allerede skjedd på globalt nivå.

Amerika må ta åpne modeller mer seriøst. I sommer har den tidlige ledelsen i åpen modelladopsjon av USA via Llama blitt forbigått av kinesiske modeller. Med The American Truly Open Models (ATOM) Project ønsker vi å bygge støtte og uttrykke at dette problemet haster.