Populární témata
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.

Matt Turck
Jak vytvořit oblíbený produkt umělé inteligence s @meetgranola CEO @cjpedregal
Granola je vzácný AI startup, který sklouzl do velmi přeplněného výklenku – poznámek ze schůzek – a přesto se dokázal stát produktem, o kterém zakladatelé (a VC!) básní. Spousta produktových lekcí v této epizodě.
00:00 - Úvod: Příběh granoly
01:41 – Vytvoření produktu, který "mění život"
04:31 - Vize "Druhého mozku"
06:28 - Filozofie rozšíření (Engelbart), Nástroje, které nás formují
09:02 – Pozdě na přeplněný trh: Proč to fungovalo
13:43 – Dva zakladatelé produktů, nula doktorátů z ML
16:01 - Londýn vs. SF: Stavba mimo údolí
19:51 - Rok v utajení: Učení před vydáním
22:40 - "Stavba pro nás" & Hledání prvních uživatelů
25:41 – Klíčové možnosti návrhu: Žádný robot pro schůzky, žádný uložený zvuk
29:24 - Jednoduchost je těžká: Odstranění 50 % funkcí
32:54 - Intuice vs. data při rozhodování o produktu
36:25 – Nepřetržité uživatelské konverzace: 4-6 hovorů/týden
38:06 – Stanovení priorit pro budoucnost: Sestavování pro pracovní postupy zítřka
40:17 - Tech Stack Tour: Model Routing & Evals
42:29 - Kontextová okna, náklady a inference ekonomie
45:03 – Audio Stack: Limity přepisu, potlačení šumu a diarizace
48:27 - Mantinely a citace: Budování důvěry v umělou inteligenci
50:00 - Růstové smyčky bez virality hacků
54:54 - Dodržování předpisů podniků, datová stopa a riziko odpovědnosti
57:07 - Retence a formování návyků: "500 milisekundové okno"
58:43 – Konkurence s OpenAI a staršími sadami
1:01:27 - Budoucnost: Hluboký výzkum napříč meetingy a roadmapa
1:04:41 - Granola jako kariérní kouč?
6,86K
Nadšený (a pokorný, lol), že se zde mohu zapojit.
Přemýšlel jsem o zpětných vazbách v AI celou věčnost a tihle kluci jsou skuteční - @gabrielbianconi a @thebigmehtaphor

TensorZero19. 8. 04:14
Oznamujeme naše počáteční kolo za 7,3 milionu dolarů!
TensorZero umožňuje datový a učící se setrvačník pro optimalizaci aplikací LLM: smyčku zpětné vazby, která mění výrobní metriky a lidskou zpětnou vazbu na chytřejší, rychlejší a levnější modely a agenty.
Dnes poskytujeme open-source stack pro vytváření průmyslových LLM aplikací, který sjednocuje LLM bránu, pozorovatelnost, optimalizaci, vyhodnocení a experimentování. Můžete si vzít to, co potřebujete, postupně si osvojit a doplnit dalšími nástroji. V průběhu času vám tyto komponenty umožňují nastavit principiální smyčku zpětné vazby pro vaši aplikaci LLM. Data, která shromažďujete, jsou vázána na vaše KPI, portují se mezi poskytovateli modelů a skládají se do konkurenční výhody pro vaši firmu.
Naší vizí je automatizovat velkou část LLM engineeringu. Pokládáme pro to základy s opensourcovým TensorZero. Například s naším datovým modelem a end-to-end workflow budeme schopni proaktivně navrhovat nové varianty (např. nový vyladěný model), backtestovat jej na historických datech (např. pomocí různých technik z reinforcement learning), umožnit postupný, živý A/B test a proces opakovat. S nástrojem, jako je tento, se inženýři mohou soustředit na pracovní postupy na vyšší úrovni – rozhodovat o tom, jaká data budou do těchto modelů vstupovat a jaká z nich odcházet, jak měřit úspěch, jaké chování motivovat a odrazovat atd. – a podrobnosti implementace na nízké úrovni přenechat automatizovanému systému. To je budoucnost, kterou vidíme pro LLM inženýrství jako disciplínu.
Nedávno TensorZero dosáhl #1 trendového repozitáře týdne na celém světě na GitHubu (a chystáme se překročit 10 tisíc hvězd). Máme to štěstí, že jsme obdrželi příspěvky od desítek vývojářů z celého světa, a je vzrušující vidět, že TensorZero již pohání špičkové produkty LLM ve startupech a velkých organizacích v oblasti umělé inteligence, včetně jedné z největších evropských bank.
S potěšením oznamujeme, že jsme získali 7,3 milionu dolarů na urychlení úsilí společnosti TensorZero o vybudování nejlepší open-source infrastruktury ve své třídě pro inženýry LLM (přijímáme zaměstnance!). Kolo vedl @FirstMarkCap, zúčastnili se ho @BessemerVP, @bedrock, @DRWTrading, @coalitionvc a desítky strategických andělů.

5,26K
Matt Turck repostoval/a
Gabriel a já jsme začali s tímto obchodním programováním v malé kanceláři rok v kuse. Začali jsme s myšlenkou, že systémy umělé inteligence musí být schopny učit se ze zkušeností z reálného světa, aby mohly řešit problémy reálného světa. Nakonec se ukázalo, že se jednalo mnohem více o problém systémů a dat než o problém strojového učení.
Řešením musel být průmyslový software, který by byl volně dostupný a snadno přizpůsobitelný pro jednotlivé vývojáře, ale mohl by se škálovat tak, aby vyhovoval potřebám velkých organizací. Takže jsme projekt otevřeli a řekli našim prvním uživatelům, aby nám přestali platit. Bylo to šílené.
V těchto dnech jsme za rohem. Máme malý, ale neuvěřitelný technický tým: Aaron (správce kompilátoru Rust, Svix, AWS), @anndvision (postdoktorand z Kolumbie, doktorát z Oxfordu) a Alan (CMU PhD, viceprezident v JPM AI Research), ke kterým se brzy připojí Shuyang (personál SWE na LLM infra ve společnosti Google, Palantir) a Cole (Cognition, Windsurf, Stanford). Naše komunita je aktivní a roste (brzy na 10 tisíc hvězd!). Existuje jasná cesta k vytvoření agenta, který optimalizuje každé nasazení TensorZero na základě skutečné zpětné vazby, kterou shromažďuje.
Kdybyste mi při nástupu doktorátu řekli, že jednoho dne spousta společností dobrovolně začne ukládat trajektorie RL do datového modelu, který jsem pomáhal vybudovat, abychom mohli optimalizovat jejich politiky podle odměn, na kterých jim záleží, byl bych ohromen.
Brzy se to nebude dělat ručně.
25,91K
Top
Hodnocení
Oblíbené
Co je v trendu on-chain
Populární na X
Nejvyšší finanční vklady v poslední době
Nejpozoruhodnější