シリーズDを$2.1bで終了しました。これはシリーズCの8か月後に起こりましたが、8か月で2年分の成長、顧客離れが事実上0人、健全な利益率、前年同期比トップクラスと見なされる前四半期比NDRの数値などを考慮するまでは早すぎるように思えます。 低遅延、弾力性、信頼性の高い推論に対する市場の需要は飽くなきものです。そして、カスタムモデルをサポートするためのdevexの構築に初期から注力したことは、本当に功を奏しました:人々は、モデルがどのように最適化、デプロイ、提供されるかについてのパワーと可視性を求めています。ブラックボックス推論 API ではありません。 また、レイテンシーの面では、ほんの 1 年前には「レイテンシーは最優先事項ではない」と言っていた企業が、UX と収益の両方への影響を理由に、私たちと協力して 10 ミリ秒を短縮しています。レイテンシーが比類のない理由は、a)vllmのようなossライブラリに全力を尽くすか、b)独自の推論スタックをゼロから構築するという2つの極端なアプローチを拒否したためです。約束の地はその中間にあります:さまざまなOSSフレームワークの長所を活用し、その上にアルファを構築しながら、その上にアルファを構築します(例:投機エンジン、カスタムカーネル、分散kvストレージ、Rustでのホットパスの書き換えなど)。 ベーステンは今日で6歳です。もう6人に乾杯。ここからは難しくなるだけだと思います。