متحمس لمشاركة أننا جمعنا جولة تأسيسية بقيمة 7.3 مليون دولار! "كيف ستبدو هندسة LLM في غضون بضع سنوات؟" بدأت أنا وفيراج في بناء TensorZero العام الماضي بعد أن طرحت أنفسنا هذا السؤال. اليوم ، نقوم ببناء مكدس مفتوح المصدر لتطبيقات LLM من الدرجة الصناعية. اعتمدت فرق تتراوح من الشركات الناشئة في مجال الذكاء الاصطناعي إلى الشركات العامة (وحتى أحد أكبر البنوك الأوروبية) TensorZero لتشغيل تطبيقات LLM من الجيل التالي. تتمثل رؤيتنا في أتمتة الكثير من هندسة LLM. نحن نضع الأساس لذلك من خلال TensorZero مفتوح المصدر. الأهم من ذلك كله ، أننا محظوظون بشكل لا يصدق لانضمامنا إلى أعضاء فريقنا الاستثنائيين آرون (مشرف مترجم Rust ، Svix ، AWS) ، أندرو (كولومبيا ما بعد الدكتوراه ، دكتوراه أكسفورد) ، وآلان (دكتوراه في جامعة كارميجي ، نائب الرئيس في JPM الذكاء الاصطناعي للأبحاث) ، وسرعان ما من قبل Shuyang (موظفو SWE في LLM infra في Google ، Palantir) وكول (Cognition / Windsurf ، ستانفورد). نحن ممتنون أيضا لعشرات المطورين الذين قدموا مساهمات مفتوحة المصدر (ونحن على وشك تجاوز 10 آلاف نجوم GitHub!). اقرأ المزيد عن تاريخنا ورؤيتنا في منشور المدونة أدناه:
TensorZero
TensorZeroمنذ 16 ساعةً
الإعلان عن جولتنا الأولية بقيمة 7.3 مليون دولار! يتيح TensorZero دولاب الموازنة للبيانات والتعلم لتحسين تطبيقات LLM: حلقة تغذية مرتدة تحول مقاييس الإنتاج والتعليقات البشرية إلى نماذج ووكلاء أكثر ذكاء وأسرع وأرخص. اليوم ، نقدم مكدسا مفتوح المصدر لبناء تطبيقات LLM من الدرجة الصناعية التي توحد بوابة LLM وقابلية الملاحظة والتحسين والتقييم والتجريب. يمكنك أن تأخذ ما تحتاجه ، وتبنيه بشكل تدريجي ، واستكماله بأدوات أخرى. بمرور الوقت ، تمكنك هذه المكونات من إعداد حلقة ملاحظات مبدئية لتطبيق LLM الخاص بك. ترتبط البيانات التي تجمعها بمؤشرات الأداء الرئيسية الخاصة بك والمنافذ عبر موفري النماذج وتجمعها في ميزة تنافسية لعملك. تتمثل رؤيتنا في أتمتة الكثير من هندسة LLM. نحن نضع الأساس لذلك من خلال TensorZero مفتوح المصدر. على سبيل المثال ، من خلال نموذج البيانات الخاص بنا وسير العمل الشامل ، سنكون قادرين على اقتراح متغيرات جديدة بشكل استباقي (على سبيل المثال نموذج جديد مضبوط) ، واختباره على البيانات التاريخية (على سبيل المثال ، باستخدام تقنيات متنوعة من التعلم المعزز) ، وتمكين اختبار A / B التدريجي المباشر ، وتكرار العملية. باستخدام أداة مثل هذه ، يمكن للمهندسين التركيز على تدفقات العمل ذات المستوى الأعلى - تحديد البيانات التي تدخل وتخرج من هذه النماذج ، وكيفية قياس النجاح ، والسلوكيات التي يجب تحفيزها وتثبيطها ، وما إلى ذلك - وترك تفاصيل التنفيذ منخفضة المستوى لنظام آلي. هذا هو المستقبل الذي نراه لهندسة LLM كتخصص. في الآونة الأخيرة ، وصل TensorZero إلى المستودع الشائع #1 للأسبوع على مستوى العالم على GitHub (ونحن على وشك عبور 10 آلاف نجمة). نحن محظوظون لأننا تلقينا مساهمات من عشرات المطورين في جميع أنحاء العالم ، ومن المثير أن نرى TensorZero تعمل بالفعل على تشغيل منتجات LLM المتطورة في الشركات الناشئة في مجال الذكاء الاصطناعي الحدودي والمؤسسات الكبيرة ، بما في ذلك أحد أكبر البنوك في أوروبا. يسعدنا أن نشارك أننا جمعنا 7.3 مليون دولار لتسريع جهود TensorZero لبناء بنية تحتية مفتوحة المصدر هي الأفضل في فئتها لمهندسي LLM (نحن نوظف!). قاد الجولة @FirstMarkCap بمشاركة @BessemerVP و @bedrock و @DRWTrading و @coalitionvc وعشرات الملائكة الاستراتيجية.
‏‎8.61‏K