Представляємо режим 'gpt-oss Pro Mode'! В основному o3 Pro, але для нових моделей OpenAI з відкритим вихідним кодом :) Режим Pro об'єднує до 10 екземплярів нової моделі OpenAI GPT-OSS, що дозволяє йому давати кращу відповідь, ніж міг би створити один екземпляр окремо! Відкритий вихідний код, посилання тут:

На Macbook M4 Max GPT-OSS 120B: Висота 48 ток/с 35 ток/с нормальний 23 ток/с низька потужність Дуже гарні виходи, нова модель на вибір

Голосовий агент на базі gpt-oss. Працює локально на моєму macBook. Демонстрація записана в Waymo з вимкненим WiFi. Я все ще перебуваю на своєму голосовому ШІ в космічній грі, очевидно. Посилання на код нижче. Для розмовного голосового штучного інтелекту вам потрібно встановити поведінку міркувань gpt-oss на «низьку». (За замовчуванням використовується "medium".) Нотатки про те, як це зробити, і шаблон jinja, який ви можете використовувати, знаходяться в репозиторії. LLM у демонстраційному відео — це велика, 120B версія gpt-oss. Для цього, звичайно, можна використовувати меншу, 20-В-модель. Але OpenAI дійсно зробила круту річ тут, розробивши модель 120B для роботи в «всього» 80 ГБ відеопам'яті. І висновок llama.cpp mlx швидкий: ~250 мс TTFT. Запуск великої моделі на пристрої здається викривленням у часі в майбутнє штучного інтелекту.

Чат-додаток OpenAI GPT-OSS з Thinking-UI (100% локальний):

Минуло лише трохи більше 19 годин з того часу, як OpenAI нарешті випустила gpt-oss, повністю відкриту модель. І люди вже отримують шалений креатив і з ним результати. 10 диких прикладів: