Колишній технічний директор OpenAI кидає виклик старій компанії: нова модель відповідає за 200 мс, перевершуючи GPT-у в реальному часі

Згідно з моніторингом Dongcha Beating, лабораторія Thinking Machines, заснована колишнім технічним директором OpenAI Мірою Мураті, випустила попередній перегляд досліджень свого «інтерактивного моделі». Нова система відмовляється від традиційного підходу з’єднання голосу та тексту за допомогою зовнішніх інструментів, натомість нативно обробляє взаємодії в реальному часі з аудіо та відео. Модель може безперервно отримувати інформацію з «мікро-перервою» тривалістю 200 мс, що дозволяє одночасно слухати, дивитися та говорити, підтримуючи при цьому реальні перерви від користувачів. Перша демонстраційна модель, TML-Interaction-Small, використовує архітектуру MoE з 276 мільярдами параметрів, активуючи одночасно 12 мільярдів параметрів. Щоб вирішити недолік традиційної великої моделі «зупинки сприйняття під час генерації відповідей», команда розробників розділила систему на фронтенд і бекенд: фронтенд-модель призначена для підтримки безперервного діалогу, тоді як бекенд-модель одночасно виконує складне логічне обґрунтування, пошук у вебі або генерацію інтерфейсу користувача, безперервно передаючи результати назад до фронтенду. Ця архітектура безпосередньо перевищує швидкість відповіді своїх конкурентів з попередньої компанії. Офіційні дані показують, що затримка голосового обертання становить лише 0,40 секунд, досягаючи балу 77,8 у FD-bench V1.5, при цьому обидва основні показники перевищують GPT-realtime-2.0 та Gemini 3.1 Flash Live. Однак, безперервна обробка аудіо та відео може швидко виснажити ємність контексту, а низька затримка дуже залежить від стану мережі. Thinking Machines планує відкрити обмежений попередній перегляд у найближчі місяці.