Tether запускає мобільний локальний медичний AI: 1,7-мільярдна мала модель перевищує у 16 разів більшу модель, повністю позбавляючись залежності від хмари

Згідно з моніторингом Beating, команда досліджень штучного інтелекту Tether, емітента USDT, сьогодні оголосила про запуск серії медичних мовних моделей QVAC MedPsy, спеціально розроблених для локалізованого медичного ШІ, призначеного для смартфонів, носимих пристроїв та інших пристроїв з низькою обчислювальною потужністю. Не потрібно залежати від хмарних серверів для роботи, завдяки ефективній архітектурі досягається продуктивність, що значно перевищує розмір моделі: версія з 1,7 мільярда параметрів у середньому набирає 62,62 балів за шість закритих медичних тестів, що на 11,42 бали більше за Google MedGemma-4B, і перевершує MedGemma-27B з майже у 16 разів більшим числом параметрів у реальних клінічних сценаріях, таких як HealthBench Hard; версія з 4 мільярдами параметрів має ще вищий бал — 70,54, повністю перевищуючи більш великі моделі, одночасно значно зменшуючи споживання токенів для обчислень (до 3,2 разів), і випущена у форматі кількісного GGUF (приблизно 1,2 ГБ для 1,7 млрд), що підходить для мобільних та крайових розгортань.

Це випуск кидає виклик традиційній ідеї «більша модель = краща продуктивність», зосереджуючись на підвищенні ефективності через поетапне медичне додаткове навчання (наглядове навчання, клінічні дані для розуміння та підкріплене навчання), що забезпечує справжню локальну приватність та низьку затримку при обчисленнях. Генеральний директор Tether Паоло Ардойно зазначив, що це дозволяє медичному ШІ обробляти чутливі дані безпосередньо в лікарнях або на пристроях, без передачі до хмари, що знижує витрати, затримки та ризики приватності, і має потенціал для переосмислення інфраструктури медичного ШІ, сприяючи локалізації розгортання у світі, особливо в країнах з недостатнім розвитком.