Tether запускає медичний штучний інтелект на пристрої, який перевершує моделі Google у тестах на бенчмарках

Група досліджень штучного інтелекту Tether випустила QVAC MedPsy-1.7B та MedPsy-4B, спеціалізовані текстові медичні мовні моделі, створені для роботи безпосередньо на низькоенергетичних пристроях, таких як смартфони та носимі гаджети.

За словами команди, ці моделі перевищують продуктивність деяких великих медичних систем штучного інтелекту, включаючи системи Google, за різними показниками, і демонструють схожу ефективність з набагато більшими системами у медичному мисленні та знаннях, при цьому зберігаючи повну локальну обробку та конфіденційність.

Традиційні системи штучного інтелекту у сфері охорони здоров’я покладаються на великі хмарні моделі, що вимагає передачі чутливих даних, таких як записи пацієнтів та діагностичні дані, на зовнішні сервери, створюючи ризики для приватності та відповідності нормам. Ця архітектура все більше піддається тиску, оскільки сектор медичного штучного інтелекту прогнозується зросте з приблизно 36 мільярдів доларів сьогодні до понад 500 мільярдів доларів до 2033 року.

Команда Tether заявляє, що QVAC MedPsy кидає виклик парадигмі масштабування, зосереджуючись на ефективності.

Модель обсягом 1,7 мільярда є дружньою до смартфонів. Ця міні-версія набрала 62,62 балів за сімома стандартними медичними тестами, перевищуючи показник MedGemma-1.5-4B-it від Google більш ніж на 11 пунктів, незважаючи на те, що її розмір менший більш ніж удвічі, повідомляють дослідники. Вона також перевищила показники MedGemma 27B у реальних клінічних завданнях, таких як HealthBench Hard.

Версія 4B досягла 70,54 балів у тих самих тестах, перевищуючи MedGemma-27B, модель майже у сім разів більшу. Вона показала сильні результати у HealthBench, HealthBench Hard та MedXpertQA.

Ці результати охоплюють вісім наборів тестів, включаючи MedQA, MedMCQA, MMLU Health, PubMedQA, AfriMedQA, MedXpertQA та HealthBench, які базуються на поетапному медичному навчанні з поєднанням нагляду, курованих даних клінічного мислення та підкріплювального навчання.

“З QVAC MedPsy нашою метою було покращення ефективності на рівні моделі, а не збільшення її розміру,” прокоментував випуск генеральний директор Tether Паоло Ардойно.

Ці моделі не лише розумні, а й дуже практичні, як зазначають дослідники. Вони швидко реагують короткими, але все ще повними відповідями, що економить час і заряд батареї. Вони доступні у зручних стиснених форматах, які легко поміщаються на мобільних пристроях без значної втрати якості.

Технічно, модель 4B генерує відповіді приблизно за 909 токенів, тоді як подібні системи — близько 2 953, що зменшує обсяг виходу у 3,2 рази. Модель 1,7B в середньому використовує близько 1 110 токенів проти 1 901, зменшуючи обсяг виводу у 1,7 рази.

Обидві моделі випускаються у кількованому форматі GGUF, причому стиснені версії важать приблизно 1,2 ГБ і 2,6 ГБ відповідно.

“Ця комбінація має значення, оскільки вона безпосередньо зменшує вимоги до обчислень, затримку та вартість. Це дозволяє моделі працювати локально на стандартному обладнанні замість залежності від віддаленої інфраструктури,” додав Ардойно. “У сфері охорони здоров’я це повністю змінює обмеження; ви можете запускати медичне мислення там, де вже є дані, всередині системи лікарні або на пристрої, без передачі чутливої інформації через хмару або очікування зовнішньої обробки.”

Моделі наразі доступні безкоштовно за відкритою ліцензією на платформі Hugging Face.

                    **Розкриття:** Ця стаття була відредагована Вівіан Нгуєн. Для отримання додаткової інформації про те, як ми створюємо та перевіряємо контент, дивіться нашу редакційну політику.