Расовий упередженість у інструментах прийняття медичних рішень

Расовий упереджений у медичній опіці може проявлятися у несподіваних місцях. Один із прикладів — клінічні інструменти прийняття рішень, які відіграють важливу роль у тому, як сьогодні тестують, діагностують і лікують пацієнтів.

Ці інструменти містять алгоритми або покрокові процедури, зазвичай комп’ютеризовані, для обчислення таких факторів, як ризик серцевих захворювань, потреба у рентгені грудної клітки та дозування лікарських препаратів. Штучний інтелект може бути використаний для аналізу медичних записів і систем обліку для створення необхідних наборів даних.

Зовні це може здаватися об’єктивним. Але дослідження показали, що аналіз даних, який використовується в цих алгоритмах, може бути упередженим у важливих аспектах щодо певних расових і соціально-економічних груп. Це може мати безліч наслідків у плані кількості та якості медичної допомоги, яку отримують ці групи.

Основні висновки

• Медичні інструменти прийняття рішень відіграють значну роль у тому, як тестують, діагностують і лікують сьогоднішніх пацієнтів.
• На жаль, алгоритми, що використовуються цими інструментами, іноді можуть бути упередженими.
• Використання даних про медичні витрати для оцінки стану пацієнта може неправильно оцінити тяжкість хвороб бідних і меншин, коли низькі медичні витрати відображають відсутність доступу до медичної допомоги, а не відсутність потреби.
• Алгоритм індексу маси тіла (ІМТ), який використовується для діагностики пацієнтів як із надмірною вагою або ожирінням, створив атмосферу стигматизації ваги та недовіри між пацієнтами та лікарями, оскільки більше чорних жінок, ніж іспаномовних або білих, зараз класифікуються як з ожирінням.
• Вхідні дані та результати тепер починають перевірятися на расові, етнічні, дохідні, гендерні та вікові упередження, щоб виявити нерівності та виправити алгоритми.

Расове упередження впливає на найхворіших пацієнтів

У 2019 році дослідження алгоритму, широко використовуваного у лікарнях і страховиках США для розподілу додаткової допомоги у медичному управлінні, показало систематичну дискримінацію щодо чорних людей. Інструмент прийняття рішень рідше направляв чорних пацієнтів, ніж білих, до програм управління складними медичними потребами, коли обидві расові групи були однаково хворі.

Основною причиною упередженості було прив’язання алгоритму ризикових балів до медичних витрат за попередній рік. Передбачалося, що визначення пацієнтів із високими витратами допоможе ідентифікувати тих, хто має найбільші медичні потреби. Однак багато чорних пацієнтів мають менший доступ до медичної допомоги, менше можливостей платити за неї та меншу довіру до медицини, ніж білі, які хворіють так само. У цьому випадку їхні нижчі медичні витрати не точно відображали їхній стан здоров’я.

Програми управління доглядом використовують інтенсивний підхід, наприклад, телефонні дзвінки, домашні візити медсестер і пріоритетність прийомів у лікаря для вирішення складних потреб найхворіших пацієнтів. Доведено, що ці програми покращують результати, зменшують кількість викликів швидкої допомоги та госпіталізацій, а також знижують медичні витрати. Оскільки самі програми є дорогими, їх призначають людям із найвищими ризиковими балами. Техніки оцінки, що дискримінують найхворіших чорних пацієнтів, можуть суттєво підвищити їхній ризик смерті від багатьох хвороб.

Расовий фактор у хворобі нирок

Алгоритми можуть містити упередження і без врахування раси як змінної, але деякі інструменти навмисно використовують расу як критерій. Візьмемо, наприклад, оцінку eGFR, яка визначає стан нирок і використовується для визначення потреби у пересадці нирки.

У дослідженні 1999 року, яке встановлювало критерії для оцінки eGFR, дослідники помітили, що у чорних людей рівень креатиніну (продукт розпаду м’язів) був у середньому вищим, ніж у білих. Вчені припустили, що це пов’язано з більшою м’язовою масою у чорних. Вони відповідно скоригували оцінку, що фактично означало, що чорні повинні мати нижчий бал eGFR, щоб діагностувати кінцеву стадію хвороби нирок. Внаслідок цього чорні мусили чекати, поки їхня хвороба нирок не досягне більш важкої стадії, щоб отримати лікування.

У 2018 році студентка медицини та громадського здоров’я з Університету Вашингтона у Сіетлі помітила, що оцінки eGFR не є точними для діагностики тяжкості хвороби нирок у чорних пацієнтів. Вона боролася за виключення раси з алгоритму і перемогла. У 2020 році медична служба UW погодилася, що використання раси є неефективною змінною і не відповідає науковій строгості у медичних діагностичних інструментах.

Важливо

У 2021 році спільна робоча група Національного фонду нирок і Американського товариства нефрології рекомендувала впровадити новий алгоритм eGFR 2021 CKD EPI для оцінки функції нирок без використання раси як змінної.

Індекс маси тіла та расове упередження

Навіть найпростіший медичний інструмент, що не враховує расу, може відображати соціальні упередження. Наприклад, ІМТ базується на обчисленні, яке множить вагу на зріст. Його використовують для визначення недостатньої ваги, надмірної ваги та ожиріння.

У 1985 році Національні інститути охорони здоров’я прив’язали визначення ожиріння до ІМТ, а у 1998 році експертна група встановила рекомендації на основі ІМТ, які перевели 29 мільйонів американців, раніше класифікованих як з нормальною вагою або просто з надмірною вагою, у категорії надмірної ваги та ожиріння.

Сьогодні за стандартами ІМТ більшість чорних, іспаномовних і білих людей є з надмірною вагою або ожирінням. Але у 2021 році Центри контролю та профілактики захворювань (CDC) опублікували звіт, у якому зазначено, що відсоток американців, яких можна класифікувати як з ожирінням, залежить від расової або етнічної групи.

За даними CDC, розподіл серед дорослих був такий:

• Неіспаномовні чорні: 49,9%
• Іспаномовні: 45,6%
• Неіспаномовні білі: 41,4%
• Неіспаномовні азіати: 16,1%

Якщо розглядати жінок-дорослих, класифікованих як з ожирінням, різниці стають ще більш значущими:

• Неіспаномовні чорні: 57,9%
• Іспаномовні: 45,7%
• Неіспаномовні білі: 39,6%
• Неіспаномовні азіати: 14,5%

Таке маркування великих частин населення як з надмірною вагою або ожирінням створює атмосферу стигматизації ваги та недовіри між пацієнтами і лікарями. Люди з більшою вагою скаржаться, що лікарі не враховують їхні проблеми або занепокоєння, які привели їх до огляду. Замість цього лікарі звинувачують вагу пацієнта у їхніх проблемах зі здоров’ям і пропонують схуднення як рішення. Це сприяє тому, що багато чорних і іспаномовних пацієнтів уникають медичних працівників і, можливо, пропускають можливості запобігти проблемам або виявити їх рано.

Крім того, стає все очевидніше, що надмірна вага або ожиріння не завжди є проблемою здоров’я. Рівні деяких серйозних захворювань, таких як серцеві хвороби, інсульт, цукровий діабет типу 2 і деякі види раку, вищі серед тих, хто має ожиріння. Але в окремих випадках, наприклад, після серцевої операції, надмірна вага або помірне ожиріння (але не морбідне) пов’язане з кращими показниками виживання.

Нові рекомендації щодо ожиріння для канадських лікарів, опубліковані у серпні 2020 року, наголошують, що лікарі повинні припинити покладатися лише на ІМТ при діагностиці пацієнтів. Люди повинні вважатися ожирілими лише тоді, коли їхня вага впливає на фізичне або психічне здоров’я, згідно з новими рекомендаціями. Лікування має бути цілісним і не обмежуватися лише схудненням. У рекомендаціях також зазначено, що «люди, які живуть з ожирінням, стикаються з суттєвою упередженістю та стигматизацією, що сприяє підвищенню захворюваності та смертності незалежно від ваги або індексу маси тіла».

Розгляд ІМТ може бути замінений іншими мірками, наприклад, обхватом талії. А сама концепція ожиріння може бути переосмислена. У січні 2025 року група з 58 дослідників запропонувала нове визначення, яке зосереджує увагу не на ІМТ, а на надлишковому жирові і його впливі на здоров’я. Вони запропонували дві категорії ожиріння: препатологічне, коли у людини є надлишковий жир, але органи функціонують нормально, і клінічне, коли надлишковий жир шкодить тканинам і органам.

Зменшення упереджень у інструментах прийняття рішень

Медичні алгоритми — не єдині алгоритми, які можуть бути упередженими. Як зазначено у статті 2020 року у The New England Journal of Medicine, «Ця проблема не є унікальною для медицини. Наприклад, система кримінального правосуддя використовує інструменти прогнозування рецидиву для керівництва рішеннями щодо розміру застави та термінів ув’язнення». Автори зазначили, що один із широко використовуваних інструментів, «хоч і не використовує расу безпосередньо, використовує багато факторів, що корелюють із расою, і повертає вищі ризикові бали для чорних обвинувачених».

Зростаюче застосування штучного інтелекту (ШІ)—зокрема машинного навчання—також викликає питання щодо упереджень за расовою ознакою, соціально-економічним статусом та іншими факторами. У сфері охорони здоров’я машинне навчання часто базується на електронних медичних записах. Бідні та меншинні пацієнти можуть отримувати розірвану допомогу і бути обстеженими у кількох закладах. Вони частіше потрапляють у навчальні клініки, де введення даних або клінічне мислення може бути менш точним. Також вони можуть не мати доступу до онлайн-порталів для пацієнтів і документування результатів. Внаслідок цього записи цих пацієнтів можуть містити пропущені або помилкові дані. Алгоритми, що керують машинним навчанням, можуть випадково виключати бідних і меншинних пацієнтів із наборів даних і необхідної допомоги.

Добра новина полягає в тому, що за останні кілька років зросла обізнаність щодо упереджень у медичних алгоритмах. Вхідні дані та результати тепер перевіряють на расові, етнічні, дохідні, гендерні та вікові упередження. Медичні професійні товариства у США визнають шкоду, спричинену расовою медициною, і рухаються до виключення врахування раси у клінічних алгоритмах. Коли виявляються нерівності, алгоритми та набори даних можуть бути переглянуті для досягнення більшої об’єктивності.

Що таке алгоритм?

Немає єдиного законодавчого або наукового визначення алгоритму, але Національний інститут стандартів і технологій визначає його як «чітко визначений математичний процес для обчислень; набір правил, які, якщо дотримуватися, дадуть передбачений результат».

Приклад алгоритму

У найширшому розумінні алгоритм — це просто покроковий процес для відповіді на питання або досягнення бажаного результату. Наприклад, рецепт торта є формою алгоритму. У світі фінансів автоматизована торгова система також є прикладом.

Що таке машинне навчання?

IBM, піонер у цій галузі, визначає машинне навчання як «підмножину штучного інтелекту (ШІ), зосереджену на алгоритмах, які можуть “вчитися” зразкам навчальних даних і, згодом, робити точні висновки про нові дані».

Підсумок

Незважаючи на їхній вигляд безсторонньої об’єктивності, алгоритми, які використовують медичні фахівці для прийняття певних рішень, можуть бути схильними до упереджень за расовою ознакою, класом і іншими факторами. Тому алгоритми не можна просто приймати на віру, їх потрібно піддавати ретельному аналізу. Як зазначено у статті 2021 року у MIT Technology Review, «Термін “алгоритм”, незалежно від його визначення, не повинен бути щитом, що звільняє людей, які розробили і впровадили будь-яку систему, від відповідальності за наслідки її використання».