Експерти зі штучного інтелекту обговорюють, як інтегрувати надійний штучний інтелект в охорону здоров'я, чому міждисциплінарна співпраця є критично важливою, а також потенціал генеративного штучного інтелекту в дослідженнях.
Фейфей Лі та Ллойд Майнор виступили з вступним словом на першому симпозіумі RAISE Health у Медичній школі Стенфордського університету 14 травня. Стів Фіш
Більшість людей, захоплених штучним інтелектом, переживали своєрідний момент прозріння, відкриваючи свій розум для світу можливостей. На першому симпозіумі RAISE Health 14 травня Ллойд Майнор, доктор медичних наук, декан медичної школи Стенфордського університету та віце-президент з медичних питань Стенфордського університету, поділився своєю точкою зору.
Коли одного допитливого підлітка попросили підсумувати свої висновки щодо внутрішнього вуха, він звернувся до генеративного штучного інтелекту. «Я запитав: «Що таке синдром дегісценції верхнього каналу?» — розповів Майнор майже 4000 учасників симпозіуму. За лічені секунди з’явилося кілька абзаців.
«Вони гарні, справді гарні», – сказав він. «Те, що цю інформацію було зібрано в лаконічний, загалом точний та чітко визначений за пріоритетами опис хвороби. Це досить вражаюче».
Багато хто поділяв захоплення Майнора щодо південного заходу, який став результатом ініціативи RAISE Health – проєкту, започаткованого Медичною школою Стенфордського університету та Стенфордським інститутом штучного інтелекту, орієнтованого на людину (HAI), для керівництва відповідальним використанням штучного інтелекту в біомедичних дослідженнях, освіті та догляді за пацієнтами. Доповідачі розглянули, що означає впровадження штучного інтелекту в медицину таким чином, щоб це було не лише корисно для лікарів та вчених, але й прозоро, справедливо та рівноправно для пацієнтів.
«Ми вважаємо, що ця технологія розширює людські можливості», – сказала Фей-Фей Лі, професорка інформатики Стенфордської школи інженерії, директорка проекту RAISE Health with Minor та співдиректорка HAI. Покоління за поколінням можуть з’являтися нові технології: від нових молекулярних послідовностей антибіотиків до картографування біорізноманіття та виявлення прихованих частин фундаментальної біології, штучний інтелект прискорює наукові відкриття. Але не все це корисно. «Усі ці застосування можуть мати непередбачувані наслідки, і нам потрібні вчені-інформатики, які відповідально розробляють та впроваджують [штучний інтелект], працюючи з різними зацікавленими сторонами, від лікарів та етик… до експертів з безпеки та інших», – каже вона. «Такі ініціативи, як RAISE Health, демонструють нашу відданість цьому».
Об’єднання трьох підрозділів Стенфордської медицини — Медичної школи, Стенфордської служби охорони здоров’я та Школи дитячої медицини Стенфордського університету — та її зв’язки з іншими частинами Стенфордського університету поставили його в становище, коли експерти борються з розвитком штучного інтелекту, питаннями управління та інтеграції в галузі охорони здоров’я та медицини. Медицина, співала пісня.
«Ми маємо гарні позиції, щоб стати піонерами в розробці та відповідальному впровадженні штучного інтелекту, від фундаментальних біологічних відкриттів до вдосконалення розробки ліків та підвищення ефективності процесів клінічних випробувань, аж до фактичного надання медичних послуг. Охорона здоров’я. Спосіб, у який організована система охорони здоров’я», – сказав він.
Кілька доповідачів наголосили на простій концепції: зосередьтеся на користувачеві (у цьому випадку на пацієнті чи лікарі), і все інше буде зроблено за ним. «Це ставить пацієнта в центр усього, що ми робимо», – сказала доктор Ліза Леманн, директор з біоетики в лікарні Brigham and Women's. «Нам потрібно враховувати їхні потреби та пріоритети».
Зліва направо: ведуча STAT News Мохана Равіндранатх; Джессіка Пітер Лі з Microsoft Research; Сільвія Плеврітіс, професорка біомедичної науки про дані, обговорює роль штучного інтелекту в медичних дослідженнях. Стів Фіш
Доповідачі на панелі, серед яких були Леманн, медичний біоетик Стенфордського університету Мілдред Чо, доктор медичних наук, та головний клінічний директор Google Майкл Хауелл, доктор медичних наук, відзначили складність лікарняних систем, наголосивши на необхідності розуміння їхнього призначення перед будь-яким втручанням. Впроваджуйте його та забезпечте, щоб усі розроблені системи були інклюзивними та прислухалися до людей, яким вони покликані допомогти.
Одним із ключових факторів є прозорість: вона чітко показує, звідки беруться дані, що використовуються для навчання алгоритму, яка початкова мета алгоритму та чи майбутні дані пацієнтів продовжуватимуть допомагати алгоритму навчатися, серед інших факторів.
«Спроба передбачити етичні проблеми до того, як вони стануть серйозними [означає] знайти ідеальну золоту середину, де ви знаєте достатньо про технологію, щоб мати певну впевненість у ній, але не раніше, ніж [проблема] пошириться далі та вирішить її раніше», – сказав Дентон Чар, кандидат медичних наук, доцент кафедри дитячої анестезіології, періопераційної медицини та медицини болю. За його словами, одним із ключових кроків є визначення всіх зацікавлених сторін, на яких може вплинути технологія, та визначення того, як вони самі хотіли б відповісти на ці питання.
Джессі Еренфельд, доктор медичних наук, президент Американської медичної асоціації, обговорює чотири фактори, що стимулюють впровадження будь-якого цифрового інструменту охорони здоров'я, включаючи ті, що працюють на основі штучного інтелекту. Чи він ефективний? Чи працюватиме він у моєму закладі? Хто платить? Хто несе відповідальність?
Майкл Пфеффер, доктор медичних наук, головний директор з інформаційних технологій Stanford Health Care, навів нещодавній приклад, коли багато проблем було протестовано серед медсестер у лікарнях Стенфорда. Клініцисти працюють за допомогою великих мовних моделей, які надають початкові анотації для вхідних повідомлень пацієнтів. Хоча проєкт не ідеальний, лікарі, які допомагали розробляти технологію, повідомляють, що модель полегшує їхнє робоче навантаження.
«Ми завжди зосереджуємося на трьох важливих речах: безпеці, ефективності та інклюзивності. Ми лікарі. Ми даємо клятву «не завдавати шкоди», — сказала Ніна Васан, доктор медичних наук, клінічний доцент кафедри психіатрії та поведінкових наук, яка приєдналася до групи Чар і Пфеффер. «Це має бути перший спосіб оцінити ці інструменти».
Нігам Шах, магістр медичних наук, доктор філософії, професор медицини та біомедичної науки про дані, розпочав дискусію з шокуючої статистики, незважаючи на справедливе попередження аудиторії. «Я говорю загальними термінами та цифрами, і іноді вони, як правило, дуже прямі», – сказав він.
За словами Шаха, успіх ШІ залежить від нашої здатності його масштабувати. «Проведення належного наукового дослідження моделі займає близько 10 років, і якби кожна зі 123 програм стипендій та резидентур захотіла протестувати та розгорнути модель на такому рівні точності, було б дуже важко провести правильну наукову роботу, оскільки ми зараз організовуємо наші зусилля та [тестуємо]]. Це коштувало б 138 мільярдів доларів, щоб переконатися, що кожен з наших сайтів працює правильно», – сказав Шах. «Ми не можемо собі цього дозволити. Тому нам потрібно знайти спосіб розширення, і нам потрібно розширюватися та робити якісну науку. Навички точності знаходяться в одному місці, а навички масштабування – в іншому, тому нам знадобиться таке партнерство».
Заступник декана Юань Ешлі та Мілдред Чо (реєстрація) відвідали семінар RAISE Health. Стів Фіш
Деякі доповідачі на симпозіумі заявили, що цього можна досягти завдяки державно-приватним партнерствам, таким як нещодавній Указ Білого дому про безпечний, надійний та надійний розвиток і використання штучного інтелекту та Консорціум зі штучного інтелекту в охороні здоров'я (CHAI).
«Найбільший потенціал має державно-приватне партнерство між академічними колами, приватним сектором та державним сектором», – сказала Лора Адамс, старший радник Національної академії медицини. Вона зазначила, що уряд може забезпечити суспільну довіру, академічні медичні центри можуть забезпечити легітимність, а технічну експертизу та комп’ютерний час може забезпечити приватний сектор. «Ми всі кращі за будь-кого з нас, і ми визнаємо, що… ми не можемо молитися про реалізацію потенціалу [штучного інтелекту], якщо не розуміємо, як взаємодіяти один з одним».
Кілька доповідачів заявили, що штучний інтелект також впливає на дослідження, незалежно від того, чи використовують його вчені для вивчення біологічних догм, прогнозування нових послідовностей і структур синтетичних молекул для підтримки нових методів лікування, чи навіть для допомоги в узагальненні чи написанні наукових статей.
«Це можливість побачити невідоме», – сказала Джессіка Мега, доктор медичних наук, кардіолог Медичної школи Стенфордського університету та співзасновниця Verily від Alphabet. Мега згадала гіперспектральну візуалізацію, яка фіксує особливості зображення, невидимі для людського ока. Ідея полягає у використанні штучного інтелекту для виявлення закономірностей у патологічних препаратах, які люди не бачать, але які вказують на захворювання. «Я закликаю людей прийняти невідоме. Я думаю, що кожен тут знає когось із певним захворюванням, кому потрібно щось більше, ніж те, що ми можемо надати сьогодні», – сказав Мехія.
Учасники дискусії також погодилися, що системи штучного інтелекту забезпечать нові способи виявлення та боротьби з упередженим прийняттям рішень, незалежно від того, чи приймаються вони людьми, чи штучним інтелектом, з можливістю визначення джерела упередженості.
«Здоров’я – це більше, ніж просто медична допомога», – погодилися кілька учасників дискусії. Доповідачі наголосили, що дослідники часто не враховують соціальні детермінанти здоров’я, такі як соціально-економічний статус, поштовий індекс, рівень освіти, раса та етнічна приналежність, під час збору інклюзивних даних та набору учасників для досліджень. «Штучний інтелект ефективний настільки, наскільки ефективні дані, на яких навчається модель», – сказала Мішель Вільямс, професор епідеміології Гарвардського університету та доцент кафедри епідеміології та здоров’я населення Медичної школи Стенфордського університету. «Якщо ми робимо те, до чого прагнемо. покращуємо результати у сфері охорони здоров’я та усуваємо нерівність, ми повинні забезпечити збір високоякісних даних про поведінку людини, соціальне та природне середовище».
Наталі Пейджлер, доктор медичних наук, клінічний професор педіатрії та медицини, сказала, що агреговані дані про рак часто виключають дані про вагітних жінок, що створює неминучі упередження в моделях та посилює існуючу нерівність в охороні здоров'я.
Доктор Девід Магнус, професор педіатрії та медицини, сказав, що, як і будь-яка нова технологія, штучний інтелект може або покращити ситуацію в багатьох аспектах, або погіршити її. Ризик, за словами Магнуса, полягає в тому, що системи штучного інтелекту дізнаються про нерівні наслідки для здоров'я, зумовлені соціальними детермінантами здоров'я, та підсилюватимуть ці результати своїми результатами. «Штучний інтелект – це дзеркало, яке відображає суспільство, в якому ми живемо», – сказав він. «Я сподіваюся, що щоразу, коли у нас є можливість пролити світло на якусь проблему – тримати дзеркало перед собою – це служитиме мотивацією для покращення ситуації».
Якщо ви не змогли відвідати семінар RAISE Health, запис сесії можна знайти тут.
Медична школа Стенфордського університету – це інтегрована академічна система охорони здоров’я, що складається з Медичної школи Стенфордського університету та систем надання медичної допомоги дорослим та дітям. Разом вони реалізують весь потенціал біомедицини завдяки спільним дослідженням, освіті та клінічному догляду за пацієнтами. Для отримання додаткової інформації відвідайте med.stanford.edu.
Нова модель штучного інтелекту допомагає лікарям та медсестрам у Стенфордській лікарні працювати разом для покращення догляду за пацієнтами.
Час публікації: 19 липня 2024 р.