През последните четири месеца Амбър Рецлоф, медицинска сестра в отделение за интензивни грижи във Флорида, е поискала да работи 50 конкретни 12-часови дежурства. No през повечето време тя казва, че софтуерът за планиране на графици на нейната болница, задвижван от Palantir, я е разпределял за различни дежурства, като често я е слагал в последователни поредни дни и я е оставяла психически изтощена. Рецлоф не очаква винаги да получава смените, които иска, но според нейните изчисления инструментът се справя много по-зле с зачитането на нейните предпочитания, отколкото мениджърите, когато са съставяли графиците на ръка.
Опитът на Рецлоф отразява този на други медицински сестри в HCA Healthcare, най-голямата верига болници в САЩ. От 2023 г. насам HCA е въвела инструмент за планиране с изкуствен интелект, разработен съвместно с Palantir и наречен Timpani, в около 130 от своите 190 локации. Болницата на Рецлоф го е внедрила преди близо две години.
„Никой не е доволен от Timpani“, казва Рецлоф, повтаряйки казаното от още пет медицински сестри от други локации в интервюта за WIRED. „Всеки се оплаква през цялото време.“ Други сочени за служители на HCA изразяват подобни недоволства от инструмента в платформи като Reddit.
Медицинските сестри, които разговаряха с WIRED, твърдят, че Timpani потенциално е навредил на пациентите, тъй като е причинил недостиг на персонал в екипите за грижи, дисбаланс и изтощение. Работейки с минимален контрол, те казва, че инструментът рутинно планира твърде малко сестри или недостатъчно опитни ветерани по време на смените, особено в неделите. Той също така често пренебрегва посочените от сестрите предпочитания за разреждане на смените, работа през нощта и през уикенда или ползване на конкретни почивни дни.
В резултат на това сестрите казват, че са принудени да губят повече време в опити да разменят смени или да обжалват графиците си, отколкото преди появата на софтуера. Те също така смятат, че колегите им все по-често отсъстват непланирано, използвайки платен или неплатен отпуск, за да пропускат дежурства, въпреки че правенето на това повече от няколко пъти годишно ги поставя под риск от уволнение.
Рецлоф, на 34 години, синдикален лидер от National Nurses United с десетгодишен опит до леглото на пациента, си спомня скорошни смени, в които и четиримата ѝ колеги са били начинаещи. Тъй като е била единствената старша сестра на дежурство, Рецлоф казва, че е трябвало да забави грижите за най-тежко болните пациенти, за да наставлява новодошлите при по-леките случаи.
HCA „оставя AI да диктува“, казва Рецлоф. „Пренебрегваме клиничната преценка и човешкия елемент в здравеопазването заради едно приложение.“
Преди това мениджърите са управлявали планирането ръчно и обикновено са се консултирали със сестрите предварително, когато не са отчитали заявките им. С Timpani сестрите съобщават, че трябва да правят алтернативни уговорки в по-кратки срокове и отчитат увеличение на временните пренасочвания към различни екипи. „Не мога да си спомня никакви проблеми преди“, казва медицинска сестра от Тексас, която не членува в синдикат и е поискала да остане анонимна от страх от отмъщение от страна на HCA. „Всичко излизаше навреме.“
Харлоу Съмърфорд, говорител на HCA, казва, че ръководителите на сестринските екипи, а не Timpani, вземат крайните решения за графиците. Твърденията, че инструментът „е проектиран да намали персонала за сметка на грижите за пациентите“, са дезинформиращи, добавя той.
Целта на HCA е „да разполага с правилните болногледачи, с правилните умения и опит, налични да посрещнат нуждите на нашите пациенти, като същевременно се съобразява с предпочитанията за график на нашите колеги“, казва Съмърфорд, отбелязвайки, че компанията продължава да подобрява Timpani въз основа на обратната връзка от сестрите.
„Третирани нечестно“
Средно Timpani планира медицинските сестри за 1 процент от поисканите от тях почивни дни, известни като червени дни, според HCA. Лий Баркър, сестра в HCA в Мисури, казва, че макар това число да изглежда сравнително ниско, получаването на дежурство в червени дни е било нещо нечувано преди това в тяхното заведение.
Но по-малко от година след като ръководството въвежда Timpani, Баркър казва, че вече практически всяка сестра е била разпределяна да работи в ден, в който е трябвало да почива. Баркър е отложил отдавна планиран преглед при лекар за хронично заболяване, след като се е борил да размени разпределен червен ден. „Чувстваме се така, сякаш ни ритат, докато вече сме на земята“, казва Баркър.
Оплакванията относно Timpani са подтикнали ръководството на HCA да направи незначителни актуализации на софтуера, но проблемите все още персистират, според сестри от целите САЩ. Лидерите на National Nurses United, синдикатът, представляващ около 10 000 от 100 000-те сестри на HCA, казват, че компанията е отхвърлила исканията им за информация относно технологията.
Някои предполагаеми подробности излязоха наяве през юли, когато бивш мениджър по анализа на данни в HCA, Анжелик Ръсел, съди компанията за това, че уж е била уволнена в знак на отмъщение, задето е изразила притеснения относно Timpani. Тя обвини HCA в рутинно изтриване на данни, които инструментът използва за създаване на графици, което е попречило на одита на това колко добре работи той, и заяви, че това може да е нарушило редица закони за здравеопазването. (HCA все още не е отговорила официално в съда, а Ръсел отказа коментар.)
Timpani е изграден върху Palantir Foundry, софтуерна платформа за съхранение и анализ на различни данни от цялостната дейност на една компания. Наречен на музикалния инструмент, поддържащ ритъма (тимпани), той използва алгоритмични прогнози за обема на пациентите и нуждите от персонал за автоматично съставяне на графици на сестрите. Когато Timpani стартира през 2023 г., ръководителят на иновациите в HCA Майкъл Шлосер заяви пред WIRED, че това ще спести време и пари, както и ще елиминира фаворитизма при разпределянето на смените.
Шлосер заяви в публикация през изминалия юли, че Timpani драстично е намалил броя на часовете, които мениджърите прекарват в планиране всеки месец, намалил е зависимостта от скъпи сестри на договор за запълване на смените и е увеличил задържането на персонал. „Ефективността идва от това, че AI генерира по-добри първоначални графици“, написа той, добавяйки, че над 98 процента „включват микс от умения и опит“.
Политиката на HCA за отговорен изкуствен интелект набляга на защитата на хората от „физически“ или „емоционални“ вреди, а ръководителите казаха, че са разговаряли с медицинските сестри и са приложили емпатичен подход при разработването на Timpani. В маркетинговите си материали компанията показва медицински сестри, хвалещи инструмента за това, че е лесен за използване и им спестява време. Въпреки това други сестри в HCA казват, че се чувствуват пренебрегнати и незачетени, и те не са единствените здравни работници, които са повдигнали притеснения относно навлизането на Palantir в техния бранш.
Rayus Radiology, голяма верига за образно диагностициране в САЩ, започна да получава оплаквания за грешки в графиците по-рано тази година, след като въведе инструмент, също изграден върху Palantir Foundry, според вътрешни документи, прегледани от WIRED. Софтуерът е проектиран да попълва полетата за график от назначенията на лекарите. No в редица случаи той е свързвал заявките с грешни профили на пациенти, изброявал е изследвания или сканирания, които не съответстват на назначенията, или е измислял лични данни за пациентите. Служителите по планиране на графици, които работят в Rayus, подозират, че нестандартните форми, нечетливият почерк и недостатъчният човешки преглед са допринесли за проблемите.
Говорителят на Rayus Кит Крансър казва, че „общите характеристики“ не отразяват справедливо нейните „процеси, гаранции или ангажираност към безопасни, точни и навременни грижи за пациентите“. Той добавя, че Rayus използва технологии, „за да подпомага, а не да замества подходящата човешка преценка и надзор“.
Говорител на Palantir отказа да коментира с името си, но компанията описва софтуера си като такъв, който просто представя информация по по-полезен начин, и подчертава, че клиентите носят отговорност за данните, политиките и вземането на решения.
Безпокойство от Palantir
Продажбите на Palantir почти се удвоиха наскоро до близо 2 милиарда долара на тримесечие, тъй като организациите търсят нейната помощ за анализ на данни и автоматизиране на задачи. Нарастващите разходи и недостигът на персонал направиха доставчиците на здравни грижи особено ентусиазирани клиенти. Cleveland Clinic признава, че софтуерът на Palantir е увеличил капацитета за пациенти чрез прогнозиране на изписванията от спешното отделение и замяна на ръчната координация.
Но Palantir среща и отпор от защитници на гражданските права относно работата си в областта на отбраната и имиграцията, както и заради публично заявените политически възгледи на съоснователите Питър Тийл и Алекс Карп. В Обединеното кралство Palantir спечели договор за 440 милиона долара с Националната здравна служба (NHS) в опит да съкрати времето за чакане за прегледи, но медицински сестри и активисти поискаха той да бъде отменен поради притеснения за поверителността и сигурността.
В HCA някои медицински сестри също искат отстраняването на Palantir. Въпреки че проучванията показват, че базираното на изкуствен интелект планиране на графика има потенциал, сестрите казват, че Timpani се е превърнал в източник на безпокойство. „Всеки проверява веднага и всеки месец чуваш: „Човече, защо ме разпредели така?““, казва Баркър.
Първоначално някои местни мениджъри можеха да редактират графиците на Timpani. Сега медицинските сестри трябва да сигнализират за проблемни смени на централизиран екип в централата на HCA в Нашвил, който разглежда жалбите без директна комуникация или възможност за обяснение, според думите на сестрите. Ако жалбата бъде отхвърлена, те се опитват да разменят смени, но шансовете за успех са едва около 50 процента, твърдят Баркър и Ретцлоф.
Баркър, който е лидер в National Nurses United в психиатричен център на HCA, твърди, че няколко колеги са напуснали заради Timpani и че трудовите злополуки са се увеличили през първите 12 месеца от въвеждането на инструмента. Синдикатът на центъра, представляващ около 500 медицински сестри, подаде жалба срещу софтуера, аргументирайки се, че HCA не зачита в достатъчна степен предпочитанията за разпределение на графиците. Въпросът най-вероятно отива към арбитраж.
В първите дни на Timpani Шлосер от HCA призна, че здравните работници могат да възприемат технологиите бавно, „защото държат живота на хората в ръцете си“. Но той си представяше бъдеще, в което медицинските сестри на предна линия активно ще натискат за повече инструменти: „Тогава ще бъде забавно.“ Три години по-късно някои медицински сестри виждат малко причини за радост.