През последните четири месеца Амбър Рецлоф, медицинска сестра в отделение за интензивни грижи във Флорида, е поискала да работи 50 конкретни 12-часови дежурства. Но през повече от половината от времето тя казва, че софтуерът за планиране на графици на нейната болница, задвижван от Palantir, я е разпределял за различни дежурства, като често я е слагал в последователни дни един след друг и я е оставял психически изтощена. Рецлоф не очаква винаги да получава смените, които иска, но според нея инструментът се справя значително по-зле със зачитането на нейната воля и предпочитания, отколкото мениджърите, когато са разпределяли дежурствата ръчно.
Опитът на Рецлоф отразява този на други медицински сестри в HCA Healthcare, най-голямата болнична верига в САЩ. От 2023 г. насам HCA е внедрила инструмент за планиране с изкуствен интелект, разработен съвместно с Palantir, наречен Timpani, в приблизително 130 от своите 190 локации. Болницата на Рецлоф го е приела преди близо две години.
„Никой не е доволен от Timpani“, казва Рецлоф, повтаряйки казаното от пет медицински сестри от други локации в интервюта за WIRED. „Всеки се оплаква през цялото време.“ Други твърдени служители на HCA са изразили подобни оплаквания от инструмента в платформи като Reddit.
Медицинските сестри, които разговаряха с WIRED, твърдят, че Timpani потенциално е навредил на пациентите, като е довел до това екипите за грижи да бъдат с недостиг на персонал, небалансирани и изтощени. Работейки с минимален контрол, те казват, че инструментът рутинно планира твърде малко медицински сестри или недостатъчно опитни ветерани по време на дежурствата, особено в неделите. Освен това той често пренебрегва посочените от медицинските сестри предпочитания за разреждане на дежурствата, работа през нощта и през почивните дни или вземане на конкретни почивни дни.
В резултат на това медицинските сестри казват, че са принудени да губят повече време в опити да разменят дежурства или да обжалват графиците си, отколкото преди появата на софтуера. Те също така смятат, че колегите все по-често отсъстват от работа, използвайки платен или неплатен отпуск, за да пропуснат дежурства, въпреки че правенето на това повече от няколко пъти годишно ги излага на риск от уволнение.
Рецлоф, на 34 години, синдикален лидер в National Nurses United с десетгодишен опит в пряката грижа за пациенти, си спомня скорошни дежурства, при които и четиримата ѝ колеги са били начинаещи. Тъй като е била единствената работеща старша медицинска сестра, Рецлоф казва, че е трябвало да забави грижите за най-тежко болните пациенти, за да напътства начинаещите при по-леки случаи.
HCA „позволява на изкуствения интелект да диктува“, казва Рецлоф. „Заменяме клиничната преценка и човешкия елемент в здравеопазването с приложение.“
Преди това мениджърите са управлявали планирането ръчно и обикновено са се консултирали с медицинските сестри предварително, когато са отхвърляли заявки. С Timpani медицинските сестри съобщават, че трябва да правят алтернативни уговорки с по-кратко предизвестие и че има увеличение на временните пренасочвания към различни екипи. „Не мога да си спомня никакви проблеми преди“, казва нечленуваща в синдикат медицинска сестра в Тексас, която поиска да остане анонимна поради страх от отмъщение от страна на HCA. „Всичко излизаше навреме.“
Харлоу Съмърфорд, говорител на HCA, казва, че ръководителите на медицинските сестри, а не Timpani, вземат крайните решения за планирането. Твърденията, че инструментът „е предназначен да намали персонала за сметка на грижите за пациентите“, не отговарят на истината, добавя той.
Целта на HCA е „да разполага с правилните болногледачи, с правилните умения и опит, на разположение, за да посрещне нуждите на нашите пациенти, като същевременно отчита предпочитанията на нашите колеги за графика“, казва Съмърфорд, отбелязвайки, че компанията продължава да подобрява Timpani въз основа на обратната връзка от медицинските сестри.
„Да те ритат“
Средно Timpani планира медицинските сестри да работят през 1 процент от поисканите от тях почивни дни, или така наречените червени дни, според HCA. Лий Баркър, медицинска сестра в HCA в Мисури, казва, че макар това число да изглежда сравнитилно ниско, планирането на дежурства в червени дни преди е било нещо нечувано в тяхното лечебно заведение.
Но по-малко от година след като ръководството въведе Timpani, Баркър казва, че сега практически всяка медицинска сестра е била разпределена да работи в ден, в който е трябвало да почива. Баркър отложи дълго планиран преглед при лекар за хронично заболяване, след като се бори да размени назначен червен ден. „Чувството е сякаш ни ритат, докато вече сме на земята“, казва Баркър.
Оплакванията относно Timpani подтикнаха ръководството на HCA да направи малки актуализации на софтуера, но проблемите все още продължават, според медицински сестри в целите САЩ. Лидерите на National Nurses United, синдикатът, представляващ около 10 000 от 100 000 медицински сестри на HCA, казват, че компанията е отхвърлила исканията им за информация относно технологията.
Някои предполагаеми подробности се появиха през юли, когато бивш мениджър по обработка на данни в HCA, Анжелик Ръсел, съди компанията за това, че твърди, че е била уволнена в отмъщение за това, че е изразила безпокойство относно Timpani. Тя обвини HCA в рутинно изтриване на данни, които инструментът използва за създаване на графици, което е попречило на одитирането на това колко добре работи, и тя твърди, че това може да е нарушило няколко закона за здравеопазването. (HCA все още не е отговорила официално в съда, а Ръсел отказа коментар.)
Timpani е изграден върху Palantir Foundry, софтуерна платформа за съхранение и анализ на различни данни от цялата дейност на компанията. Кръстен на музикалния инструмент, поддържащ ритъма (тимпани), той използва алгоритмични прогнози за обема на пациентите и нуждите от персонал за автоматично съставяне на графици за медицинските сестри. Когато Timpani стартира през 2023 г., главният директор по иновациите на HCA Майкъл Шлосър каза пред WIRED, че това ще спести време и пари, както и че ще елиминира фаворитизма при разпределянето на дежурствата.
Шлосър заяви в публикация през изминалия юли, че Timpani драстично е намалил броя на часовете, които мениджърите прекарват в планиране всеки месец, намалил е зависимостта от скъпи медицински сестри на договор за попълване на смените и е увеличил задържането на персонал. „Ефективността идва от това, че изкуственият интелект генерира по-добри първоначални графици“, написа той, като добави, че над 98 процента „включват микс от умения и опит“.
Политиката на HCA за отговорен изкуствен интелект набляга на защитата на хората от „физически“ или „емоционални“ вреди, а ръководителите заявиха, че са разговаряли с медицинските сестри и са приложили емпатичен подход при разработването на Timpani. В маркетинговите си материали компанията показва медицински сестри, които хвалят инструмента за това, че е лесен за използване и им спестява време. Все пак други медицински сестри от HCA казват, че се чувстват пренебрегнати и неуважавани, и те не са единствените здравни работници, които са изразили загриженост относно навлизането на Palantir в техния отрасъл.
Rayus Radiology, голяма верига за образна диагностика в САЩ, започна да получава оплаквания относно грешки в планирането по-рано тази година, след като въведе инструмент, също изграден върху Palantir Foundry, според вътрешни документи, прегледани от WIRED. Софтуерът е предназначен да попълва полетата за планиране от назначенията на лекарите. Но в редица случаи той е свързвал заявките с грешни профили на пациенти, изброявал е изследвания или сканирания, които не съответстват на назначенията, или е измислял лични данни за пациентите. Служителите по планиране, които работят в Rayus, подозират, че нестандартните форми, нечетливият почерк и недостатъчният преглед от човек са допринесли за проблемите.
Говорителят на Rayus Кит Крансър заявява, че „общите характеристики“ не отразяват справедливо нейните „процеси, защитни механизми или ангажираност към безопасна, точна и навременна грижа за пациентите“. Той добавя, че Rayus използва технологии, за да „подпомага, а не да замества подходящата човешка преценка и надзор“.
Говорител на Palantir отказа да коментира с името си, но компанията описва софтуера си като просто представящ информация по по-полезен начин и подчертава, че клиентите носят отговорност за данните, политиките и вземането на решения.
Безпокойство относно Palantir
Продажбите на Palantir почти се удвоиха наскоро до близо 2 милиарда долара на тримесечие, тъй като организациите търсят нейната помощ за анализ на данни и автоматизиране на задачи. Нарастващите разходи и недостигът на персонал направиха доставчиците на здравни грижи особено ентусиазирани клиенти. Cleveland Clinic кредитира софтуера на Palantir за увеличаването на капацитета за пациенти чрез прогнозиране на изписванията от спешното отделение и замяна на ръчната координация.
Но Palantir срещна отпор и от страна на активисти за граждански права поради работата си в областта на отбраната и имиграцията, както и поради заявените политически възгледи на съоснователите Питър Тийл и Алекс Карп. В Обединеното кралство Palantir сключи договор за 440 милиона долара с Националната здравна служба (NHS) в опит да намали времето за чакане за прегледи, но медицински сестри и активисти поискаха той да бъде отменен поради опасения относно поверителността и сигурността.
В HCA някои медицински сестри също искат Palantir да премахне софтуера. Въпреки че проучванията показват, че базираното на изкуствен интелект планиране на графици е обещаващо, медицинските сестри казват, че Timpani се е превърнал в източник на безпокойство. „Всеки проверява веднага и всеки месец чуваш: „Ей, защо ме дежуриха така?““, казва Баркър.
Първоначално някои местни мениджъри можеха да редактират графиците на Timpani. Сега медицинските сестри трябва да сигнализират за проблематични смени на централизиран екип в централата на HCA в Нашвил, който преглежда жалбите без директна комуникация или възможност за обяснение, според медицинските сестри. Ако им бъде отказано, те се опитват да разменят смени, но шансовете за успех са едва около 50 процента, твърдят Баркър и Ретцлоф.
Баркър, която е лидер на National Nurses United в психиатричен център на HCA, твърди, че няколко колеги са напуснали заради Timpani и че трудовите злополуки са нараснали през първите 12 месеца от използването на инструмента. Синдикатът на центъра, представляващ около 500 медицински сестри, подаде жалба срещу софтуера, твърдейки, че HCA не зачита достатъчно предпочитанията за график. Въпросът най-вероятно отива към арбитраж.
В първите дни на Timpani Шлосер от HCA призна, че здравните работници могат да възприемат технологиите бавно, „защото държат живота на хората в ръцете си“. Но той си представяше бъдеще, в което медицинските сестри на предна линия активно натискат за повече инструменти: „Тогава ще бъде забавно.“ Три години по-късно някои медицински сестри виждат малко причини за радост.