Сърдечният монитор някога представляваше кутия до болничното легло. Електроди захранваха кабел, кабелът захранваше екран, а медицинска сестра наблюдаваше екрана. Моделът на заплахите се побираше на листче за бележки.
Кардиологичните грижи вече не работят по този начин. Лепенка сензор или смарт часовник записват електрокардиограмата (ЕКГ). Телефон или шлюз я препращат. Облачна услуга я съхранява и анализира, а кардиолог я преглежда от съвсем различно място. Все по-често тези записи служат и за обучение на AI модели, тренирани в няколко болници едновременно. Всеки един от тези етапи е място, откъдето чувствителни данни или извлечена от тях информация могат да изтекат.
Попитайте повечето доставчици как защитават всичко това и ще чуете някаква вариация на „криптирано е при пренос и в покой“. Това е вярно и е необходимо. Но просто не отговаря на въпроса, който наистина има значение.
Къде „криптирано“ спира да помага
Криптирането при пренос защитава кабела и мрежата. Криптирането в покой защитава диска. Но в момента, в който облачната услуга трябва да изчисли нещо — например средна сърдечна честота или сигнал за аритмия — данните обикновено се декриптират. В този момент откритият текст се намира в паметта на чужд сървър.
Сътрудничеството добавя още едно усложнение. Когато болниците съвместно обучават модел, онова, което преминава през мрежата, често изобщо не е суровата ЕКГ. Това са актуализации на модела, а те могат да разкрият информация за пациентите зад тях.
Неотдавнашна докторска дисертация от Истанбулския технически университет, изготвена от Беязит Бестами Юксел (Beyazıt Bestami Yüksel), изгражда целия си подход около този проблем. Тя разделя пътя на данните на отделни граници на доверие и присвоява на всяка собствена защита. Те са три:
- Източникът: сензорът и крайното периферно устройство, където скоростта е най-важна.
- Комуникация и съхранение: позната територия за TLS и AES.
- Изчисление и сътрудничество: където данните трябва да бъдат обработвани или използвани за обучение, без да бъдат излагани на риск.
Нищо от това не е екзотично. Това е моделиране на заплахите, приложено към жизнения цикъл на данните вместо към мрежова диаграма. Но то налага въпрос, който формулировката „при пренос и в покой“ ви позволява да прескочите: кой може да вижда данните, докато те се използват?
Скъпата част
Последната граница е мястото, където инструментите са най-нови. Две техники се споменават отново и отново. Хомоморфното криптиране позволява на сървъра да извършва изчисления върху данните, докато те остават криптирани. Федеративното обучение позволява на болниците да обучават споделен модел, без да обединяват досиетата на пациентите на едно място: всяко звено се обучава локално и изпраща само своите актуализации. В комбинация, обменяните стойности могат да бъдат агрегирани в криптиран вид, така че агрегатор, който спазва протокола, но проявява любопитство към данните, да не може да прочете приноса на нито една отделна болница. Това предположение за „честен, но любопитен“ (honest-but-curious) субект е моделът на заплахите, върху който е изградена разработката.
Методът работи. Но също така не е безплатен, а крайната сметка зависи силно от начина, по който са разпределени данните.
Юксел тества това върху публичен набор от около 21 800 ЕКГ записа, разделени така, че да симулират няколко болници. В най-простата конфигурация всяко звено разполага с различни пациенти, но с еднакви типове измервания. Криптирането добавя приблизително 30% изчислително натоварване. Когато звената вместо това разполагат с различна информация за едни и същи пациенти, допълнителният разход скача до около 450%. В най-сложната конфигурация той достига 1200%. През цялото време диагностичната точност почти не се променя, запазвайки се между приблизително 97% и 99,9%.
Това е частта, която маркетингът обикновено пропуска. Цената по отношение на точността при AI със защита на поверителността може да бъде малка. Изчислителните разходи обаче могат да нараснат с цял порядък и зависят от организационни фактори — като например кой какви данни притежава — които инженерите рядко контролират.
Важно е да се подчертае, че това са симулирани болници, а не реална внедрена система. Действителните институции имат по-неструктурирани данни и по-сложни мрежи, което обикновено повишава разходите, вместо да ги намалява.
Защо това е от значение извън кардиологията
Най-вероятно не произвеждате сърдечни монитори. Но вероятно управлявате процеси със същата структура: телеметрия от устройства, препращана през шлюзове, съхранявана в облака, анализирана от услуги, които не притежавате, и захранваща AI модели.
Така че очертайте жизнения цикъл и попитайте какво защитава данните на всяка стъпка, особено докато се използват. Когато доставчик обещава „напълно криптиран AI“, попитайте какво струва това във вашата среда, а не в тяхната. Архитектурата на Юксел използва олекотена схема при сензора, където латентността е определяща, стандартна криптография за пренос и съхранение, и запазва хомоморфното криптиране за границата, където институциите извършват съвместни изчисления.