Този материал е изготвен от Grist и е публикуван съвместно с WIRED. Той е част от Distorted — поредица на Grist, изследваща разпространението на дезинформация след екстремни метеорологични явления, и е публикуван с подкрепата на фондация CO2.
По-рано този месец, след като ураганът Исаяс достигна сушата по крайбрежието на Мексиканския залив като ураган от категория 3, експертът по управление на извънредни ситуации Лора Майърс получава обаждане от метеоролог в Алабама. Майърс е директор на Центъра за напреднала обществена безопасност към Университета на Алабама и непрекъснато разговаря с щатски и местни ръководители на кризисни звена в своя регион. Метеорологът споделя пред Майърс, че местен ръководител на извънредни ситуации е публикувал графика, показваща къде Исаяс би могъл да застраши крайбрежието на Алабама с опасен концентриран фронт на ураганни ветрове (т.нар. „sting jet“).
Проблемът? Ръководителят на извънредните ситуации е генерирал графиката с помощта на чатбот с изкуствен интелект и тя не е била точна.
„Този ръководител на извънредните ситуации в окръга се опитваше да накара заинтересованите страни да се фокусират върху риска за съответния окръг и затова бе поискал помощ от AI“, каза тя. „Той направи това, което се искаше от него, но не беше метеорологично точно.“
Повечето агенции за управление на извънредни ситуации не позволяват на служителите да използват генеративен AI, но Майърс и повечето други експерти по извънредни ситуации са единодушни, че употребата му най-вероятно вече е широко разпространена в щатските и местните служби за реакция при бедствия. Стотици компании предлагат на пазара AI инструменти за ръководителите на извънредни ситуации за задачи като оценка на щетите от наводнения и координация на ресурсите, но публичната комуникация е една от областите, към които държавните служители и стартъпите проявяват най-голям интерес.
Причината? Повечето ръководители на извънредни ситуации не са особено добри в изпращането на предупреждения и бързото оповестяване на обществеността за бедствия. Това не е защото са ръководители на извънредни ситуации, а защото са човешки същества. Те са склонни да пишат с жаргон, който неспециалистите може да не разберат, да пропускат информация с презумпцията, че обществото вече я знае, и да включват несъществени подробности, които биха могли да отклонят вниманието на хората от онова, което наистина трябва да знаят.
„Много агенции са силно ограничени откъм ресурси и брой служители, с които разполагат“, каза Джанет Сътън, изследовател на бедствия в Университета на Олбани, създала цялостно табло за управление, което предоставя шаблони за предупреждения при бедствия. „Мисля, че те го осъзнават като приоритет, но не му дават предимство, докато не осъзнаят, че е трябвало да го направят. Те просто се опитват да си свършат работата, без да оплескат нещо.“
Ръководителите на извънредни ситуации са правителствените служители, отговарящи за реакцията при бедствия и възстановяването. На щатско и местно ниво именно тези служители и техните агенции, а не Федералната агенция за управление на извънредни ситуации (FEMA), съставляват първата защитна линия след екстремно метеорологично събитие. Поради това ръководителите на извънредни ситуации често обичат да казват, че „доверието е нашата валута“, и именно в комуникацията им с обществеността те изграждат и губят това доверие.
С нарастването на честотата и мащаба на климатичните бедствия се появиха множество примери за компрометирана човешка комуникация, объркваща реакцията при извънредни ситуации. През 2016 г. например съседни окръзи в Калифорния издадоха „доброволна евакуация“ и „задължителна евакуация“ за един и същи горски пожар. В Австралия през 2019 г. официални лица предупредиха за горски пожари, използвайки фразата „Наблюдавай и действай“, за която правителството по-късно заяви, че е предизвикала „значително объркване“, тъй като никой не е знаел какво означава.
В някои случаи неадекватната комуникация може да означава разликата между живота и смъртта. Това се случи в Монтесито, Калифорния, след пожара „Томас“ през 2017 г. Няколко седмици след пожара силна буря с проливни дъждове предизвика смъртоносно кално свлачище. Управата на окръг Санта Барбара срещна сериозни трудности при разясняването на риска за жителите, които все още бяха травмирани от пожара и преживяваха феномен, който Сътън нарича „умора от предупреждения“. Окръгът изпрати предупреждения до всички в зоната за „доброволна евакуация“ при горски пожари, като призова жителите да „бъдат нащрек за променящите се условия и да имат готовност да напуснат незабавно“. Повечето от тези жители трябваше да се евакуират незабавно, но за мнозина известието за евакуация беше по желание; други просто не искаха да се евакуират за втори път в рамките на един месец. Калното свлачище отне живота на 23 души и рани повече от 160 други.
Правителствата, които издават некачествени предупреждения, са склонни да губят общественото доверие, каза Сътън. „Те губят възможността да бъдат онзи глас, който помага на хората да бъдат в безопасност.“
На теория сигналите за тревога са идеален сценарий за внедряване на изкуствен интелект, и по-специално на системите за генеративен AI, които се развиват със забележителни темпове през последните няколко години. FEMA осигурява обучения за ръководителите на извънредни ситуации за усвояване на най-добрите практики за обобщаване и изпращане на предупреждения, но много служители не си спомнят всичко от подготовката си, когато настъпи кризисна ситуация. Големият езиков модел е различен. Той може да прочете стотици хиляди сигнали само за минути, да анализира всички изследвания за това какво действа ефективно при подобни сценарии и след това да приложи това за редактиране на човешко предупреждение за броени секунди.
„Ако сте изпратили само едно [предупреждение] през живота си, и то преди 15 години, и трябва да си спомните цялото си обучение, докато си мислите: „Хей, насам идва облак от химическо замърсяване, телефонът звъни, радиото гърми, имам нужда от помощ“, AI вероятно ще се справи по-добре от вас“, каза Роб Дейл, бивш метеоролог, който понастоящем ръководи отдела за управление на извънредни ситуации в окръг Ингам, Мичиган.
Дейл вече е използвал AI за съставяне на няколко пробни предупреждения зад кулисите, но никога не му се е налагало да изпраща реално такова. Окръг Ингам е малък окръг в централен Мичиган и не е застрашен от мащабни метеорологични събития като урагани и пожари. Ако подобно събитие все пак настъпи, Дейл каза, че не би имал проблем да позволи на чатбот да подготви текста на съобщението за инцидента, но въпреки това би искал да запази контрола върху самото изпращане на сигнала.
Някои експерти смятат, че технологията вече е достатъчно добра за реално внедряване. EM1, стартъп, разработващ AI софтуер за ръководители на извънредни ситуации, е използвал изследванията на Сътън за обучение на модел, за който ръководителите на компанията твърдят, че вече превъзхожда почти всеки човек на такава позиция. Компанията е тествала този вътрешно разработен модел в редица сценарии, включително горски пожари и цунами. Той вече може да се изравни с човешките възможности или да ги надмине при повечето сравнителни тестове.
Сътън даде на Grist пример за това как работи софтуерът: от Grist ѝ предоставиха наскоро изпратен сигнал за тревога от окръг в Ню Мексико, който се е опитвал да предупреди жителите за наводнение по река Сан Хуан.
Първоначалното предупреждение гласи: „Компрометирани диги. Водата се покачва. ЕВАКУИРАЙТЕ СЕ СЕГА. Парк Макгий е отворен за хора и домашни любимци, кемпери.“ Сътън помолила модела EM1 да оцени и преработи предупреждението. За няколко секунди той генерирал това, което според нея е далеч по-добро съобщение — такова, което покрива всички основни изисквания при комуникация при бедствия.
Новото предупреждение гласяло: „Окръг Сан Хуан: Придошлите води се покачват в близост до [местоположение]. Хора в [район за евакуация]: НАПУСНЕТЕ ВЕДНАГА към по-високи места. Не ходете пеша и не шофирайте през наводнените участъци. Парк Макгий е отворен за хора и домашни любимци. Проверявайте [официален източник за актуална информация] за новини.“ Моделът идентифицирал и коригирал няколко проблема с първоначалния текст, който не посочва кой изпраща предупреждението, не назовава конкретното място, където се случва наводнението, нито изяснява кой трябва да се евакуира или дава съвети как да се направи това безопасно. Думата „breached“ е с правописна грешка и липсват всякакви насоки откъде жителите могат да потърсят допълнителна информация.
EM1 има договори с около сто правителствени агенции и училищни райони, но все още нито една от тях не го използва за автоматизиране на предупрежденията си за екстремни метеорологични условия. За момента те го използват само за обсъждане и разработване на планове и вътрешна подготовка. Въпреки това всички експерти, интервюирани за този материал, заявяват, че са сигурни, че много ръководители на аварийни екипи вече използват чатботове за писане на съобщения, дори и да не си го признават. Сътън споделя, че ръководителите на аварийни служби, които преминават нейните обучения за предупреждения, често ѝ представят висококачествени съобщения, съставени за секунди чрез ChatGPT или Gemini.
„Официалното внедряване е доста ниско, но хората определено го използват неофициално“, казва Сара Милър, професор по управление на извънредни ситуации в Pierce College във Флорида и дългогодишен инструктор в Националния център за обучение по готовност при бедствия. „Те използват собствените си лични профили или използват безплатните версии.“
Звучи като лесен компромис: ако изкуственият интелект е по-добър и по-бърз от хората, а разликата между добро и лошо предупреждение може да бъде въпрос на живот и смърт, би трябвало да използваме ИИ при всяка гореща вълна и всеки горски пожар. И все пак дори изследователи, които са оптимистично настроени към технологията на чатботовете, предупреждават, че този преход може да има обратен ефект. Граждани, които са скептични към ИИ или изначално нямат доверие на правителството, могат да отхвърлят агенции, които публикуват графики или публикации в социалните мрежи, генерирани от ИИ. В Сиракуза, Ню Йорк, например, профсъюз на държавни служители заведе дело срещу местната власт заради използването на услуга с ИИ за отговаряне на спешни повиквания на телефон 911, които не са от критично значение.
„Ние се доверяваме на неща, които възприемаме като автентични и показващи загриженост към нас“, казва Джини Кац, основател на HazAdapt — консултантска компания, която помага на длъжностните лица при бедствия да разберат как да използват технологиите. „Съдържанието, генерирано от ИИ, не се усеща като автентично.“ Съществува и риск чатботовете да позволят на служителите по извънредни ситуации да изпращат повече предупреждения и то по-бързо, което може да увеличи риска от умора от предупреждения.
Както е и в други сфери, където се внедрява ИИ, експертите по бедствия твърдят, че в момента софтуерът е толкова способен, колкото е способен човекът, който го използва. Опитен специалист по управление на извънредни ситуации би могъл да ускори комуникацията си с обществеността, като накара чатбот да изготви поредица от съобщения, но неопитен служител, бързащ да създаде спешно предупреждение, няма да знае как да оцени резултата от модел като ChatGPT или Claude.
Въпреки че технологията все още е далеч от способността да работи без човешки експерт в процеса, това не е спряло много служби за управление на извънредни ситуации с недостиг на персонал да я използват. Що се отнася до това как разпространението на съдържание, генерирано от ИИ, влияе върху общественото доверие в правителството, експертите казват, че е твърде рано да се прецени.
„Ако човек ви изпрати текстово съобщение в сравнение с компютър, изпращащ ви текстово съобщение, на кое бихте повярвали, че е по-точно?“, пита Джъстин Снеър, основател на Preppr — друга компания, която предлага софтуер с ИИ за ръководители на аварийни екипи.
Отговорът според него зависи от човека, който го получава.