Орган за надзор на правителството на Обединеното кралство обмисля разследване на използването на инструменти с генеративен изкуствен интелект от Министерството на вътрешните работи (Home Office) за обработка на молби за убежище, научи WIRED. Потенциалната проверка идва след като депутати и изследователи публично поставиха под въпрос точността на инструментите и потайността на правителството относно тяхната употреба.

Независимият главен инспектор по границите и имиграцията (ICIBI), който наблюдава управлението на границите, имиграцията и митниците от страна на Министерството на вътрешните работи, е поискал от неправителствената организация за защита на дигиталните права Open Rights Group (ORG) да сподели повече информация за инструментите, докато изготвя планове за темите за инспекция през следващата година, съобщава активистката Сара Алшериф пред WIRED. Констатациите на ORG произтичат от шестмесечно разследване на инструментите, включващо 11 парламентарни въпроса, две министерски писма и 10 искания за достъп до обществена информация в опит да се извлекат подробности от министерството, което отказва да ги предостави.

От ICIBI заявиха пред WIRED, че не могат да потвърдят кои теми се разглеждат активно, преди да публикуват годишните си приоритети за инспекция, но отбелязват, че са запознати с опасенията относно използването на AI инструменти и припомнят заключенията си от миналата година, че „ефективността и надеждността на един от инструментите са били нееднозначни“.

„Решенията за предоставяне на убежище се вземат от обучени служители, като AI инструментите се използват единствено в помощ на ориентирането в протоколите от интервютата и информацията за политиките. Те не могат да се използват самостоятелно и не вземат решения по молбите“, заявява говорител на министерството в имейл до WIRED. „Редовно следим работата на тези инструменти паралелно с установените ни процеси за контрол на качеството и вече поехме ангажимент да публикуваме актуализирани оценки за тяхното внедряване.“

Министерството на вътрешните работи използва инструментите Asylum Case Summarisation (ACS) и Asylum Policy Search (APS), изградени върху големия езиков модел GPT-4 от 2023 г. на OpenAI и Microsoft Foundry, за да обобщава стенограми от интервюта с кандидати за убежище и информация за техните страни на произход, показват документи, получени от ORG. Органът по имиграция и правоприлагане започна пилотното тестване на тези инструменти в края на 2024 г., докато лейбъристкото правителство се опитваше да изчисти натрупаните около 100 000 изостанали дела за убежище и същевременно да се справя с десетките хиляди нови молби, които Обединеното кралство получава всяка година. Въпреки че ведомството отбеляза значителен напредък, съкращавайки наполовина броя на чакащите първоначално решение в рамките на годината до юни, броят на жалбите срещу решенията рязко нарасна.

Изследователите са обезпокоени от точността на инструментите с изкуствен интелект – особено при вземането на решения с толкова висок залог, като например връщането на човек в страна, където е застрашен от преследване. ORG установи, че делът на генерираните от ACS резюмета, счетени за негодни за употреба – често поради фактологични грешки или неточности – е значително по-висок от обявения процент на грешка от 9 на сто при пилотната оценка. Организацията установи също, че липсва какъвто и да е контрол на качеството за резюметата, генерирани от APS.

Служителите, вземащи решения по молбите, използват системите, за да пестят време при разглеждането им; според правителствени оценки съвместното използване на инструментите по време на пилотния проект е спестявало около един час на случай. Служителите използват ACS, за да ускорят прегледа на протоколите от интервюта, в които търсещите убежище описват преследванията в родината си и причините за страха си да се върнат. Те разчитат на APS като асистент за търсене, който намира и обобщава информация за държавните политики, показваща дали кандидатът е изложен на реален риск от увреждане в родната си страна. През юли британски съдия обвини Министерството на вътрешните работи, че е цитирало „халюциниран от AI“ документ, за да откаже убежище на мароканка и нейното дете с мотив, че родната ѝ страна е безопасна за връщане.

„Става дума за човешки съдби. Говорим за хора, изправени пред най-тежките възможни обстоятелства, а ние трябва да вземаме решения въз основа на факти и осъзнаване на вредата“, коментира пред WIRED депутатката от Лейбъристката партия Бел Рибейро-Ади. „Смятам, че е абсолютно неподходящо машини да правят това.“

Говорител на Министерството на вътрешните работи заяви: „Използването на изкуствен интелект е само един от инструментите на наше разположение за защита на границите ни и не замества, нито автоматизира ролята на човека при вземането на решения.“

Рибейро-Ади, Алшериф и организацията Public Law Project, която води отделно разследване по въпроса, изразяват опасения и от добре документираните „културни предразсъдъци“ в моделите GPT. Според тях те могат да породят езикови бариери и загуба на културни нюанси в резюметата, което от своя страна да доведе до дискриминационни решения. Говорител на OpenAI подчерта пред WIRED постоянните усилия на компанията за подобряване на точността на моделите и отбеляза, че през януари моделът GPT-4 ще бъде спрян от употреба.

При липсата на цялостна регулация британското ръководство „AI Playbook“ задължава министерствата да бъдат прозрачни относно алгоритмичните инструменти, използвани в процесите по вземане на решения, и да публикуват информация за тях, включително като ги вписват в публичен регистър. Инструментите на вътрешното министерство за обобщаване на дела и търсене на политики обаче не фигурират в този списък.

Търсещите убежище също не биват уведомявани, че в техните случаи се използват системи с AI. „Организациите за защита на мигрантите и юристите – малцина от тях въобще знаят за реалната употреба на този инструмент“, посочва Алшериф, ръководител на програмата за дигитално правосъдие на мигрантите към ORG. „Затова трябва да ги информираме за това и за начина му на работа, за да могат да го оспорват.“ Невъзможността за оспорване на некоректно обобщение на лични данни, изготвено от AI, може да представлява нарушение на британското законодателство за защита на данните, пишат адвокати от кантората Cloisters в независимо правно становище, изготвено за ORG. Във вътрешните си правила за поверителност ведомството посочва единствено, че части от процеса по вземане на решения могат да включват автоматизация.

И двете организации са изпратили констатациите си до британския регулатор на данните – Службата на комисаря по информацията (ICO), която в момента разследва отказа на министерството да предостави на ORG данни как персоналът използва и е бил обучен да работи с двата AI инструмента.

Старшият научен сътрудник в Public Law Project Каролайн Селман обръща внимание, че ACS и APS са само две от общо 11 високорискови системи с изкуствен интелект, за които екипът ѝ е установил, че се използват в държавната администрация, без да фигурират в публичния регистър. Тя изразява безпокойство, че в държавния апарат може да работят още подобни системи, за които дори изследователите нямат представа, камо ли лицата, спрямо които се прилагат.

„Използват се и други инструменти, които изобщо не се оповестяват публично“, подчертава Селман, „а човек дори не може да започне да задава въпроси за нещо, за чието съществуване дори не подозира.“