Юсаку Фуджии, професор в университета Гунма в Япония, разработи одит и наказания, които да спрат операторите от злоупотреба с изкуствен интелект, анализиращ кадри от улични камери. Неговата система добавя независим регистратор на записи и внезапни проверки на изходните данни от изкуствения интелект.
Тестовата среда на Фуджии е това, което той нарича Напълно наблюдавано обществено пространство (FMPS): улици, където камерите са достатъчно гъсто разположени, за да проследяват непрекъснато хора и превозни средства. То може да бъде изградено с съществуващи мрежови камери и криптирано съхранение. За жителите на такава улица отвореният въпрос е къде отиват заключенията на изкуствения интелект след това и кой ги проверява.
Регистраторът чете етикети, а не кадри
Отговорът на Фуджии е Проверимият запис на изхода на изкуствения интелект, или VRAIO. Всяка община управлява свои собствени системи с изкуствен интелект зад изходяща защитна стена, управлявана от независима трета страна, наречена Регистратор (Recorder). Преди даден изходен резултат да напусне системата, операторът декларира кои камери, какъв времеви диапазон и за каква цел се използват. Регистраторът проверява тази декларация спрямо законовите правила и записва решението си в защитен от подправяне регистър. Той не притежава ключове за декриптиране и няма достъп до съдържанието.
Това оставя празнина. Регистраторът може да провери дали дадена декларация съответства на Правилата, но няма начин да разбере дали тя е вярна. Вземете неговия пример: оператор заявява, че му трябват кадри, за да открие изчезнало дете, а след това ги използва за съвсем друго нещо. Регистраторът я пропуска, защото етикетът изглежда наред. Само внезапен одит може да разкрие лъжата, като сравни записаната декларация с това, което действително е предоставено. Регистърът тогава посочва заявката и оператора зад нея, който може да се изправи пред административни санкции, наказателна отговорност и публично оповестяване на нарушението.
Сдържащият ефект зависи от това колко често се извършват одитите и колко тежки са наказанията. „Не мисля, че има една минимална честота на одит или ниво на санкция за всеки случай“, заяви той пред Help Net Security. „Комбинацията трябва да бъде достатъчно силна, за да премахне стимула за злоупотреба.“
Той описа теста от гледна точка на стимулите. „Казано просто, очакваната цена от това да бъдеш хванат и санкциониран трябва да бъде по-голяма от очакваната полза от злоупотребата. Подходящите нива трябва да се коригират въз основа на действителния опит.“
Заобикалянето на защитната стена не оставя следи, така че откриването му зависи от конвенционалната сигурност. Регистраторът би могъл да бъде завладян от операторите, които надзирава. Освен това VRAIO не преценява дали Правилата са справедливи: ако даден град приеме дискриминационни Правила, системата може да ги прилага стриктно.
Той не посочи съществуваща институция за ролята на Регистратора. „Заการрям си, че Независимият регистратор може да се управлява от съдебна институция или от независим орган между административната и съдебната система“, каза Фуджии. „Важният момент е, че той трябва да бъде независим от организацията, управляваща FMPS, и да бъде надзираван от множество страни.“
Одобрението може да крие избягване
Дори ако записите се запазят, остава втори въпрос: приемат ли хората да бъдат проследявани? Фуджии зачита приемането за фак само когато са изпълнени три условия. Хората казват, че го приемат, тяхната причина е липса на претърпени вреди или получена полза и те не показват промяна в маршрутите, търсенето на информация, изразяването или участието в събрания. Някой, който казва „да“, защото няма начин да избегне камерите, просто се е примирил.
По-ранен негов експеримент се доближава до най-меката версия на това. При него са поставени 11 камери на стълбове за улично осветление, с известие, изпратено до всички 2218 домакинства в района. Жителите са дали положителни мнения, но експериментът не е измерил дали поведението им се е променило. Положителните мнения са точно това, което неговите собствени критерии определят като недостатъчно.
За измерване на поведението Фуджии каза: „Бих използвал анонимни проучвания сред гражданите.“ Той очаква малко избягване. „Не очаквам FMPS да причини сериозно избягване, ако използването на информацията е правилно контролирано, но това трябва да се тества.“ Той също така иска да се отчете и обратният ефект. „Трябва също така да измерим обратния ефект: дали хората се чувстват по-сигурни и използват обществените пространства по-свободно. Това може да бъде особено важно за децата и други уязвими хора.“
Неговият план има три етапа. Първият обхваща откриване на изчезнало дете и защита на децата, базирана на съгласие. Вторият използва изкуствен интелект в уличното осветление за сигнализиране за престъпления или инциденти. Третият включва централен изкуствен интелект, който се обучава на модели на поведение отминали престъпления и сигнализира за пешеходци, които приличат на тях. Той нарича този последен етап стрес тест и иска той да бъде изпитан първо в проучвания с казуси и симулации. Критериите за спиране, зададени предварително, включват значително увеличение на ефекта на възпиране/застрашаване на правата, неприемливи фалшиви откривания и изразено увеличение на жалбите или оттеглянията на съгласие. Етапите променят няколко фактора наведнъж, така че сравнението показва къде приемането спира да работи, а не кой конкретен фактор го е нарушил.
Фуджии все още не е обсъждал предложението с регулатори или общини. „Вярвам, че този институционален дизайн трябва да бъде разработен и тестван чрез мащабен пилотен демонстрационен проект“, каза той.