След броени дни съдия Джефри Вос ще се пенсионира като Master of the Rolls — най-висшата длъжност в системата на гражданското правосъдие в Англия. Като едно от последните си действия той се опитва да разпали дебат относно това дали — и как — съдиите трябва да използват изкуствен интелект.

Съгласно последните указания съдиите в Англия се съветват да ограничават използването на ИИ до административни задачи, като Вос споделя пред WIRED, че непрекъснато използва Microsoft Copilot за намиране на отдалечени документи и обобщаване на големи обеми от текст. Наскоро обаче той е посетил съд в Шънджън, Китай, където гражданските спорове вече се решават от съдии със сериозна помощ от страна на ИИ. Впечатлен от видяното, Вос вярва, че съдилищата по целия свят трябва да обмислят да последват този пример.

Този път обаче е осеян с капани. Множество адвокати бяха заловени да цитират съдебна практика, халюцинирана от ИИ, а като прецедент за Обединеното кралство наскоро някой загуби правата си да практикува отчасти заради злоупотреба с технологията. Междувременно, с чатботове като техни правни консултанти, ищците заливат съдилищата с безпрецедентен брой искове, някои от които напълно фалшиви.

Въпреки това Вос остава убеден, че някой ден ИИ ще помогне за по-бързото разрешаване на граждански спорове по начин, който струва далеч по-малко. Докато сложните търговски спорове и деликатните семейни дела може да изискват съдия човек, той вярва, че искове за телесни повреди, дела за професионална небрежност с ниска стойност и други подобни лесно биха могли да се решават от ИИ.

„Това, което повечето хора отчаяно искат при гражданските спорове, е решение“, казва Вос пред WIRED. „Въпросът е къде да бъде поставена границата?“

Предвид предстоящото му пенсиониране дебатът за Вос е до голяма степен философски. Но за всички останали в професията — както и за програмисти, експерти по киберсигурност, професори по математика и множество други — правилата се променят бързо.

През октомври WIRED се срещна с Вос в неговия кабинет в Кралския съд в Лондон. Обсъдихме начините, по които ИИ навлиза в съдилищата, практическите и етичните въпроси, които повдига, и как правосъдната система би могла да се адаптира, за да обслужва ново поколение, израснало редом с технологията.

Този разговор е редактиран с оглед на дължината и яснотата.

WIRED: Остават ви само няколко дни до пенсионирането. Как се чувствате, напускайки поста в този конкретен момент, когато ИИ започва да преобразява начина, по който се практикува правото и се раздава правосъдието?

ДЖЕФРИ ВОС: Когато започнах като юрист, имахме хартия формат foolscap, машинописки и коригиращ лак Tipp-Ex. Преминахме бързо през текстообработващи програми, факсове и в крайна сметка компютри.

Юристите са консервативни с малка буква „к“. Но това не означава, че трябва да гледат назад или да са регресивни. Това означава, че трябва да възприемат промяната предпазливо, с отворени очи.

Правната система е за хората в тази страна. Не можете да бъдете ефективни в осигуряването на достъп до правосъдие, ако не сте на същата технологична вълна. Но е време да оставим това на ново поколение ръководни съдии.

Как сте внедрили ИИ в практиката си до момента?

Не го използвам за писане на съдебни решения, но го използвам за намиране на информация, ориентиране в големи обеми материали и проверки. Спестява ми време. Имам по 11 срещи на ден. Знам, че има документ, създаден преди години, който е от значение за срещата ми — и Copilot го открива за секунди. Правя това всеки ден.

В правото дяволът не е ли винаги в детайлите? Доверието в правната система не зависи ли от разбирането, че съдията ще прегледа и обмисли всеки сантиметър от всяко съдебно заявление?

Малко по-предпазлив съм по отношение на използването му за четене на документи по моите дела, но това е, защото гледам най-важните дела в системата.

Хората имат доверие в нашата съдебна система, защото вярват, че съдиите ни притежават абсолютна почтеност. За да не загубите тази почтеност, трябва да обясните как внедрявате технологията и да постигнете широк консенсус, че това е уместно.

Как ИИ навлиза в съдилищата в момента? Променя ли поведението на страните по делата и на юридическите специалисти? Какви проблеми поражда това?

Всичко се променя забележително бързо. Наблюдаваме 10-процентен ръст в броя на делата в окръжните съдилища, започнати всяка година — и изглежда, че този процент може да се увеличи. Това е така, защото всеки, който има правен проблем, вече го въвежда в Gemini, ChatGPT или Claude. Помолете го да създаде изложение на обстоятелствата по иска, дело, искова молба — той може.

Каква част от тези искове обаче се основават на солидни правни принципи? Колко често хората биват подведени от чатбот погрешно да повярват, че имат правно основание за иск?

Нямаме данни за това. Но мисля, че е грешка да се предполага, че само защото даден иск е създаден от ИИ, той е напълно неоснователен.

В известен смисъл това е добър проблем, защото показва, че благодарение на технологиите има по-голям достъп до правосъдие. Един от проблемите с правосъдието в миналото беше, че то беше достъпно само за богатите хора.

Ако хората имат проблем, достатъчен, за да безпокоят ChatGPT, те вероятно искрено смятат, че имат основание за иск. Когато проучите проблема им подробно, може да откриете, че той всъщност е малко по-различен, но все пак може да представлява правен проблем и все пак може да е било разумно от тяхна страна да са поискали да привлекат вниманието към него.

Хората като цяло не си губят времето. Като цяло те не се опитват да създават неприятности.

А какво ще кажете за възможността ИИ да фабрикува доказателства, на които съдиите преди са можели да разчитат — изображения, видео, гласови записи? Къде оставя това съдилищата?

Често съдиите трябва да решават дали дадено лице казва истината. Това е най-трудното нещо, защото хората не са лоши в лъженето. Но съдиите вземат тези решения всеки ден. Няма абсолютно никаква разлика — като мащаб или качествено — в това някой да представи фалшиво изображение, създадено от ИИ.

Единствената причина всички да сме толкова развълнувани от дийпфейковете е, че те са нещо толкова ново. Но всъщност това е самата същност на съдийската работа.

Но тук говорим за цяла категория доказателства, която вече е донякъде компрометирана. Това не засяга ли способността на съдията да реши дали някой лъже?

Винаги е било така. Винаги ни се е налагало да решаваме дали завещанията са фалшифицирани, защото хората правеха това. Точно същото е с гласовите записи и видеото. Това е просто продължение на вида невярна информация, която се представя пред съда.

Хората ще разберат, че когато представят фалшиви изображения пред съда, извършват лъжесвидетелстване и ще отидат в затвора, точно както ако бяха подправили завещание.

Мисля, че трябва да бъдем внимателни при прогнозирането на катастрофи. Аз съм голям оптимист.

Преди сте описвали едно „неизбежно“ бъдеще, в което по-простите граждански дела се решават изцяло от изкуствен интелект. Защо сте сигурен, че сме се запътили именно натам?

Трябва да се намери начин за раздаване на правосъдие, който да съответства на културния дух на времето. Това не означава просто да гледате всичките си дела в TikTok. Но ако не разбирате, че хората питат големите езикови модели (LLM) за отговора на почти всеки възможен въпрос под слънцето, включително правни въпроси, е много вероятно да сбъркате, когато се опитвате да изградите процес, подходящ за 21-ви век.

Всичко се свежда до консенсус. Ще бъде възможно да поискаме от хората да приемат вземането на решения чрез алгоритми само ако те са дали съгласие за този процес в конкретното дело или ако обществото реши това чрез законодателство.

Когато хората отидат на съд и получат неблагоприятен изход, дори да смятат решението за странно или дори погрешно, когато то е постановено по човешки начин, то може да бъде прието с времето. При изкуствения интелект трябва да бъдем внимателни; за хората може да бъде по-трудно да приемат неблагоприятно решение, взето от машина.

Много бих искал да видя една наистина открита, международна дискусия за това как трябва да разрешаваме споровете.

Подозирам, че част от причината хората да се противопоставят на съдебните процеси с изкуствен интелект е, че не можем да знаем точно как даден модел е стигнал до решението. Какво може да се направи по отношение на този проблем с обяснимостта?

Не мисля, че въпросът опира до разсъжденията; опира до крайните резултати. Изкуственият интелект може да предложи много убедителни мотиви. Не можете да видите как е стигнал до тези мотиви, но можете да видите самите мотиви, които е изложил, и можете да прецените тяхната правдоподобност.

Не смятам, че някога ще се откажем напълно от съдиите хора. Има нещо почти библейско в съдията човек; заложено е в човешката психика желанието да бъдеш съден от себеподобен. Но това не означава, че в определени ситуации хората не биха предпочели бърз изход — дори и той да не е постановен от човек.

Не мисля, че съдиите вече са в позиция да кажат това. Това е въпрос, който трябва да бъде решен от обществото, политиците и законодателството. Този дебат е наистина важен.

Смятам, че делата за попечителство и семейните дела са една от сферите, в които по същество се очаква човешка преценка, дори и от по-младото поколение. При сложните търговски дела мисля, че положението е същото. Но вярвам, че постепенно ще променим начина, по който се решават търговските дела, като използваме изкуствен интелект за обобщаване и съпоставяне на информацията, така че процесът на вземане на решения да стане по-добър и по-лесен.

Ще предоставим на повече хора достъп до правосъдие по-евтино и по-бързо чрез технологиите. Това ще бъде цялостна полза за икономиката и за хората, на които служим.