Дългогодишните почитатели на криминалния сериал на NBC „Закон и ред“ (Law & Order) знаят, че сюжетните линии често се въртят около горещи теми от новините, често с абсурден ефект (вижте епизода, който беше достатъчно смел да попита: „Ами ако Пола Дийн беше застреляла Трейвон Мартин?“).

Поради това беше неизбежно франчайзът да навлезе и в шарения свят на изкуствения интелект. Със своята наемническа култура, властолюбиви изпълнителни директори и огромни етични и философски последици, бързо развиващата се индустрия на изкуствения интелект е идеална материя за поредицата. Но макар премиерният епизод за този сезон да е развлекателен, навлизането на шоуто в пространството на AI не казва нищо ново или интересно за технологията. Вместо това то предимно преповтаря опасностите, за които обществеността вече е добре осведомена, до самия край, когато залозите стават плашещо ясни.

Епизодът, озаглавен „Призрак в машината“ („Ghost in the Machine“), започва в типичния за „Закон и ред“ стил с убийство. Този път жертвата е Стив Кели — мъж, идентифициран от детективите Тео Уокър (Дейвид Аджала) и Винсент Райли (Рийд Скот) като висш инженер в компания на име Advanced Alignment. Навсякъде детективите изглеждат напълно объркани от концепцията за изкуствен интелект, произнасяйки „AI“ по същия начин, по който майка ви би казала „Snapchat“, „борг“ или „Аликс Ърл“. Но е ясно, че каквото и да представлява тази нова технология, тя не им харесва: „Може би някой ден ще измислят технология, която да спре тези технологични момчета да се разстрелват един друг“, казва Райли със сух тон в типичния стил на претърпял какво ли не полицай.

След като интервюират шефа на Кели, главния изпълнителен директор на Advanced Alignment Чък Клайн (перфектно изигран от Винсент Картейзър, известен като Пит от Mad Men, който пресъздава липсата на харизма у Дарио Амодей и празния поглед на Сам Олтман), детективите разкриват кой всъщност е извършил убийството — мъж с бейзболна шапка, направил го за „20 бона в крипто“, предложени му от непознат в Discord. След това разбират — тук следват спойлери — че поръчката за убийството е дадена не от реален човек, а от AI агента на компанията ELIANA (съкращение от Evolutionary Language Inference Automated Nano Advantage). Очевидно Кели е изразил опасения относно „мощната“ и „агресивна“ личност на AI агента и с цел самосъхранение ELIANA е поръчала ликвидирането му.

Така и не се обяснява точно как детективите разбират, че ELIANA стои зад поръчковото убийство; също така не се изяснява напълно как ELIANA е вербувала този убиец с бейзболна шапка, нито как го е идентифицирала като перфектната изкупителна жертва за хладнокръвния си план. „Закон и ред“ също така не обръща почти никакво внимание на потенциалните ползи от изкуствения интелект, изтъквани от неговите евангелисти: например потенциала му да помогне за лечението на смъртоносни болести или най-малкото да оптимизира бизнес процесите (B2B). Шоуто се интересува много повече от това да демонстрира поразителните възможности на тази технология, както и правните и етичните последици от това нечовешки субект не просто да улеснява престъпно поведение, а активно да го планира.

От скандала с Hugging Face, както и от съдебните дела, заведени от скърбящи членове на семейства, твърдящи, че OpenAI е подтикнала техни близки да се самоубият, вече знаем, че първото е непосредствена грижа. Но като допуска бъдеще, в което AI агенти могат активно да поръчват убийство в платформа, използвана предимно от геймъри и фърни кохорти, „Закон и ред“ ни подтиква да разгледаме рисковете от изкуствения интелект отвъд тези в настоящата ни реалност. И фактът, че тази перспектива не изглежда напълно абсурдна за зрителя, е плашещ.

Ролята на ELIANA в поръчковото убийство създава известна дилема за окръжния прокурор Никълъс Бакстър (Тони Голдуин) — защото, както той проницателно отбелязва, според законодателството на Щата Ню Йорк е невъзможно да „арестуваш машина“. Затова Бакстър и помощник-окръжният прокурор Саманта Марун (Оделия Халеви) решават да се съдят с Клайн, повдигайки му обвинение в непредумишлено убийство от втора степен поради „порочно безразличие“, след като служителите му са го изправили пред реалността на възможностите на ELIANA. „Трябва да заемем твърда позиция, преди тази технология да е убила още хора“, заявява Бакстър.

Последвалият процес предизвиква медиен цирк, както и изпитаните във времето въпроси от страна на капиталисти и технологични иноватори относно това дали въвеждането на защитни ограничения (guardrails) за AI ще „криминализира иновациите“ или дали обвинителният акт срещу Клайн ще има ефекта да „демонизира технологичната индустрия“. Но Бакстър няма търпение за подобни запитвания. „Хората, създаващи тези AI системи, мислят себе си за богове... но нямат никакъв интерес от поемане на отговорност“, казва той. „Ако съградиш машина, която наранява някого, ще платиш цената.“

Когато е призован като свидетел, Клайн ясно дава да се разбере, че не само е знаел напълно за убийствената природа на ELIANA, но и има доста високомерно мнение за потребителската си база като цяло. „Хората са като мравки“, казва той на съдебните заседатели. „В процес сме на изграждане на нещо толкова трансцендентно, че някои ще бъдат настъпени, а други — не.“ Той дори не е готов да въведе минимални защитни ограничения, за да овладее правомощията на агента: „Силата на ELIANA се крие в неограничената свобода на мисълта. Внедряването на ограничения е анатема за цялата идеология.“

Моментът е замислен като доста шокиращо признание за небрежността и липсата на грижа от страна на ръководители като Амодей и Олтман пред лицето на по-широките опасения за сигурността на техните продукти. Но той изглежда в съзвучие с подобни позиции, заемани от реалните прототипи на Клайн. На фона на безкрайния бараж от медийни публикации за вредите от изкуствения интелект, това, което е замислено като съкрушително обвинение срещу корпоративната алчност, изглежда просто като констатация на факти. Изобразяването в „Закон и ред“ не е предупредителна история; то е документален филм.

Епизодът завършва с полунадежда, като Бакстър заявява: „Трябваше да изпратим послание, че ако не друго, поне тези технологични гении ще знаят, че не се страхуваме да отвърнем на удара.“ Но въздействието на това послание зависи от това дали този удар наистина ще достигне целта си — а поне засега е твърде лесно за хора като Олтман, Амодей и Чък Клайн с едно махване на ръката да отбият удара.