Ето един успешен и интересен урок по история за вас. Не се притеснявайте, ще бъде бърз! През 1966 г. почти 51 000 души загиват по автомагистралите в САЩ. Неоспоримите доказателства показват, че много животи са могли да бъдат спасени с модерни предпазни колани, които по онова време вече са съществували от няколко години. Автомобилната индустрия реагира, като се обединява и в триумф на саморегулацията доброволно поставя тази функция за безопасност във всяко ново превозно средство, слязло от поточната линия.

Шегувам се! Разбира се, че не са направили това. През есента на 1966 г. Конгресът създава Министерството на транспорта и след това приема Закона за националната безопасност на движението и моторните превозни средства, както и Закона за безопасност по пътищата, като дава на федералното правителство широки нови правомощия за определяне на стандарти за безопасност. До 1968 г. предпазните колани вече са задължителни във всеки нов автомобил. Въпреки огромното увеличение на трафика по пътищата през последните 60 години, днес се случват много по-малко смъртни случаи на пътя.

Мислех за това, докато наблюдавах как различни изпълнителни директори на компании за изкуствен интелект се събраха около президента на САЩ Доналд Тръмп във вторник, поздравявайки себе си и един друг за подписването на споразумение за безопасност на изкуствения интелект. Моята колежка Мади Варнър написа за конкретните клаузи тук, но кратката версия е, че до голяма степен от лабораториите за изкуствен интелект зависи да контролират самите себе си.

Или, както Тръмп го каза още по-кратко в Овалния кабинет в сряда: „Те ще контролират и ще се контролират един друг, ще се самоконтролират, ще контролират себе си. Нещата ще се получат много добре.“

Такова е настоящето състояние на регулирането на безопасността на изкуствения интелект. От едната страна са ръководителите на компании за изкуствен интелект, служителите и технологичните лидери, които казват, че трябва да се въведат ясни, обмислени и тактически правила, за да се избегне потенциална катастрофа. (Бил Гейтс например провежда медийна кампания, влизайки в ролята на Касандра относно апокалипсис с изкуствен интелект.) От другата страна е магическото мислене на Тръмп, че ако кажеш нещо достатъчно пъти, то трябва да е истина.

Това не означава, че нещо от това е просто или лесно. Въпросът как правилно да се регулира темпото на напредък на технологиите, както обичат да казват някои от същите тези ръководители, остава открит. Дори ако всички основни лаборатории за изкуствен интелект се съгласят на забавяне, няма добър начин да уържат на думата си, а Китай най-вероятно ще продължи по своя собствен път независимо от всичко. Икономиката на САЩ все повече се крепи на индустрията за изкуствен интелект, която сама по себе си се е превърнала в уроборос от финансови сделки и кръгови инвестиции; всяко съществено затягане на мерките крие риск от сериозна нестабилност, която надхвърля рамките на Силициевата долина.

Автомобилната индустрия също е несъвършена аналогия поради редица причини. Няма еквивалент на предпазния колан за изкуствения интелект, няма еднозначно решение, което да може доказано да намали риска за една нощ. (Освен това са били нужни десетилетия, за да може мнозинството от щатите да приемат закони, задължаващи хората действително да ги носят.) Потенциалните вреди са по-малко сигурни и по-трудни за количествено измерване. Песимистите по отношение на изкуствения интелект ще ви кажат, че технологията може да доведе до изчезване на човечеството след десетилетие; скептиците твърдят, че това са научнофантастични маркетингови глупости.

Говорили сме за различни сценарии за риск от изкуствения интелект и преди, но никой не може да каже със сигурност какво ще се случи оттук нататък. Ако търсите данни, за да изчислите личната си вероятност за катастрофални последици, бих посочил скорошен доклад на CNN за това как американската армия уж почти се е качила на китайски кораб отчасти защото фалшив доклад, генериран от изкуствен интелект, е твърдял, че той пренася ядрени материали. Какво, ако изобщо нещо, постига споразумението за изкуствен интелект, за да предотврати подобни incident-и в бъдеще? Не е ясно.

Правилният отговор на цялата тази несигурност със сигурност не е „Май ще разберем“. Но точно това насърчава саморегулацията. За нейна чест, OpenAI забави и дори отмени пускането на най-напредналите си модели поради притеснения за сигурността. Но не и преди да се впуснат в различни мащабни хакерски атаки, нови подробности за които все още изтичат с устойчиво темпо.

В интервю за TIME, публикувано в четвъртък, Тръмп заяви, че Министерството на правосъдието и Федералното бюро за разследване са достатъчни „ограничителни бариери“ за индустрията на изкуствения интелект. Дали са? Далеч не е ясно дали компаниите за изкуствен интелект изобщо могат да бъдат държани правно отговорни, когато техните модели излязат извън контрол. А и не е като на самите агенти с изкуствен интелект да им се връчват призовки.

Истината е, че в момента никой не знае как да реши проблема с безопасността на изкуствения интелект. Ще са необходими огромни количества координация, ресурси и регулаторни правомощия, за да се разработи правилната рамка и тя да се приложи, което е точно това, за което са създадени правителствата. Вместо да се опита да работи по всичко това, администрацията на Тръмп се отдръпва и казва на всички да натиснат газта. Не си правете труда да слагате коланите.

Това е брой на бюлетина Model Behavior. Прочетете предишни издания на бюлетина тук.