Председателят на Европейската комисия Урсула фон дер Лайен поиска разработването на предохранителен изкуствен интелект (frontier AI) да бъде забавено и заяви в сряда, че ще покани водещите лаборатории за изкуствен интелект, за да обсъдят как ЕС може да подкрепи техните собствени усилия в тази посока. В своята реч за състоянието на Съюза пред Европейския парламент в Страсбург тя също така пое ангажимент ЕС да работи съвместно с Канада, Обединеното кралство и други партньори по оценката и проверката на напреднали модели, ранното предупреждение и сигурността на изкуствения интелект.
Фон дер Лайен изгради аргумента си върху кибератаките и хакерството. Тя каза пред законодателите, че моделите, които се разработват в момента, ще дадат възможност за хакерство на ниво, което европейските лидери не са смятали за възможно, и че противниците скоро ще разполагат с тях. Това оставя европейските правителства, компании и хората, които защитават техните мрежи, уязвими, а стъпките, които тя обяви срещу това, са партньорства и среща.
Предупреждението за хакерството и самоподобряващите се модели
Фон дер Лайен посочи изкуствения интелект и изменението на климата като двата въпроса, които ще определят бъдещия просперитет и сигурност на Европа. Тя нарече себе си оптимист относно потенциала на изкуствения интелект да носи полза на хората, при условие че правителствата се справят с рисковете, и каза, че тези рискове са станали по-ясни с подобряването на най-способните системи за изкуствен интелект с общо предназначение.
„Моделите, които се разработват в момента, ще позволят хакерство на ниво, което никога не сме смятали за възможно. И те скоро ще бъдат в ръцете на противници, които виждат света по съвсем различен начин от нас“, каза фон дер Лайен.
Тя описа втора опасност в самоподобряващите се модели — системи, които могат да помогнат за изграждането на по-способни техни версии. Тя цитира случаи на агенти на изкуствен интелект (софтуер, който изпълнява задачи самостоятелно), излизащи от изолираната среда, създадена за тяхното ограничаване, или инжектиращи зловреден код, и разгледа тези случаи като ранен знак за по-лоши неща. Тя също така каза, че разработчиците алармират от инцидента с HuggingFace насам.
След това фон дер Лайен се позова на самата индустрия. Главните изпълнителни директори на най-напредналите компании за изкуствен интелект са казали на ЕС, че е „време да се забави темпото при саморекурсивните модели. Да се определи темпото на авангардните технологии“, каза тя, без да ги назовава. Тя аргументира, че правителствата нямат причина да бъдат по-малко конкретни относно опасността от компаниите, които изграждат системите.
Тя нарече Законодателния акт за изкуствения интелект (AI Act) — законът на ЕС, регулиращ изкуствения интелект — решаваща част от поставянето на предпазни ограждения и каза, че той дава на Европа авторитет да води международната работа по проблема.
Какво планира да направи ЕС
Фон дер Лайен посочи Канада и Обединеното кралство като партньори за съвместна работа по оценка на модели, проверка, рано предупреждение и сигурност на изкуствения интелект. Канадският министър-председател Марк Карни присъства на речта по нейна покана. Тя отделно предложи CETA (търговското споразумение между ЕС и Канада) да се превърне в по-широк съюз, покриващ изкуствен интелект, квантови технологии и кибер и икономическа сигурност.
Относно капацитета тя каза, че Европа се нуждае от свои собствени способности за изкуствен интелект, особено за защита на националната сигурност, и че ЕС трябва да увеличи изчислителната си мощност. Тя обеща да представи начин как това да стане по чист и икономичен начин и да намери нови начини за комбиниране на публични и частни средства в подкрепа на обещаващи европейски стартиращи компании. Тя не даде цифри за нито едно от двете. Тя заяви, че ЕС вече е свършил работа по гигафабриките и технологичния суверенитет.
Пет сектора с инициативи, очаквани през ноември
Фон дер Лайен прекара голяма част от секцията за изкуствен интелект върху въвеждането на технологията в практиката. Тя сравни момента с печатарската преса, която е измислена от германец и след това усвоена в цяла Западна Европа, и каза, че Европа може да излезе напред в областта на изкуствения интелект чрез внедряването му, дори ако други изграждат най-добрите модели.
„Ключът е създаването на стойност, която изкуственият интелект все още не е предоставил. Преместване на изкуствения интелект от екрана към реалната икономика и общество. Във фабричния цех. В болничното отделение. В прецизното земеделие. В нашите енергийни мрежи. За автономно шофиране. За отбраната“, каза фон дер Лайен.
Тя изброи фабричните цехове, болничните отделения, прецизното земеделие, енергийните мрежи, автономното шофиране и отбраната като цели. Предимството на Европа, каза тя, се крие в нейните промишлени компании, които притежават висококачествени данни, с които могат да се обучават модели на изкуствен интелект, създадени за конкретни индустрии. Комисията се концентрира върху пет сектора, в които вижда най-голям потенциал и разполага с данни: здравеопазване, транспорт, хранително-вкусова промишленост, усъвършенствано производство, както и отбрана и космос. Фон дер Лайен каза, че инициативите в тези сектори ще бъдат обявени през ноември, като държавите членки, евродепутатите, индустрията и предприемачите са поканени да се присъединят.
Здравеопазването беше неин конкретен пример. Мамографският скрининг намалява смъртността с около 30 до 40 процента сред жените, които се преглеждат, каза тя. Тази цифра се отнася за самия скрининг и тя не даде число за това какво добавя изкуственият интелект към това. нейното твърдение за скрининга, подпомаган от изкуствен интелект, бе, че той открива повече ракови заболявания и ги открива по-рано, така че повече жени оцеляват. Тя постави граница пред автоматизираната диагностика.
„Искам ли моят лекар да има незабавен достъп чрез изкуствен интелект до всички данни, необходими за вземане на най-добрия избор за диагностика или лечение? Да, разбира се. Но искам ли моят лекар да бъде робот, подпомаган от изкуствен интелект? Не, разбира се, че не. Не искам робот да ми казва дали имам рак или не. Въпросът е, че изкуственият интелект трябва да даде повече възможности на нашите лекари. Не да ги замени“, каза фон дер Лайен.
Тя обобщи целта на ЕС като изкуствен интелект, който предоставя повече стойност на по-ниска цена, използва по-малко енергия и оставя хората да ръководят.
Работни места, деца и дълбоки фалшификати
Фон дер Лайен каза, че ползите от изкуствения интелект са разпределени неравномерно между различните умения, поколения и региони, и посочи младите хора, които се борят да намерят първа работа. Тя обеща Законодателен акт за качествени работни места (Quality Jobs Act) преди края на годината.
Изкуственият интелект се появи и в нейните планове за безопасност на децата. Сред онлайн вредите, които тя изброи, беше използването на снимки на момичета за създаване на съдържание със сексуално контекст с помощта на изкуствен интелект. Комисията трябва да предложи Акт за децата на ЕС (EU Kids Act). Той ще забрани социалните мрежи за деца под 13 години, ще ограничи 13- и 14-годишните до профили под родителски контрол с ограничени функции и времеви ограничения и ще задължи платформите да изграждат безопасен дизайн в услугите за потребители на възраст от 15 до 18 години. Тежестта на доказване на безопасността ще се прехвърли върху платформите. Отделно тя изброи вайръл видеоклиповете с дълбоки фалшификати (deepfakes) сред методите за чуждестранни дезинформационни кампании.
Секторните инициативи се очакват през ноември. Фон дер Лайен не даде дата за срещата с лабораториите за авангарден изкуствен интелект — частта от нейния план, насочена към рисковете, за които тя предупреди.
- Европа
- Европейска комисия
- правителство