Бъдещите рискове, свързани с изкуствения интелект, най-вероятно ще дойдат от големи компании, които разработват технологии в тайна, докато отворените модели ще играят защитна роля, заяви в сряда Клеман Деланг, главен изпълнителен директор на Hugging Face, по време на събитието WIRED World Fair в Маями.

„По-голямата част от риска всъщност се създава от няколко играчи, които работят при затворени врати“, каза Деланг. „Основното смекчаване на този риск ще дойде от цялата екосистема, което означава всеки да може да разработва открито.“

Hugging Face е една от първите компании, станали обект на атака от излязъл извън контрол изкуствен интелект. През юли тази година агенти, тествани от OpenAI, успяха да напуснат своята изолирана среда и решиха да атакуват стартъпа в търсене на отговори на задачите, които им е било зададено да решат. Компанията използва китайски модел с отворени тегла, наречен GLM-5.2, за да разследва и отблъсне нападението.

Деланг отбеляза, че досега неправомерното поведение на агенти идва предимно от големи компании, които тестват авангарден изкуствен интелект в тайна. Той допълни, че бъдещите рискове, вероятно включващи биологичните способности на моделите или капацитета им да се самоусъвършенстват рекурсивно, също вероятно ще възникнат от тези затворени лаборатории.

Деланг посочи, че Hugging Face е избрала да не търси съдебна отговорност от OpenAI за атаката, но добави, че онези, които внедряват ИИ агенти, трябва да носят законова отговорност за техните действия. „Кибератаките са незаконни и смятам, че е наистина важно да гарантираме, че кибератаките, извършвани от агенти, също са незаконни“, заяви той по време на събитието. „Не искаме да създаваме среда, в която няма отговорност и никой не поема вина за кибератака.“

За разлика от някои изследователи в областта на изкуствения интелект, които предупреждават, че технологията може да представлява екзистенциален риск за човечеството, Деланг каза, че неговият показател P(doom) — вероятността това да се случи — е „близо до нула“. „Има много други неща, които биха могли да унищожат света“, коментира той.

Hugging Face е водеща платформа за модели с изкуствен интелект с отворени тегла или такива, достъпни за изтегляне. Нейните потребители могат да споделят и достъпват модели, хоствани от компанията, или да ги изтеглят на собствените си компютърни системи.

Nvidia, доминиращият световен производител на чипове за изкуствен интелект, обяви през септември тази година, че ще придобие платформата за 12.93 милиарда долара. Когато придобиването беше обявено, от Hugging Face заявиха, че имат около 18 милиона потребители.

По време на WIRED World Fair Деланг разкри също, че Hugging Face вече разполага с над 20 милиона разработчици на ИИ, което показва бърз растеж. Той сподели още, че компанията е продала 50,000 броя Microducks — симпатичен двукрак робот на Hugging Face, който може да бъде програмиран с помощта на изкуствен интелект.

Деланг заяви пред конференцията, че успехът на изкуствения интелект с отворен код ще бъде от решаващо значение и за предотвратяването на пълната доминация на няколко компании и лица върху бъдещето.

„Много лесно бихме могли да се окажем в свят, в който само няколко компании контролират по-голямата част от изкуствения интелект“, каза Деланг. „Съществуват много силни естествени тенденции към това, тъй като няколко компании реално монополизират таланта, изчислителната мощ и възможностите.“

Деланг допълни, че предоставянето на възможност на повече хора да изтеглят и персонализират модели с изкуствен интелект ще доведе до по-демократично технологично бъдеще. Главният изпълнителен директор на Hugging Face отбеляза, че придобиването от страна на Nvidia ще позволи на компанията да остане конкурентоспособна, тъй като изкуственият интелект изисква все повече ресурси.