Бях офлайн миналата седмица в родния ми щат Ню Джърси, но когато се върнах в Силициевата долина, всички отново се паникьосваха за това колко бързо напредва изкуственият интелект. Въпреки че това със сигурност не е първият път, когато виждам подобни опасения, това е най-голямата паническа атака, на която съм бил свидетел от години.

Повече от 1000 служители в OpenAI, Anthropic и други лаборатории за изкуствен интелект подписаха петиция по-рано тази седмица, аргументирайки се, че САЩ трябва да намерят начин да „темповират“ надпреварата в сферата на изкуствения интелект – дипломатичен начин да се каже, че индустрията трябва да има възможност да координира временно спиране на разработката на изкуствен интелект или да забави нещата, ако излязат извън контрол. Самите OpenAI и Anthropic в крайна сметка подкрепиха писмото.

Петицията се появи седмица след като OpenAI разкри, че е причинила безпрецедентен инцидент в киберсигурността, при който един от нейните AI агенти е хакнал платформата на Hugging Face и няколко други услуги по време на вътрешно тестване.

Приблизително по същото време висши служители от администрацията на Тръмп започнаха да се паникьосват от впечатляващ нов китайски модел с отворени тегла, наречен Kimi K3, за който се твърди, че е дестилиран от Fable 5 на Anthropic. В отговор по-голямата част от технологичната индустрия – с изключение на Anthropic – се подписа под отворено писмо от Nvidia, искайки от правителството на САЩ да защити моделите с отворени тегла, с аргумента, че те са необходим противовес на техните затворени съответствия.

Тези събития може да изглеждат като куп разпокъсан хаос. Но мисля, че те са доказателство за по-широк мироглед, който се установява в Силициевата долина, където много вътрешни лица от технологичния сектор са все по-загрижени за доминацията на OpenAI и Anthropic. Изследователи и инвеститори, с които разговарях наскоро, рамкираха AI индустрията като състезание с два коня, което изглежда не се забавя, и това е причина за безпокойство.

Но различните групи имат свои собствени причини да се притесняват. Някои служители на OpenAI и Anthropic смятат, че техните работодатели се държат безотговорно в стремежа си да превземат пазара и че AI индустрията може скоро да разработи модели, които са твърде способни, за да бъдат ограничени от настоящите методи за безопасност. Те заявиха това в публични изявления, прикрепени към тазседмичната петиция „Темповиране на границата“.

„Видях как неумолимото темпо на изкуствения интелект затруднява обществото да върви в крак и как оказва натиск върху лабораториите да правят компромиси с безопасността“, каза в изявление, прикрепено към петицията, Джереми Хадфийлд, продуктов мениджър за изследвания в Anthropic.

За някои служители в сферата на изкуствения интелект фиаското с Hugging Face беше предупредителен изстрел, който демонстрира как усилията на OpenAI да смекчи рисковете от своята най-способна AI технология вече се оказват недостатъчни. Разбира се, инцидентът се случи, когато OpenAI тестваше AI модел за способността му да открива софтуерни експлойти, а компанията умишлено беше изключила предпазните мерки, предназначени да ограничат нейните способности за киберсигурност.

OpenAI заяви в своя анализ след инцидента, че тези тестове са били проведени в изолирана среда, но моделът в крайна сметка е получил достъп до отворения интернет. Някои експерти по-рано казаха пред WIRED, че практиките за сигурност на OpenAI е трябвало да бъдат по-стабилни.

Други групи в Силициевата долина са по-загрижени за властта, отколкото за безопасността. Инвеститорите за рисков капитал, технологичните ръководители и основателите на стартиращи компании се притесняват, че OpenAI и Anthropic просто ще се превърнат в следващото поколение Apple и Google, принуждавайки останалата част от технологичната индустрия да играе по техните правила. Малко странно е да се твърди, че частни стартиращи компании с малка или никаква печалба се държат като монополи, но това е обективът, през който мнозина – включително Марк Зукърбърг – започват да гледат на двете най-големи AI лаборатории.

Главният изпълнителен директор на Meta написа коментарна статия в Wall Street Journal тази седмица, предупреждавайки срещу централизацията на властта в AI индустрията, казвайки, че суперинтелектът трябва да бъде широко разпространен. Зукърбърг вероятно говори двулично – Meta наскоро реши да спре предоставянето на най-добрите си AI модели с отворен код и вместо това да ги предлага чрез платено API и абонаментна услуга, точно като OpenAI и Anthropic.

Главният изпълнителен директор на Meta може да се е опитвал да изпрати конкретно послание до регулаторите и индустрията. Четейки между редовете, мисля, че той основно казва „трябва да се уверим, че OpenAI и Anthropic няма да избягат напред с изкуствения интелект“. Зукърбърг далеч не е първият технологичен лидер, който изразява това опасение.

Не съм убеден, че тези коментарни статии и петиции ще направят много, за да спрат метеоритния възход на OpenAI и Anthropic. Големи сектори от икономиката разчитат на двата гиганта в областта на изкуствения интелект за успешни първични публични предлагания (IPO) и не съм сигурен, че някой – камо ли администрацията на Тръмп – има интерес да обърка това. Но технологичната индустрия става все по-нервна от темпото на развитие на затворения изкуствен интелект и това едва ли ще се промени скоро.

Защо стартиращите компании за AI видео навлизат в роботиката

Въпреки всичко казано, все още не бих пренебрегвал колко добри стават отворените модели. Black Forest Labs, германски стартъп, който пуска едни от най-популярните в света генератори на изображения и видео с отворени тегла, обяви миналата седмица, че пуска нов модел, който може да захранва и роботи. Стартъпът