Миналата година Anthropic подкрепи първата вълна от закони за безопасност на авангардния изкуствен интелект (AI) в САЩ, като извоюва нови изисквания за прозрачност в Калифорния и Ню Йорк – нещо, срещу което голяма част от Силициевата долина се бореше с аргумента, че това ще задуши бума на изкуствения интелект. Anthropic обаче твърди, че тези закони вече може да са остарели, и сега компанията настоява щатите да приемат още по-строги регулации.
„Законопроектите за безопасност от 2025 г., фокусирани върху прозрачността, бяха наистина важно начало, но тъй като възможностите на AI системите продължават да напредват бързо, политическите мерки трябва да съответстват на това темпо“, заяви в интервю за WIRED Сезар Фернандес, ръководител на отдела за връзки с държавните и местните власти в САЩ на Anthropic. „Смятаме, че прозрачността и самоотчитането вече не са достатъчни мерки за сигурност за най-мощните AI системи.“
Това да бъдеш толкова силно „за“ регулациите е странно послание за стартъп, който в момента се оценява на близо 1 трилион долара. Но Anthropic е необичайна компания. Както сме писали и преди, лидерите на Anthropic вярват, че трябва да изградят мащабен бизнес, базиран на разработването и продажбата на достъп до напреднал изкуствен интелект, за да изпълнят своята основополагаща мисия: „да гарантират, че светът ще премине безопасно през прехода към трансформиращ изкуствен интелект“.
С разрастването си Anthropic започна да подкрепя някои от най-строгите предложени регулации в страната за компаниите, разработващи авангарден AI. Много от тези правила са предназначени да смекчат катастрофалните рискове от изкуствения интелект, включително възможността напредналите модели да допринесат за финансови бедствия или масова смърт.
Освен законите за самоотчитане в Калифорния и Ню Йорк, Anthropic подкрепи и мярка в Илинойс, изискваща AI лабораториите да преминават през оценка на техните процеси за безопасност от независими одитори. Съвсем наскоро компанията одобри политика в Масачузетс, която също би изисквала независим одит за AI лабораториите – и би дала правомощия на главния прокурор на щата да изисква съдебни забрани и мерки срещу компании, които не се съобразяват.
Тази седмица разговарях с Фернандес, за да разбера накъде се насочват политиките на компанията за изкуствения интелект. Фернандес се присъедини към Anthropic по-рано тази година, след като преди това е работил като ръководител на отдела за връзки с държавните органи в САЩ за гиганта в спортните залагания FanDuel и като старши сътрудник по публични политики в Uber. Той помогна и на двете компании да спечелят политически битки в различни щати в страната. Неговият опит вероятно ще се окаже ценен за Anthropic, тъй като Конгресът продължава да бави приемането на федерални регулации за AI, а щатите поемат инициативата.
Въпреки че прорегулаторната програма на Anthropic беше похвалена от групи за безопасност на изкуствения интелект, синдикати и други съюзници на компанията, някои лидери в Силициевата долина тълкуват нейните политически усилия през по-злонамерена призма.
Дейвид Сакс, бивш комисар по въпросите на изкуствения интелект в Белия дом и настоящ технологичен съветник на президента Доналд Тръмп, твърди, че Anthropic всъщност се опитва да прокара тромави закони, за да вкара по-малките AI стартъпи в капана на бюрокрацията и по този начин да си осигури лидерска позиция в надпреварата при изкуствения интелект.
„Anthropic провежда сложна стратегия за регулаторно захващане на пазара, основана на всяване на страх“, написа Сакс в публикация в социалните мрежи миналата година. „Компанията е основно отговорна за щатската регулаторна треска, която вреди на стартъп екосистемата.“
Фернандес категорично отрича обвинението, отбелязвайки, че Anthropic подкрепя само щатски законопроекти за AI, които се прилагат за „разработчици на големи AI модели“ – термин, дефиниран различно във всеки законопроект, но обикновено отнасящ се до компании, които са похарчили стотици милиони долари за разработване на AI и имат над 500 милиона долара годишни приходи. „Трудно е да си представим стартъп, който да покрива този праг“, казва Фернандес.
Но в свят, в който вече са необходими милиарди долари капитал за разработване на конкурентен модел от тип авангарден AI, е спорно дали няма шепа обещаващи стартъпи, които скоро биха могли да достигнат тези прагове. За да назовем няколко, Safe Superintelligence, Thinking Machines Lab и Mistral са събрали милиарди долари от инвеститори, въпреки че приходите им остават много по-ниски от тези на Anthropic или OpenAI. Разбира се, това не са обикновени стартъпи, но те са потенциални конкуренти на Anthropic.
Мисля, че по-защитимата версия на аргумента на Фернандес е, че всяка компания, която е достатъчно голяма, за да разработи мощен AI модел, трябва да бъде предмет на същите регулации, тъй като основните рискове от технологията са едни и същи. Фернандес отбелязва, че част от целта на Anthropic е „да вдъхнови надпревара към върха в разработването на най-безопасните и сигурни AI системи“, което според компанията включва и настояването за държавно законодателство.
„Нашата мисия е да се уверим, че този преход към свят с напреднал изкуствен интелект ще премине добре за американците и за човечеството“, казва Фернандес. „Ако сте разработчик, който създава мощни системи с изкуствен интелект, съществуват изисквания да бъдете прозрачни с хората относно това какво изграждате, възможностите на модела и рисковете, свързани с този модел за критичната инфраструктура в щатите – всичко това трябва да бъде основен приоритет.“
Има обаче граници за това какво Anth...