Gemini 4 Carbon на Google е авангарден модел с изкуствен интелект, предназначен за задачи в областта на софтуерното инженерство и киберсигурността, със защитни механизми, надграждащи тези на неговия предшественик Argon.
От Google споделят, че техните екипи са наблюдавали как Carbon прекарва дни в разследване и коригиране на програмни грешки в големи кодови бази и нискостепенни системи. Моделът също така е обучен да се справя със сложни задачи и ситуации под високо напрежение.
Откриване и отстраняване на пропуски в сигурността
Според Google Carbon превъзхожда своите предшественици в откриването на дефекти в сигурността, оценката дали атакуващи биха могли да ги експлоатират и разработването на корекции за сигурност.
При вътрешни тестове успеваемостта на Carbon при генериране на защитен код е била над два пъти по-висока от тази на Argon. Екипът на Google Chrome съобщава, че Carbon се е представил повече от 10 пъти по-добре при генерирането на висококачествени корекции в сравнение с голям водещ модел на друга лаборатория.
„При вътрешните бенчмаркове Carbon осигурява значителен напредък при генерирането на сигурен код, а в реални среди за разработка с нашите собствени екипи показва намалени нива на несъответствие и фабрикуване на данни“, заяви Корай Кавукчуоглу, старши вицепрезидент в Google DeepMind и главен архитект по изкуствен интелект в Google.
Платформата за сигурност в облака на Google, Wiz, докладва, че Carbon води в сравнителните тестове за проникване в уеб среди (penetration testing), които оценяват уебсайтове и приложения за уязвимости, подлежащи на експлоатация.
При външни оценки Carbon постига резултат от 88,2% на SEC-bench Pro за откриване на уязвимости в реален софтуер, 54,8% на ExploitGym за определяне дали уязвимостите могат да бъдат експлоатирани, и 71,0% на CWE-bench на Collinear за отстраняване на недостатъци в сигурността.
От Google уточняват, че тези оценки са проведени без предварително зададени предпазни бариери (guardrails).
Подобряване на защитните механизми и надеждността
Carbon надгражда рамката за безопасност и сигурност на Argon, като съчетава обучение на модела, защити срещу злоупотреби в реално време, устойчивост срещу атаки тип prompt injection и наблюдение на логическата обосновка на модела.
Google отчита, че при вътрешни тестове Carbon е генерирал приблизително два пъти по-малко непотвърдени твърдения в сравнение с Argon. Моделът също така разяснява своите ограничения, идентифицира липсваща информация и проверява източници за отстраняване на несъответствия, преди да предприеме действия при неясни инструкции.
На Terminal-Bench 4.0 степента на успешно заобикаляне на правилата при Carbon пада до 0%, а опитите за нарушения спадат до 0,4%. По време на съвместната работа по програмиране с екипите на Google предупрежденията за критично поведение, противоречащо на зададените инструкции, са намалели с близо 80%.
Google отчита също 26% намаление на действията извън обхвата на задачата и 29% намаление на т.нар. „непълно обслужване“ (under-service).
В теста за непряко инжектиране на инструкции (Indirect Prompt Injection Benchmark) на Gray Swan Carbon устоява на всяка тествана атака, докато Argon регистрира 0,7% успеваемост на атаките. Тези атаки правят опит да пренасочат системата с изкуствен интелект чрез зловредни инструкции, вградени в съдържанието, което тя обработва.
Наличност и ценообразуване
Google посочва, че първоначално достъпът ще бъде ограничен до избрана група експерти по киберзащита, след което постепенно ще бъде разширен към допълнителни доверени партньори чрез програмата Fairwind.
Компанията ще събира обратна връзка и ще усъвършенства защитните механизми, преди да направи Carbon по-широко достъпен за разработчици, бизнеса и крайните потребители.
Моделът ще стартира с промоционална цена от 2 долара за милион входящи токена и 10 долара за милион изходящи токена. Кешираните входящи токени ще получат 95% отстъпка от цената за вход. След изтичането на промоционалния период ще важат цени от 4 долара за милион входящи токена и 20 долара за милион изходящи токена.
- агентен изкуствен интелект
- киберсигурност
- Wiz