Google пусна с отворен код плъгина Elephant-Goldfish Model – вътрешен инструмент, който задължава AI агента за програмиране да напише и защити документ за технически дизайн (design document), преди да докосне какъвто и да е код. Плъгинът предава този документ на нови AI сесии, които никога не са виждали предварителната дискусия по дизайна, и им възлага задачата да открият слабостите и грешките в него.
EGM плъгинът накратко (Източник: Google)
„Скоростта, постигната чрез изкуствен интелект, е трансформираща; тя обаче тихомълком въведе потенциална криза в надеждността, увеличавайки темпото на генериране на некачествено съдържание („slop“), програмни грешки и колапс на сесийния контекст. Инструментите за генеративен AI са отлични за увеличаване на скоростта на писане на код, но чистата скорост без структурирани предпазни механизми означава, че често просто мащабираме автоматично грешките си, вместо реално да пишем код по-бързо. Нуждаем се от промяна в парадигмата, която да съгласува човешката потребност от разбиране на системата с капацитета на AI за изпълнение“, пишат от екипа на Elephant-Goldfish Model.
Дълга памет, липса на памет
Elephant („Слонът“) е дълготрайна сесия, която държи в полезрението си целия проект: архитектурата, първоначалната цел и малките решения, взети по пътя. Тя не пише код. Нейната задача е да интервюира разработчика, да спори по избора на решения и да води структуриран отчет.
Всеки Goldfish („Златна рибка“) функционира без запазване на състоянието (stateless), което означава, че започва без никакъв спомен за случилото се преди това. Логиката на Google е, че проверяващ, който не е участвал в дискусията по дизайна, не носи нейните „слепи петна“ и предубеждения.
Три проверки преди писането на код
Плъгинът функционира в три фази, всяка от които е отделна команда. В egm-brainstorm разработчикът и Elephant работят под стриктно правило да не пишат код, обсъждайки варианти и тествайки предположения. В egm-draft те изготвят Markdown документ за дизайн, обхващащ проблема, техническия план, разгледаните алтернативи и план за внедряване, в който се посочват конкретните файлове за промяна.
Goldfish се включват в egm-review. Една „рибка“ прочита целия документ и трябва да обясни дизайна обратно на Elephant. Ако не разбере плана правилно, документът се счита за двусмислен и се връща за допълнителна редакция. Няколко други Goldfish сесии действат като критични рецензенти, търсещи гранични случаи, скрити зависимости и логически пропуски, като техните възражения се връщат към Elephant за отстраняване. Последната Goldfish сесия взема окончателно решение дали файловите пътища, структурите от данни и сигнатурите на функциите са напълно дефинирани и еднозначни.
Пропуските в сигурността не са изрично упоменати в списъка на проверяващите. Екип, който желае оценка на заплахите за дизайна, все пак трябва да я настрои допълнително, въпреки че правилата и профилите на проверяващите подлежат на персонализация, така че добавянето на Goldfish с фокус върху киберсигурността е напълно осъществимо.
Хиляди ежедневни потребители в Google
Хранилището се предоставя с Markdown правила, дефинирани роли за подагенти (персоните, които всяка AI проверяваща сесия заема) и работни процеси за преглед. Плъгинът работи в средата за разработка Antigravity, като от Google заявяват, че предстои поддръжка и за други среди.
Google посочва, че хиляди техни служители използват плъгина ежедневно за пускане на код в реална среда. Той е достъпен безплатно в GitHub.