Future AGI е платформа с отворен код за проследяване, оценяване, симулиране и поставяне на предпазни огради за агенти с големи езикови модели (LLM), лицензирана под Apache 2.0 и с възможност за самостоятелно хостване. Самостоятелно хостваните инстанции се регистрират във Future AGI при първото зареждане и изпращат идентификатор на инстанцията, низ с версията, тип внедряване, както и имейл адресите и домейните на активните администратори.
Тази регистрация се задейства веднъж, преди някой да влезе в контролния панел. Опцията за отказ е една променлива на средата, FUTURE_AGI_TELEMETRY_DISABLED=1, поставена във файла .env преди първия старт. Изпуснете ли този прозорец, списъкът с администратори вече е напуснал мрежата.
Future AGI посочва внедряването в изолирана среда без достъп до интернет (air-gapped) и локално на място (on-prem) като поддържано и без необходимост от изпращане на данни към външни сървъри.
Деактивирането на телеметрията оставя само един пинг за преброяване, носещ идентификатор на инстанцията, версията и типа на внедряване, като имейлите се удържат. Периодичните сигнали за активност спират. Разделът за телеметрия на Future AGI завършва с препоръка за операторите: „изключете мрежата в периферията, ако имате нужда от пълна тишина“.
Инсталаторът стартира ClickHouse, PostgreSQL, Redis, RabbitMQ и Temporal зад контролен панел на localhost:3000. Проследените данни (spans) попадат в ClickHouse. Текстът на подканите (prompts), изходните данни от модела и повикванията към инструменти преминават през трасиращия модул по пътя към това хранилище.
Инструментариумът обхваща над 50 рамки за агенти, включително LangChain, LlamaIndex, CrewAI и DSPy, чрез OpenTelemetry. Защитникът наследява контрола на достъпа до тази база данни заедно с проследените данни.
Шлюзът стои пред всичко
Командният център за агенти (Agent Command Center) е прокси, съвместимо с OpenAI, стоящо пред над 100 доставчици, със стратегии за маршрутизация, семантично кеширане, виртуални ключове, MCP и A2A. Всички идентификационни данни за доставчици в дадено внедряване завършват там.
Модулът Protect предлага 18 вградени скенера за лични данни (PII), заобикаляне на защитите (jailbreak) и инжектиране на подкани (prompt injection), плюс адаптери за външни доставчици, обхващащи Lakera, Presidio и Llama Guard. Те работят директно в шлюза или самостоятелно чрез SDK. Вграденото сканиране поддържа P99 латентност на или под 21 ms при тестовете за производителност на проекта.
Future AGI е достъпна безплатно в GitHub.