Anthropic пусна мащабно обновление на класификаторите за биологична безопасност на Claude Fable 5, намалявайки свързаните с биологията пренасочвания („fallbacks“) с приблизително 85% във всички свои продуктови интерфейси.
Промяната означава, че потребителите, задаващи легитимни въпроси в областта на здравеопазването, медицината или образователната биология, много по-рядко ще бъдат пренасочвани към Opus 5 – по-малко способен модел, към който Fable 5 преминава винаги, когато неговите предпазни механизми засекат потенциално рисково запитване.
Когато Fable 5 беше пуснат на пазара, Anthropic умишлено внедри изключително широки класификатори за биология – автоматизирани системи, проектирани да засичат кога моделът е помолен да изпълни защитена или с двойна употреба задача в областта на биологията.
Тези класификатори грешаха сериозно в посока на прекомерна предпазливост, блокирайки широк спектър от запитвания, включително много, които почти сигурно бяха безопасни, и ги пренасочваха към Opus 5.
Anthropic прие този компромис, тъй като водещите биологични възможности на Fable 5 означаваха, че в грешни ръце той би могъл да осигури „значително предимство“ на злонамерен субект, опитващ се да направи нещо като разработване на биологични оръжия.
Компанията се позова на собствените си оценки на възможностите и на Годишната оценка на заплахите за 2026 г. на разузнавателната общност на САЩ, която предупреждава, че напредъкът в синтетичната биология и редактирането на генома може да даде възможност за нови биологични заплахи и че няколко държавни субекта вероятно поддържат активни офанзивни програми за биологично и химическо оръжие.
Основната трудност е, че биологичните изследвания по своята същност са с двойна употреба: същите знания, необходими за разработването на ваксина или лекарство като каптоприл (получено от изследване на токсична змийска отрова), могат да се припокриват със знания, които позволяват нанасянето на вреда. Anthropic отбелязва, че сложните атакуващи често експлоатират тази двусмисленост, за да прикрият опасни искания като обикновени изследвания.
През последните няколко седмици Anthropic пренаписа „конституцията“ на класификатора – набора от правила, който определя какво се счита за защитено в сравнение с разрешеното съдържание, като детайлизира изключения за добронамерени случаи на употреба.
Компанията събра обратна връзка от разнообразна група от вътрешни и външни експерти, генерира нови данни за обучение, отразяващи преразгледаните правила, и преобучи класификатора. Целта беше да се запази откриването на наистина вредно съдържание или такова с двойна употреба, като същевременно рязко се намалят фалшивите сработвания при ежедневни запитвания.
В практически план това означава, че потребителите вече могат да очакват по-малко прекъсвания при интерпретиране на лабораторни резултати, проучване на симптоми или изследване на биологични теми за образователни цели. Здравните специалисти също трябва да забележат подобрена поддръжка при рутинни клинични задачи.
Въпреки подобренията, Fable 5 ще продължи да пренасочва към Opus 5 за домейни с двойна употреба като вирусология, токсикология и молекулярен дизайн, което означава, че той остава неподходящ за професионални биологични изследвания или дейности по разработване на лекарства.
Anthropic заявява, че има ангажимент в крайна сметка да затвори тази пропаст чрез „пътища за доверен достъп“, които биха дали на проверени изследователи водещи възможности в биологията, без да се отваря вратата за злоупотреби.
Компанията признава, че нейните защити остават несъвършени и някои нискорискови искания все още понякога ще задействат вградения марж на безопасност на класификатора. Планират се допълнителни подобрения и се приканва за обратна връзка от потребителите, за да продължи подобряването на баланса между достъпност и безопасност.