OpenAI се подготвя да добави невидими водни знаци към текста, генериран от ChatGPT и Codex в Европейския съюз.
Водният знак няма да бъде видим, когато четете или копирате текста. Вместо това OpenAI заявява, че новата ѝ технология textGrain леко променя избора на думи на модела, за да създаде статистически модел, който по-късно може да бъде открит.
„През следващите седмици ще добавим невидим воден знак към отговарящия на изискванията текстови изход от ChatGPT и Codex в Европейския съюз“, обясниха от OpenAI.
OpenAI все още не прави това глобална настройка по подразбиране.
От днес разработчиците на API по целия свят могат да се включат по желание в поставянето на водни знаци за поддържаните модели, но то остава изключено по подразбиране.
Компанията също така отваря кандидатстването за своя детектор на водни знаци, въпреки че достъпът първоначално ще бъде ограничен до одобрени изследователи и експертни организации.
OpenAI признава, че нейната система за водни знаци в изкуствения интелект може да изчезне при редактиране на текста
Поставянето на водни знаци върху текст далеч не е съвършено и собствените тестове на OpenAI показват, че сравнително нормалното редактиране може значително да намали способността ѝ да открива текст, генериран от изкуствен интелект.
„При оценка на пасажи от 400 токена, заместването на 10% от думите със синоними намали откриваемостта от около 92% на 66%. Замяната на 25% от думите я намали до 17%“, отбелязват от OpenAI.
При целева стойност от 1% фалшиво положителни резултати OpenAI е открила водния знак в около 80% от отговорите по психология с дължина 200 токена, в сравнение с приблизително 95%, когато текстът е достигнал 400 токена.
Откриването е било още по-лошо за предмети като математика, където моделът има по-малко свобода да избира различни думи.
„Липсата на открит воден знак не доказва човешко авторство“, предупреждават от OpenAI. „Текстът, генериран с инструменти на OpenAI, може да бъде твърде кратък, редактиран или преведен, за да работи откриването надеждно.“
От OpenAI казва също така, че откритият воден знак не разкрива кой е генерирал текста, неговия акаунт, подкана (prompt) или разговор и не може да каже каква част от крайния труд е написана или редактирана от човек.
Интересното е, че OpenAI твърди, че водната марка не влияе съществено на качеството на GPT-6 Astra, като резултатите от тестовете за производителност остават общо взето подобни, когато textGrain е активиран.