През август OpenAI събра около 40 математици, за да обсъдят какво да се направи, ако изкуственият интелект изпревари човешките възможности в тази област. Компанията е загатнала, за това че нейните мощни модели са решили стотици дългогодишни математически проблеми, твърдят присъствали на срещата, но представители на компанията са уверили участниците, че няма да публикуват всички решения наведнъж — уверение, за което говорителят на OpenAI Линдзи Маккалъм казва, че компанията „не е информирана“ — и поради притеснения как би реагирала общността, е потърсила съвет как да публикува констатациите.

Присъстващите са реагирали със „смес от вълнение и безпокойство“, но срещата е била обещаваща първа стъпка, спомня си математикът от Северозападния университет Брина Кра. Групата, споделя тя пред WIRED, е поискала от фирмата да не ги публикува просто в блог или публикация в социалните мрежи, както са направили с 10 проблема по-рано същия месец. Вместо това е било важно OpenAI да публикува научни доклади, обясняващи работата, така че математиците да могат да възприемат, анализират и използват резултатите, според Кра. „Очевидно това мнение е било пренебрегнато“, казва тя.

OpenAI е споделила пред хора, че планира във вторник да качи в GitHub стотици от резултатите, споменати на срещата през август, твърдят източници, запознати с плановете, пред WIRED. Публикуването би било най-новото от десетки хиляди математически решения, генерирани от AI тази година, тъй като водещите модели стават все по-способни.

„На 28 август започнахме да обучаваме нов вътрешен модел. В допълнение към разрешаването на проблема за наградата на хилядолетието Навие — Стокс, този модел вече е разрешил повече от 100 дългогодишни отворени проблема в повечето области на математиката“, казва Маккалъм. „Работим по отговорното публикуване на следващите математически резултати от нашия модел, като разчитаме на съвети и обществени препоръки от Консултативната група по математика и изкуствен интелект към Института за модерни изследвания, за да организираме начина, по който пускаме тези резултати. Все още нямаме определен час за публикуване.“

Но за няколко водещи математици предстоящото публикуване е и знак, че компанията не се е научила почти на нищо от противоречията около предишни издания.

В разговори с WIRED академиците казват, че усещат как областта се е превърнала в площадка за игра за OpenAI и нейния съперник Anthropic, за да демонстрират своите модели, докато и двете компании се подготвят за грандиозни първични публични предлагания (IPO). В бързането си да се надпреварват, казват математиците, традиционните научни процеси за публикуване и посочване на авторството на резултатите са били пренебрегнати.

Най-поразителният случай досега дойде през септември. OpenAI внедри хиляди агенти за решаване на легендарен проблем с Наградата на хилядолетието за един милион долара, след като чу „слухове“, че други се доближават до решения. Тристан Бъкмастър, математик и професор в Нюйоркския университет, обвини компанията, че е изпреварила работата, която той е направил за решаването на елемент от проблема в лично сътрудничество със служителя на Anthropic Левент Алпоге. Двойката не бе публикувала работата си, но използваше инструментите на OpenAI в подкрепа на изследването си.

По време на опит за преговори относно зачитането на авторството Бъкмастър твърди, че изследователят от OpenAI Себастиан Бубек е загатнал, че Алпоге трябва да бъде изключен от всяка научна публикация, тъй като това би направило нещата сложни. (В отговор на запитване за коментар Бубек посочи предишно публично изявление, в което отрича да е искал Алпоге да не бъде посочван като автор.) Бъкмастър каза, че е отказал. В разговор Бубек е твърдял, че има известно притеснение относно това какво прави Anthropic, според записки от срещата, видени от WIRED. Левент сигурно говори с ръководството си в момента, за да ги уведоми, че OpenAI може да вземе проблем от Наградите на хилядолетието, е казал той според записките. Какво спира Anthropic да даде цялата си изчислителна мощност, за да спечели проблем от Наградите на хилядолетието?

Според записките Бубек също така е намекнал, че Бъкмастър ще съсипе кариерата си, когато Бъкмастър е заплашил да съобщи на пресата за убеждението си, че OpenAI е откраднала работата му. Ако не искаш да съм любезен, тогава не е нужно да съм любезен, казва Бубек според записките от срещата.

Нестор Гилен, гостуващ професор по математика в NYU, казва пред WIRED, че сред математиците „има усещане за гангстерско поведение“ от страна на AI компаниите.

„Не сме съгласни с това описание“, казва Маккалъм.

„Изпитвам голямо безпокойство и виждам това все повече и повече в моите колеги по математика, не поради самия AI, а поради AI компаниите“, казва Гилен. „Мисля, че голяма част от безпокойството е свързана с натрупването на власт на едно място.“

OpenAI събра консултативна група в средата на септември, за да помогне за определянето на това как компанията оценява и съобщава нови резултати, поддържа академичните и професионалните стандарти и изгражда инструменти в подкрепа на математическите изследвания и обучение. Но компанията май не е постигнала голям напредък, казват математици.

Мнозина са разочаровани, че OpenAI и Anthropic продължават да публикуват резултати чрез публикации в блогове, вместо чрез научни доклади, което ги прави по-трудни за проверка и често изключва предишна работа на други математици. Обявленията на парче не се ограничават само до лабораториите: самият Алпоге обяви, че е опровергал 87-годишна хипотеза чрез публикация в социалните мрежи, изпратена малко след финала на Световното първенство.

„Математиката чрез публикации в мрежата и математиката чрез съобщения за пресата за мен не е начинът да се подхранва екосистемата, създала плодородната почва, върху която те са се обучавали“, казва Кра.

Някои създадоха нови инструменти тази година в реакция на увеличението на доказателствата, подпомогнати от машини; идеята е да се помогне на общността както да използва нови резултати, така и да сортира онова, което се нуждае от допълнителен анализ. Инструментите включват Hexagon, хранилище за предимно генериран от AI материал, и Palomar, регистър на машинно потвърдена математика.

Въпреки че OpenAI беше директно насърчена да използва тези инструменти, „те не са променили поведението си“, отбелязва Кра. Нито пък тя чувства, че действията на компанията са съобразени с Декларацията от Лайден — призив от повече от 4000 математици към AI компаниите да отговарят на стандартите на математиците, за чието написване тя е помогнала.

Няколко служители в OpenAI вярват, че тяхната технология така или иначе е направила математиката мъртва, според хора, които са разговаряли с тях. („Не вярваме, че бъдещето на математиката е предварително определено“, казва Маккалъм. „Работим с математическата общност, за да управляваме бъдещето съвместно.“) Докато сценарият, при който възможностите на AI изпреварват тези на човешките изследователи, бе представен като хипотетичен по време на срещата през август, присъстващите, които разговаряха с WIRED, го тълкуваха като предупреждение за това какво предстои. Компанията е информирала математиците за своите възможности и пробиви по същия начин, по който „полицията би искала да уведоми семейството, преди да съобщи за смърт при автомобилна катастрофа“, отбеляза човекът.

Бубек изглежда вярва, че технологията на неговата фирма бързо ще сложи край на кариерата на повечето математици, според човек, запознат с мисленето му. Бубек казва пред WIRED, че вярва, че по-способният AI би могъл да помогне на математиците да се справят с по-амбициозни въпроси, да свържат по-добре работата си с решаването на предизвикателства от реалния свят и да направят математиката по-достъпна. „Виждам това като възможност да се разшири онова, което математиците могат да правят, и въздействието, което тяхната работа може да има“, казва той.

Математиците знаят, че трябва да се адаптират, особено за да подготвят по-младите поколения, но не вярват, че тяхната област е мъртва. „Това променя начина, по който ще работим, но мисля, че е момент, в който можем да мислим по-мащабно“, казва Кра. Тя се радва да има нов, мощен инструмент на свое разположение за решаване на проблеми — тя просто иска разкритията на компаниите да бъдат по-добри, за да може да се довери и да надгражда върху резултатите.

„Това е плашещо време“, казва тя, „но е и наистина изключително вълнуващо време.“