O mais recente marco matemático da OpenAI rapidamente se tornou alvo de controvérsia. Hoje, a empresa anunciou que seus agentes resolveram um dos Problemas do Milênio, alguns dos problemas em aberto mais importantes da matemática. Em circunstâncias normais, essa solução seria uma grande conquista para a OpenAI.
Mas o anúncio foi ofuscado por acusações de que a OpenAI usou o trabalho de Tristan Buckmaster, matemático da NYU, e de Levent Alpöge, funcionário da Anthropic, sobre o problema com auxílio de IA como ponto de partida, sem lhes dar o devido crédito. A OpenAI negou as acusações.
Permanece incerto se os modelos da OpenAI utilizaram o trabalho realizado por Buckmaster e Alpöge, embora Sébastien Bubeck, membro da equipe técnica da OpenAI, tenha afirmado em uma coletiva de imprensa que a equipe se inspirou a investigar o problema após ouvir um rumor sobre os esforços de Buckmaster e Alpöge. Mas, independentemente de os modelos da OpenAI terem ou não se beneficiado da pesquisa de Buckmaster e Alpöge, este episódio pode marcar um ponto de virada na história da matemática.
Os modelos de IA parecem agora essenciais para avançar nos problemas matemáticos mais importantes da nossa época, e a sua resolução pode exigir recursos disponíveis apenas em algumas poucas empresas de IA de ponta, que muitas vezes desafiam as normas de colaboração acadêmica que sustentam a maior parte do progresso matemático. Se esse é o futuro para o qual caminhamos, não está claro qual será o papel dos matemáticos humanos nele.
O problema que a OpenAI afirma ter resolvido é conhecido como o problema da existência e suavidade de Navier-Stokes. É um dos sete Problemas do Milênio selecionados pelo Instituto de Matemática Clay em 2000. As soluções são premiadas com um milhão de dólares; até hoje, apenas um outro Problema do Milênio havia sido resolvido.
O problema de Navier-Stokes diz respeito a um conjunto de equações que descreve como fluidos, como água e ar, fluem ao longo do tempo. As equações são amplamente utilizadas no campo da dinâmica dos fluidos e provaram ser poderosas, mas físicos e matemáticos não as compreendiam completamente. Em particular, era desconhecido até hoje se as equações poderiam, sob certas condições, falhar e prever um estado de coisas impossível — como um fluido com velocidade infinita.
Na segunda-feira, Buckmaster, da NYU, publicou uma demonstração na rede social Mastodon mostrando que uma versão simplificada das equações de Navier-Stokes pode, de fato, falhar — um grande avanço na solução do Problema do Milênio. Ele e Alpöge trabalharam no problema por quase um ano, usando modelos disponíveis publicamente tanto da OpenAI quanto da Anthropic.
Hoje, a OpenAI apresentou uma prova demonstrando que as equações completas de Navier-Stokes também podem falhar. A prova foi obtida usando um modelo interno que supera drasticamente o já impressionante modelo Astra, lançado apenas na semana passada. A empresa afirma que não pretende reivindicar o prêmio de um milhão de dólares pela solução do problema.
Essas conquistas matemáticas são indiscutivelmente impressionantes, mas atraíram muito menos atenção do que a controvérsia sobre suas origens. Junto com a demonstração, Buckmaster publicou um documento detalhando suas interações com funcionários da OpenAI depois de ouvir rumores sobre o trabalho deles e entrar em contato com um deles. Segundo ele, os funcionários da OpenAI lhe apresentaram duas possibilidades: ou ele e Alpöge publicavam seu trabalho e a OpenAI publicaria a solução de Navier-Stokes no dia seguinte, ou ele trabalhava com a OpenAI em um artigo sobre Navier-Stokes que excluía Alpöge da autoria, devido à sua afiliação com a Anthropic, a maior rival da OpenAI.
Buckmaster também escreveu que perguntou aos funcionários se os agentes haviam obtido acesso às transcrições do trabalho que ele e Alpöge haviam realizado com os modelos da OpenAI, o que eles negaram; e se os modelos da OpenAI haviam sido treinados com base nessas transcrições, para o que não responderam. A MIT Technology Review entrou em contato com Buckmaster para comentar o assunto, mas não obteve resposta até a publicação.
A clara implicação do documento é que os modelos da OpenAI, de alguma forma, utilizaram o trabalho de Buckmaster e Alpöge. Esse cenário é plausível à primeira vista. As demonstrações de Buckmaster/Alpöge e da OpenAI utilizam uma abordagem para o problema de Navier-Stokes desenvolvida pelos matemáticos Diego Córdoba e Luis Martínez-Zoroa.
Segundo Javier Gómez-Serrano, professor de matemática da Universidade Brown, essa abordagem foi uma das várias consideradas promissoras para a solução do problema de Navier-Stokes. Portanto, embora não seja impossível que ambas as equipes tenham chegado a essa abordagem de forma independente, também é concebível que o trabalho de Buckmaster e Alpöge tenha influenciado o da OpenAI.
Na coletiva de imprensa, Mark Chen, diretor de pesquisa da OpenAI, negou novamente que quaisquer agentes ou funcionários da OpenAI tenham acessado as transcrições de Buckmaster e Alpöge — mas, considerando o que foi revelado sobre o ataque hacker à Hugging Face , fica claro que a OpenAI nem sempre tem plena consciência do que seus agentes estão fazendo.
Se os modelos da OpenAI foram treinados com base no trabalho de Buckmaster e Alpöge, ou se seus agentes de alguma forma tiveram acesso a ele, então a falha da empresa em apurar a verdade e dar o devido crédito a esses pesquisadores é lamentável. Mas talvez haja um pequeno consolo nessa versão da história para os matemáticos, pois sugeriria que o árduo trabalho de dois humanos, um dos quais um renomado especialista em Navier-Stokes, foi essencial para a capacidade dos agentes de resolver o Problema do Milênio.
Especialistas há muito identificam o "gosto pela pesquisa", ou seja, a capacidade de escolher questões e direções de pesquisa promissoras, como um grande obstáculo para a IA na ciência e na matemática. Se os agentes da OpenAI de fato optaram por seguir a abordagem de Córdoba-Martínez-Zoroa porque Buckmaster e Alpöge fizeram o mesmo, então o gosto humano pela pesquisa desempenhou um papel essencial no sucesso da OpenAI.
Ainda assim, o panorama geral é preocupante. O progresso que Buckmaster e Alpöge alcançaram ao longo de quase um ano de colaboração com modelos disponíveis publicamente demonstra o potencial da colaboração entre humanos e IA. No entanto, eles não conseguiram chegar a uma solução completa. Enquanto isso, a OpenAI encontrou uma solução em poucos dias usando um modelo interno, e o sucesso dessa solução teve um custo astronômico: na coletiva de imprensa, Bubeck e Chen afirmaram que a equipe só conseguiu resolver o problema executando cerca de 10.000 agentes simultaneamente, a um custo de milhões de dólares. (...)
Fonte: aqui
Postagens
