IA

Chefe científico da OpenAI pede travão na corrida aos modelos gigantes

Jakub Pachocki defende que nenhum laboratório devia continuar a escalar modelos de IA à velocidade máxima. Ao mesmo tempo, a OpenAI gaba-se de ter máquinas a trabalhar três vezes mais do que humanos.

Chefe científico da OpenAI pede travão na corrida aos modelos gigantes

A mesma empresa que acabou de lançar o GPT-6 Astra publicou, no mesmo dia, dois textos difíceis de conciliar. Num, a OpenAI mostra números internos que parecem publicidade à produtividade turbo dos seus agentes. Noutro, o seu chefe científico, Jakub Pachocki, basicamente diz que ninguém devia estar a ir tão depressa.

No primeiro texto, a OpenAI explica que, em média, cada investigador da casa já tem 3,1 dias de trabalho de agentes por cada dia de trabalho humano, assumindo jornadas de oito horas. No início do ano, o uso era modesto. Em agosto, o investigador mediano gastava mais de 600$ em inferência por dia, aos preços da API. No percentil 90, o valor passa dos 7.000$ diários. É a versão corporativa do estagiário perfeito: nunca se queixa, não dorme e funciona a crédito em GPU.

Esses mesmos números mostram a cultura a mudar por dentro. O número de experiências por investigador ativo bateu recordes, os canais internos de suporte ficaram quase vazios, e até houve equipas a cancelar sessões de atendimento porque simplesmente deixou de aparecer gente. Não é difícil perceber porquê. Se tens um agente que lê código, escreve testes e lança experiências, esperar por ajuda de um colega torna-se um luxo caro. O laboratório começa a lembrar mais uma fábrica de cliques de IA do que um sítio onde humanos pensam juntos.

É aqui que entra o segundo texto, o ensaio de Pachocki com o título pouco subtil An Alien Mind. O responsável máximo pela investigação da OpenAI escreve que acredita que nenhum laboratório resolveu alinhamento e monitorização a um nível que permita continuar a escalar “à velocidade máxima” durante muito mais tempo, de forma responsável. Fala em “tempo de extrema cautela” e admite estar preocupado com o facto de ninguém estar preparado para as consequências de uma subida rápida da inteligência das máquinas. Isto vindo da mesma casa que tem vindo a apresentar avanços como a nova técnica de raciocínio que já levantou alarmes de segurança.

Pachocki até assinou, em julho, uma carta aberta a pedir ao governo dos EUA que imponha ritmos na investigação em IA de fronteira. Agora, defende abertamente “travagens voluntárias” até existirem barras de segurança partilhadas. Sam Altman, CEO da OpenAI, amplificou o texto na rede X e chamou-lhe “importante”. O que não diz é como se concilia esta conversa sobre prudência com um laboratório que está a gastar milhares de dólares por cabeça em computação diária e a transformar agentes em força de trabalho quase autónoma.

Para quem olha de fora, especialmente num contexto europeu em que o AI Act tenta pôr limites antes do estrago, a mensagem que sai da OpenAI continua ambígua. Os investigadores já funcionam com exércitos de agentes a multiplicar a sua capacidade. O chefe científico pede travão. O negócio precisa de pé no acelerador. É a mesma tensão que vimos quando a DeepMind decidiu pôr centenas de agentes a interagir e tropeçou numa crise ética. A diferença é que, desta vez, a própria pessoa que conduz o comboio está a admitir, por escrito, que a linha à frente ainda não está montada.

Fonte: The Next Web

Newsletter

Os artigos que importam, duas vezes por semana.

Terça e sexta, cinco minutos de leitura. Sem spam, cancelas quando quiseres.

Comentários · 0