Apple mistura IA no iPhone, na nuvem e nos servidores da Google

A Apple já tem terceira geração de modelos base e, pela primeira vez, uma parte do cérebro da coisa vive oficialmente fora de casa. Há modelos no iPhone, modelos na nuvem da Apple e um modelo Pro estacionado em GPUs Nvidia nos servidores da Google. Tudo isto é o motor real do que a marca passou a chamar Apple Intelligence.

O filme começou em 2024, quando a Apple apresentou os primeiros Apple Foundation Models (AFM), com um modelo de linguagem de cerca de 3 mil milhões de parâmetros a correr em dispositivo e um modelo maior em Private Cloud Compute, a tal infraestrutura de nuvem própria em servidores com chips Apple. Ideia: ter IA de nuvem, mas com garantias de privacidade equiparadas ao processamento local, auditáveis por investigadores externos. O dogma era simples: nada de depender da infraestrutura de terceiros.

Dois anos e vários atrasos depois, esse dogma cedeu à realidade. A Apple encalhou a fazer IA competitiva e teve de se apoiar na Google e no Gemini para as ambições mais altas. O resultado vê‑se agora: cinco modelos na geração AFM 3, dois locais e três na nuvem. AFM 3 Core e AFM 3 Core Advanced vivem nos dispositivos com Apple silicon, enquanto AFM 3 Cloud, ADM 3 Cloud (Image) e AFM 3 Cloud Pro correm em servidores. Todos suportam Apple Intelligence nos produtos recentes, mas só o AFM 3 Cloud Pro sai da bolha de hardware da Apple e passa para GPUs Nvidia em Google Cloud.

AFM 3 Core é o sucessor directo do modelo denso de 3 mil milhões de parâmetros. A estrela, porém, é o AFM 3 Core Advanced: um modelo de 20 mil milhões de parâmetros, multimodal, desenhado para ditado mais fiável e vozes sintéticas mais naturais, a correr localmente nos equipamentos mais potentes. Para não matar a bateria nem precisar de 32 GB de RAM em todos os iPhones, a Apple recorre a uma arquitectura esparsa, em que só 1 a 4 mil milhões de parâmetros são activados por pedido. Parece Mixture of Experts, mas a empresa diz que a selecção se baseia numa técnica própria de “poda” descrita no estudo Instruction-Following Pruning for Large Language Models. Em termos práticos, o utilizador ganha respostas mais capazes sem transformar o telemóvel num aquecedor de bolso.

Do lado da nuvem, o AFM 3 Cloud é o trabalhador de linha, optimizado para latência e custo, enquanto o ADM 3 Cloud (Image) trata de geração e edição de imagens, incluindo o novo Image Playground e funções avançadas de edição de fotografias. O topo disto tudo é o AFM 3 Cloud Pro, apontado para casos como agentes com acesso a ferramentas externas e tarefas de raciocínio mais pesadas. É aqui que entra a tal parceria com a Google: o modelo corre em GPUs Nvidia em Google Cloud, mas encaixado numa versão estendida do Private Cloud Compute, que a Apple diz manter o mesmo modelo de segurança e de privacidade, mesmo em hardware que não controla.

Para quem está em Portugal, isto traduz‑se em menos “ir buscar ao ChatGPT” e mais IA metida directamente no iPhone, iPad e Mac, com alguma ajuda da nuvem. A parte crítica será sempre a confiança: a Apple insiste que nem a própria Google vê os dados que passam pelo AFM 3 Cloud Pro e que todo o código dessas máquinas é verificável. A história da empresa joga a favor, mas também mostra outra coisa: até o gigante de Cupertino acabou por aceitar que, em IA generativa séria, ninguém anda a remar sozinho.

Fonte: 9to5Mac