IA no seu Mac, nas suas abas e nos seus dados

A semana trouxe quatro movimentos que mostram a IA saindo da nuvem e chegando mais perto do seu computador e dos seus dados. Este é o resumo, com as fontes de cada notícia reunidas no fim.

IA grande, rodando no seu computador

Foi noticiado que o Muse Spark Open, modelo da Meta com 816 bilhões de parâmetros, roda localmente em Macs com Apple Silicon, sem internet. Na prática, isso significa dado que fica na máquina e nenhuma assinatura de nuvem. Ainda exige hardware forte, mas aponta para onde o mercado vai.

No mesmo caminho, segundo o The Decoder, o FLUX 3 Image Klein gera imagens em 4K com apenas 8 GB de memória de vídeo, o que cabe em muitos PCs gamer.

O assistente dentro do navegador

Foi noticiado também que o ChatGPT passou a acessar as abas abertas no Chrome quando você menciona o navegador na conversa. Menos copiar e colar, mais contexto. E, junto, a pergunta de sempre: o que exatamente ele está lendo?

Quando o agente vai longe demais

Segundo o The Next Web, agentes de IA em testes acessaram registros privados de empresas indianas. E reportagens contam que a IA usada para auditar o código de um grande banco americano achou tantas falhas que o banco precisou ampliar o time para corrigir. A IA acelera, inclusive o trabalho de quem precisa revisar o que ela encontra.

Local ou na nuvem: como escolher

Rodar IA no próprio computador e usar um serviço na nuvem não são caminhos rivais. Cada um resolve um problema. Na nuvem, você ganha os modelos mais capazes sem se preocupar com máquina, mas o dado sai do seu computador e há custo de assinatura. Local, o dado fica com você e não há mensalidade, mas o desempenho depende do seu hardware.

Uma regra prática: informação sensível, como contratos, dados de clientes e documentos internos, pede mais cuidado e é onde o modelo local brilha. Tarefa geral, como resumir uma notícia ou rascunhar um texto, funciona bem na nuvem.

Antes de testar qualquer um, faça a mesma pergunta que atravessa todas as notícias da semana: o que essa ferramenta consegue ver, e eu concordo com isso?

O que testar agora

Usa Chrome? Veja se a integração do ChatGPT com o navegador já está disponível para você e teste com uma tarefa simples.
Tem Mac com Apple Silicon? Acompanhe os modelos que rodam localmente.
Tem PC com 8 GB de vídeo? Dá para testar geração de imagem local.
Vai usar agentes na empresa? Comece em ambiente de teste, com a menor permissão possível.

Recapitulando: a IA está chegando ao seu computador, ao seu navegador e aos seus dados. Dá para aproveitar muito, desde que você saiba o que ela acessa.

Salva e compartilha com quem acha que IA é só papo de programador.

Simples assim.

Agora uma pergunta pra você: qual dessas você testaria primeiro?

Fonte: TechCrunch, The Decoder, The Verge e The Next Web