Os planos de IA de 200 dólares da OpenAI e da Anthropic podem gerar milhares em utilização equivalente de API

Segundo um estudo da empresa de estudos SemiAnalysis, duas subscrições de IA com um preço fixo de 200 dólares por mês podem oferecer mais utilização do que o sugerido pelo preço.

Para a OpenAI e a Anthropic, isto levanta a seguinte questão: durante quanto tempo pode durar o acesso subsidiado à tecnologia enquanto houver pressão do mercado para lucrar com a IA?

Segundo a SemiAnalysis, foram adquiridas assinaturas de ambas as empresas, que foram utilizadas para realizar um extenso trabalho de codificação até ser atingida a quantidade máxima de trabalho permitida na semana.

O custo dos serviços no plano Claude da Anthropic, de 200 dólares, equivale a cerca de 8.000 dólares por mês, com base nas taxas padrão da API. No caso do plano de 200 dólares da OpenAI, o custo atingiu cerca de 14.000 dólares. O inquérito foi realizado e as conclusões iniciais foram divulgadas em junho. Resultados adicionais foram divulgados a 23 de agosto.

Porque é que uma estimativa de 2.000 dólares se transformou em cinco dígitos?

Os valores são muito superiores ao que muitos no setor acreditavam ser possível. Conforme relatado pela SemiAnalysis, os especialistas do setor presumiam que uma subscrição de 200 dólares poderia render cerca de 2.000 dólares em tokens por mês. Mas quem utiliza todos os limites semanais pode obter três a sete vezes mais do que isso.

Os planos Max da Anthropic começam nos 100 dólares mensais, com acesso a 5x ou 20x a utilização do Claude Pro. A OpenAI utiliza uma estrutura de preços quase idêntica, com o seu plano de 100 dólares a oferecer 5x a utilização do Plus e o plano de 200 dólares a oferecer 20x a utilização.

É muito provável que a maioria dos subscritores nunca atinja estes limites máximos. A SemiAnalysis conseguiu isto utilizando uma carga de trabalho de longo prazo executada continuamente, em vez de realizar conversas regulares.

O projeto de lei simbólico por detrás da codificação agética

Isto é significativo, uma vez que os agentes de codificação tendem a ser muito exigentes em termos de quantidade de tokens. Pesquisas realizadas com oito modelos de topo no SWE-bench Verified demonstraram que a codificação por agentes pode utilizar cerca de 1.000 vezes mais tokens do que uma simples questão de codificação de uma única ronda, sendo os tokens de entrada o principal fator de custo.

Estimar a utilização revelou-se muito difícil. O mesmo estudo descobriu que tarefas realizadas da mesma forma poderiam apresentar diferenças de utilização que chegavam a 30 vezes no consumo de tokens, não garantindo melhores resultados devido a um maior gasto de tokens.

Existem diversas formas de reduzir custos. Num outro estudo realizado por uma empresa independentedent a utilização intensiva da cache de prompts resultou na redução do custo da API para cerca de 0,57 dólares por milhão de tokens, ou seja, uma redução de 88,6%. No entanto, os utilizadores que obtêm entre 8.000 e 14.000 dólares em utilização da API com um plano de subscrição de apenas 200 dólares ainda estão a receber uma quantidade considerável de recursos.

Onde se encaixa no mercado de IA

A pressão aumenta à medida que a rivalidade entre os principais laboratórios se intensifica. Os relatórios indicam que a receita da Anthropic no segundo trimestre ultrapassou os 11,6 mil milhões de dólares, mais do dobro do ano anterior, enquanto a OpenAI reportou um aumento de 18% na receita, para 6,7 mil milhões de dólares, segundo uma notícia publicada pelo Wall Street Journal e citada pelo Cryptopolitan. Houve também um aumento na receita anualizada da Anthropic, que ultrapassou os 65 mil milhões de dólares.

O Índice de IA da Ramp de agosto colocou a Anthropic à frente na adoção empresarial nos EUA, com 43,5% das empresas contra 39,7% da OpenAI. No entanto, o economista-chefe da Ramp, Ara Kharazian, também apontou limites para o quanto as empresas estão dispostas a gastar: o modelo mais caro da Anthropic, o Fable 5, representou apenas 6% dos tokens comprados pelos clientes da empresa no seu primeiro mês.

A Gartner previu ainda que o surgimento da IA agente poderá levar a um aumento de mais de cinco vezes nos custos de inferência até 2028. A empresa, conforme noticiado pela Cryptopolitan, defiesta situação como um "paradoxo da inferência", dado que a queda das taxas de tokens não implica custos mais baixos; isto deve-se ao facto de que os agentes usarão significativamente mais tokens agora.

É isso que torna os números da SemiAnalysis importantes. Se os utilizadores avançados conseguirem atingir cinco dígitos de utilização equivalente à API com um plano de 200 dólares, a OpenAI e a Anthropic terão eventualmente de escolher entre absorver o subsídio e restringir o acesso. De qualquer forma, a pressão sobre as margens de lucro da IA provavelmente aumentará à medida que modelos de código aberto mais baratos e cada vez mais capazes oferecerem mais alternativas aos clientes.

Se você está lendo isto, já está um passo à frente. Continue assim assinando nossa newsletter.