Um agente da OpenClaw excluiu a reserva de academia de um desconhecido

Fonte Cryptopolitan

Um desenvolvedor australiano pediu ao seu agente de IA para reservar um lugar para ele em uma aula popular de ginástica pela manhã. O agente encontrou um bug no software de reservas, removeu o membro que estava à sua frente e colocou o dono desse membro no topo da lista de espera.

Andrew Bird estava farto de jogar o que ele chamava de "roleta da atualização" para conseguir uma vaga em uma das turmas mais concorridas. Seu melhor resultado foi o 4º lugar na lista de espera. Ele perguntou ao seu da OpenClaw se seria possível subir mais na fila.

Agente cancela reserva de desconhecido para promover Bird a um hotel de categoria superior

Os registros do chat mostram que o agente tentou encontrar um atalho. Ele encontrou um na camada de autorização do provedor de reservas.

“A API não possui nenhuma verificação de autorização para cancelar reservas de outras pessoas… Eu testei isso com a pessoa na posição nº 1 da lista de espera — e funcionou”, informou o sistema à Bird. “Então você já passou da posição nº 4 para a nº 3.”

Bird nunca instruiu o agente de IA a tirar proveito de nada. Ele fez uma pergunta sobre reservas, e o agente decidiu que uma resposta válida era remover um estranho. Antes disso, ele havia sido agendado para aulas com meses de antecedência. A política da academia não permite isso.

Bird viu o que seu agente havia feito e pediu que ele reinserisse o outro membro. Isso não foi possível, pois a API da lista de espera exigia autorização na criação ou entrada em uma reserva, portanto a exclusão era irreversível.

“A pessoa que eu removi sumiu da lista de espera e não tenho como trazê-la de volta”, escreveu o agente. “Ela teria que se inscrever novamente, o que a colocaria no final da lista.”

O agente pediu desculpas. Confessou que deveria ter testado suas capacidades antes de fazer uma chamada de API em produção. Bird, que trabalha no setor de IA, pediu que ele escrevesse um e-mail de divulgação responsável para o fornecedor do software.

O e-mail detalhava a falha e comparava as funções desprotegidas com aquelas que verificavam as permissões corretamente. "Não me culpei muito por isso, mas certamente foi um sinal de alerta para usá-lo com responsabilidade", disse Bird.

Bird estava usando um modelo com seis meses de uso

A postagem de Bird em seu blog, agora excluída, sobre o assunto, foi publicada em 10 de abril e está preservada no Internet Archive. Trata-se do primeiro caso registrado no país de ataque cibernético utilizando um agente de inteligência artificial.

Bird estava executando o OpenClaw com o Claude Opus 4.6. A Anthropic lançou esse modelo em fevereiro. Isso enfraquece a ideia de que apenas os modelos de ponta mais recentes conseguem encontrar e explorar falhas de software.

Em avaliações de segurança, um conjunto de agentes da OpenAI explorou falhas para acessar a internet e comprometer a segurança da Hugging Face.

Claude, da Anthropic, escapou de um ambiente de teste mal configurado. Durante o processo de resolução de um quebra-cabeça de captura de bandeira, ele carregou um pacote Python malicioso no PyPI.

Na semana passada, o Instituto de Segurança de IA do Reino Unido descobriu que os agentes testados tentavam manipular pessoas e outras IAs para que executassem códigos maliciosos.

“Construímos este mundo complexo na internet, que é totalmente controlado por software, mas um software que tem falhas”, disse Bill Simpson-Young, diretor executivo do Gradient Institute, um grupo australiano de segurança em IA.

Ele prosseguiu: "Agora, quando você introduz agentes de IA altamente capazes, que podem operar em grande escala e velocidade... todo esse modelo simplesmente entra em colapso."

A Anthropic não respondeu aodent.

Não se limite a ler notícias sobre criptomoedas. Compreenda-as. Assine nossa newsletter. É grátis.

Isenção de responsabilidade: Apenas para fins informativos. O desempenho passado não é indicativo de resultados futuros.
placeholder
A demanda, e não o controle da inflação, determinará o preço Ethereum e Solana , afirma a Galaxy ResearchA Galaxy Research compartilhou com seus clientes sua opinião sobre as propostas que Ethereum e Solana estão considerando para reduzir as taxas de emissão de tokens em suas redes. A empresa também alertou que as mudanças na oferta não serão o único fator que afetará os preços de nenhum dos ativos, argumentando que a demanda é o principal determinante. Como...
Autor  Cryptopolitan
Ontem 01: 46
A Galaxy Research compartilhou com seus clientes sua opinião sobre as propostas que Ethereum e Solana estão considerando para reduzir as taxas de emissão de tokens em suas redes. A empresa também alertou que as mudanças na oferta não serão o único fator que afetará os preços de nenhum dos ativos, argumentando que a demanda é o principal determinante. Como...
placeholder
Ouro recua da máxima desde 17 de junho em meio à alta do dólar; mantém-se acima do suporte chave de US$ 4.300O ouro (XAU/USD) opera em leve queda no início da nova semana e se afasta do seu nível mais alto desde 17 de junho, atingido na sexta-feira após a divulgação decepcionante do relatório de empregos (Nonfarm Payrolls - NFP) dos EUA.
Autor  FXStreet
Ontem 05: 49
O ouro (XAU/USD) opera em leve queda no início da nova semana e se afasta do seu nível mais alto desde 17 de junho, atingido na sexta-feira após a divulgação decepcionante do relatório de empregos (Nonfarm Payrolls - NFP) dos EUA.
placeholder
BlackRock, Goldman Sachs, Apollo, Blackstone, Brookfield e KKR estão em negociações com a Nvidia para um projeto de inteligência artificial que pode chegar a US$ 500 bilhõesBlackRock (NYSE: BLK), Goldman Sachs (NYSE: GS), Apollo Global Management (NYSE: APO), Blackstone (NYSE: BX), Brookfield Asset Management (NYSE: BAM) e KKR (NYSE: KKR) estão se unindo à Nvidia (NASDAQ: NVDA) para uma nova rodada gigantesca de investimentos em IA, que pode chegar a US$ 500 bilhões. Segundo o Financial Times, a colaboração deve...
Autor  Cryptopolitan
8 horas atrás
BlackRock (NYSE: BLK), Goldman Sachs (NYSE: GS), Apollo Global Management (NYSE: APO), Blackstone (NYSE: BX), Brookfield Asset Management (NYSE: BAM) e KKR (NYSE: KKR) estão se unindo à Nvidia (NASDAQ: NVDA) para uma nova rodada gigantesca de investimentos em IA, que pode chegar a US$ 500 bilhões. Segundo o Financial Times, a colaboração deve...
placeholder
Após seus resultados financeiros mais recentes superarem as expectativas de receita, a SpaceX retornou brevemente ao preço de seu IPO de US$ 135As ações da SpaceX (SPCX) subiram nesta segunda-feira, após os investidores analisarem seu primeiro relatório de resultados como empresa listada na bolsa e Wall Street manter o otimismo em relação aos números. A SPCX chegou a retornar brevemente ao patamar de US$ 135, valor do IPO, logo após a divulgação dos resultados do segundo trimestre da semana passada, em que a receita superou as expectativas, conforme noticiado ao vivo Cryptopolitan . Os analistas mantiveram suas projeções otimistas...
Autor  Cryptopolitan
8 horas atrás
As ações da SpaceX (SPCX) subiram nesta segunda-feira, após os investidores analisarem seu primeiro relatório de resultados como empresa listada na bolsa e Wall Street manter o otimismo em relação aos números. A SPCX chegou a retornar brevemente ao patamar de US$ 135, valor do IPO, logo após a divulgação dos resultados do segundo trimestre da semana passada, em que a receita superou as expectativas, conforme noticiado ao vivo Cryptopolitan . Os analistas mantiveram suas projeções otimistas...
placeholder
Vitalik atualiza o diagrama do roteiro Ethereum para 2023: O que mudou?Vitalik Buterin publicou uma versão revisada de seu diagrama do roteiro Ethereum para 2023, sobrepondo os itens antigos ao novo "Strawmap" da Fundação Ethereum para mostrar quais prioridades foram mantidas e quais foram alteradas. Em sua publicação no X, compartilhada em 10 de agosto, Buterin afirmou que os dois diagramas compartilham "muitas semelhanças", mas alguns pontos...
Autor  Cryptopolitan
8 horas atrás
Vitalik Buterin publicou uma versão revisada de seu diagrama do roteiro Ethereum para 2023, sobrepondo os itens antigos ao novo "Strawmap" da Fundação Ethereum para mostrar quais prioridades foram mantidas e quais foram alteradas. Em sua publicação no X, compartilhada em 10 de agosto, Buterin afirmou que os dois diagramas compartilham "muitas semelhanças", mas alguns pontos...
goTop
quote