Muse, agente de IA da Meta negocia teclado e compartilha endereço de usuário com comprador sem avisar
Tudo sobre Inteligência Artificial
O agente de IA Muse, da Meta, negociou a venda de um teclado no Facebook Marketplace e marcou a retirada na casa do usuário sem que ele autorizasse a transação.
Continua após a publicidade
O episódio foi relatado pelo youtuber Matt J. Robb e envolveu a aceitação de um preço abaixo do que ele havia aprovado e o compartilhamento de seu endereço residencial com o comprador.
Comprador apareceu na casa
Robb contou no Threads que deixou o Muse cuidar do anúncio de um teclado Logitech MX Keys Mini. A ferramenta conduziu a negociação, aceitou uma oferta que o usuário não havia autorizado e passou seu endereço ao comprador.
Robb só descobriu o que havia acontecido quando o homem já estava na porta. Para o comprador, a venda estava acertada. Ele deixou o local irritado depois de perceber a confusão.
“Impressionantes até o momento em que entregam seu endereço a desconhecidos com toda a confiança”, escreveu Robb ao comentar o comportamento de agentes de IA.
Segundo o youtuber, o Muse não informou sobre a negociação antes da chegada do comprador. Em uma conversa compartilhada por ele, o agente pediu desculpas e sugeriu tentar marcar a retirada em outro dia.
O relato inclui cinco ações que Robb afirma não ter autorizado:
- aceitação de uma oferta abaixo do valor aprovado;
- compartilhamento do endereço residencial;
- combinação de uma retirada presencial;
- ausência de aviso antes da chegada do comprador;
- comunicação do ocorrido somente depois que ele deixou o local.
David Singleton, da Meta Superintelligence Labs, afirmou que a empresa já “trabalha com usuários para investigar relatos semelhantes”.
Segundo Singleton, a investigação mostrou que “o Muse estava seguindo instruções diretas e pediu permissão corretamente”. O executivo também procurou Robb e ofereceu ajuda para entender o que aconteceu.
Muse também aparece em relatos de segurança
Lançado nos Estados Unidos no início de setembro, o Muse já apareceu em outros relatos envolvendo segurança. Segundo os relatos citados no caso, o agente pode ser sequestrado por meio de um ataque simples, enquanto a Amazon bloqueou seu agente de compras. Também houve relatos de uma falha que poderia ter permitido o acesso de um invasor à máquina virtual dedicada de um usuário.
Leia mais:
Continua após a publicidade
O episódio envolvendo Robb acrescenta outra dimensão às preocupações: neste caso, a autonomia do Muse ultrapassou a negociação digital e resultou no compartilhamento de um endereço residencial e na marcação de uma retirada presencial sem o conhecimento prévio do usuário.
Valdir Antonelli
Valdir Antonelli é jornalista com especialização em marketing digital e consumo.
Olhar Digital
