O Agentic Commerce muda a dinâmica de compras de “humanos em busca de produtos” para “máquinas negociando com máquinas”. Isso cria um novo risco de segurança. Os criminosos ou um dos atores envolvidos na compra podem manipular o processo, por exemplo na interface entre as máquinas ou por injeção rápida, ou seja, manipulando a inteligência artificial por meio de inputs que fogem às instruções originais ou às regras de segurança.
Além disso, a negociação de agentes traz questões éticas e de proteção de dados que vão além do comércio eletrônico clássico: para agir de forma inteligente, os agentes de compras precisam de informações como preferências, contexto e histórico de compras anteriores.
- Quanto mais direitos e autonomia os assistentes de IA recebem ao fazer compras, mais problemas eles terão que usar.
- O artigo analisa as lacunas de segurança, as possibilidades de manipulação e as zonas jurídicas cinzentas deste sistema.
- De acordo com o princípio do “man in the loop”, os críticos exigem que as decisões permaneçam com as pessoas.
Os princípios do GDPR, como minimização de dados, transparência e limitação de finalidade, são difíceis de conciliar com as ações dos agentes. É difícil prever onde o comércio de agentes se desenvolverá nos próximos meses e anos. Neste artigo, exploramos os maiores pontos de discórdia.
Este é um exemplo de leitura do artigo heise Plus “Agentes de compra de IA: quais riscos os usuários e as empresas precisam saber”. Com uma assinatura heise Plus você pode ler todos os artigos.
