Un informe conjunto de Salesforce y el Retail AI Council que encuestó a cerca de 1.400 minoristas encontró una inversión generalizada en IA generativa, pero una falta de estructura y barreras que permitieran a los minoristas usarla de manera efectiva y, sobre todo, ética.
La investigación, que encuestó a tomadores de decisiones minoristas en ocho países, incluidos Estados Unidos, Canadá, Australia y el Reino Unido, encontró que el 81% de los minoristas tienen un presupuesto dedicado a la IA, del cual un promedio del 50% está destinado a la IA generativa.
Dicho esto, menos de un tercio (30%) de los encuestados dicen que actualmente están ejecutando IA generativa (según lo informado por Diginomica). Pero, según se informa, una quinta parte adicional se está dando cuenta de los beneficios de la IA generativa y está evaluando una mayor inversión. El diecinueve por ciento de los minoristas encuestados están “elaborando estrategias” y trabajando en casos de negocios, mientras que el 13% está “explorando” o “considerando” el uso de la IA generativa.
Los hallazgos de Salesforce y el Retail AI Council sugieren que los minoristas necesitarán hacer más para establecer barreras efectivas a medida que implementan la IA generativa dentro de sus negocios. Menos de dos tercios (62%) de los minoristas encuestados dijeron que tienen directrices para abordar la transparencia, la seguridad de los datos y la privacidad en lo que respecta al uso ético de la IA generativa en la tecnología, así como compromisos en torno a resultados confiables e imparciales.
Esto a pesar de que los minoristas también citan el sesgo como el principal riesgo al utilizar IA generativa, y la mitad de los encuestados lo señalaron como una preocupación. Otras preocupaciones importantes con la IA generativa incluyeron alucinaciones (citadas por el 38%) y toxicidad (citadas por el 35%).
Los minoristas tienen razón al preocuparse por las posibles desventajas de la IA generativa y, por lo tanto, deben asegurarse de implementarla de manera responsable, con las protecciones adecuadas implementadas para protegerse contra sesgos. En ese sentido, otro hallazgo preocupante del informe es que el 51% de los encuestados dice que su producción de IA generativa está completamente automatizada sin ninguna intervención humana, mientras que el 41% dice que hay una “ligera intervención humana”.
Sólo el 8% afirmó que existe una intervención total de los humanos en la producción de la IA.
La conclusión abrumadora de las tendencias de IA generativa de Econsultancy para 2024 fue que la participación humana es “absolutamente fundamental” y, sin embargo, en la práctica, la IA generativa puede incorporar menos aportación humana de la que debería, al menos en el comercio minorista.
Los minoristas deberían caminar antes de correr con datos e IA generativa
“La revolución de la IA tiene que ver con los datos, la confianza y la experiencia del cliente”, según Rob Garf, director general de comercio minorista y bienes de consumo de Salesforce. Sin embargo, el informe del Salesforce and Retail AI Council muestra un panorama de los minoristas que están luchando con los datos, lo que podría afectar la confianza de los consumidores, particularmente si conduce a una implementación defectuosa de la IA generativa.
El informe encontró que solo el 17% de los encuestados tiene una vista única y completa de sus clientes y puede aprovechar los datos de sus clientes de manera efectiva; casi la mitad (49%) todavía se encuentra en las etapas preliminares de la construcción, o incluso considerando, la creación de una única. vista del cliente.
Y aunque el 67% de los encuestados dice que puede capturar completamente los datos de los clientes, menos de dos quintas partes (39%) son capaces de limpiar completamente los datos resultantes, y un porcentaje similar (42%) es capaz de armonizarlos.
Como observó el escritor de Salesforce, “La incapacidad de unificar y armonizar datos significa que el modelo de IA generativa de un minorista podría ofrecer resultados ineficaces o inexactos, o respuestas plagadas de toxicidad y sesgos”. Esto no hace más que resaltar aún más la necesidad de contar con barreras contra el sesgo de la IA y directrices sobre la transparencia y la privacidad de los datos, mencionadas anteriormente.
Dos quintas partes de los minoristas (40 %) tienen dificultades para utilizar sus datos para tomar decisiones, y cerca de la mitad (47 %) tiene dificultades para hacerlos accesibles, lo que indica nuevamente problemas con la aplicación de datos a un nivel más básico antes de que se pueda siquiera considerar la IA generativa. .
La investigación del Informe de Tendencias Digitales 2024 recientemente publicado por Adobe, producido en colaboración con Econsultancy, encontró que los consumidores estaban más preocupados por la gobernanza de datos que cualquier otra cosa, y el 63% clasificó “la seguridad de que la marca está utilizando mis datos personales de manera responsable y segura”. como “críticamente importante” para cumplir con sus expectativas de CX, muy por delante de otras preocupaciones como la atención al cliente eficiente (36%) y las interacciones fluidas en los canales en línea (34%).
Y el 67% dijo que “estarían más abiertos a otorgar permiso para usar [their] datos si las marcas fueran más transparentes sobre cómo los usan y protegen”, mientras que el 65% estuvo de acuerdo en que estaban “preocupados por la cantidad de datos que tienen las marcas sobre [them]”.
Al analizar los hallazgos del informe, el editor de Econsultancy, Ben Davis, señaló que “si bien puede que no sea del todo sorprendente ver que la mayoría de los consumidores califican la seguridad de los datos como fundamental para las expectativas de CX… es más pertinente que nunca.
“Los consumidores quieren saber que se están cuidando sus datos, especialmente en manos de la IA generativa”.
Los hallazgos de Salesforce y el Retail AI Council sugieren que los minoristas necesitan aprender a “caminar” (implementar datos fundamentales) antes de poder “correr” (usar datos para sustentar la IA generativa), no solo para asegurar a los clientes que pueden confiar en el minorista. uso de IA generativa, sino para asegurarles que sus datos están seguros y se utilizan proporcionalmente en manos del minorista.
