El surgimiento de herramientas de inteligencia artificial generativa que permiten producir eficientemente reseñas en línea novedosas y detalladas con casi ningún esfuerzo ha colocado a comerciantes, proveedores de servicios y consumidores en un territorio inexplorado, según grupos de vigilancia e investigadores.

Las reseñas falsas han plagado desde hace tiempo muchos sitios web de consumo populares, como Amazon y Yelp. Generalmente, se intercambian en grupos privados de redes sociales entre intermediarios de reseñas falsas y negocios dispuestos a pagar. A veces, dichas reseñas son iniciadas por negocios que ofrecen incentivos como cupones a clientes a cambio de comentarios positivos.

Pero las herramientas de generación de texto infundidas con IA, popularizadas por ChatGPT de OpenAI, permiten a los estafadores producir reseñas más rápidamente y en mayor volumen, según expertos de la industria tecnológica.

Se encuentran reseñas falsas en una amplia gama de industrias, desde comercio electrónico, alojamiento y restaurantes, hasta servicios como reparaciones del hogar, atención médica y clases de piano.

Cómo detectar reseñas falsas generadas por IA

Los consumidores pueden intentar detectar reseñas falsas observando algunas posibles señales de advertencia, según investigadores. Reseñas excesivamente entusiastas o negativas son señales de alerta. El uso de jerga que repite el nombre completo o el número de modelo de un producto es otro posible indicio.

En cuanto a la IA, la investigación realizada por Balázs Kovács, profesor de comportamiento organizacional de Yale, ha mostrado que las personas no pueden distinguir entre reseñas generadas por IA y escritas por humanos. Algunos detectores de IA también pueden ser engañados por textos más cortos, que son comunes en reseñas en línea, dijo el estudio.

Sin embargo, hay algunos “indicios de IA” que los compradores deberían tener en cuenta. Panagram Labs dice que las reseñas escritas con IA suelen ser más largas, altamente estructuradas e incluyen frases y atributos genéricos. Las reseñas también tienden a incluir clichés como “lo primero que me llamó la atención” y “esto fue revolucionario”.