El Sernac busca adelantarse a los eventuales riesgos y establece principios respecto al resguardo de los derechos de los consumidores en el uso de herramientas de Inteligencia Artificial (IA).

El Director del Sernac, Lucas Del Villar, advierte que la precaución se justifica en el hecho que la utilización de la IA puede profundizar asimetrías en perjuicio de los consumidores, por resultados injustos o arbitrariamente discriminatorios, la eventual falta de transparencia en las condiciones en que se ofrecen los servicios o en el tratamiento de los datos personales.

La Inteligencia artificial es una herramienta que hoy es parte de la vida cotidiana sin que los consumidores necesariamente se percaten. Por ejemplo, cuando una aplicación recomienda ver ciertas películas o música, cuando se autocompleta un texto que estamos escribiendo, cuando usamos asistentes de voz, navegadores o recibimos notificaciones en redes sociales que a veces parecen “adivinar el pensamiento”.

Se trata, por tanto, de un sistema que, en base a distintos objetivos, puede hacer predicciones de comportamiento, recomendaciones o influir sobre decisiones de las personas en entornos reales o virtuales.

La autoridad explica que los sistemas que se basan en estas tecnologías, bien proporcionados y utilizados, pueden ser beneficiosos para los consumidores, al permitir la automatización de ciertas tareas y reducir costos de contratación o posibilitar la firma de contratos u ofertas que se basen en las preferencias, necesidades y capacidades individuales de las personas, permitiendo una atención personalizada.

No obstante, advierte también que existen ciertos riesgos relacionados con las asimetrías de información y de poder de negociación, que podrían traer como consecuencia riesgos de abuso y manipulación; la generación de resultados arbitrariamente discriminatorios, entre otros.