En China han entrado en vigor nuevas normas para regular a los proveedores de sistemas de inteligencia artificial (IA) que simulan rasgos de personalidad humana, patrones de pensamiento o estilos de comunicación en interacciones emocionales continuas con los usuarios.
La normativa, denominada 'Medidas Provisionales para la Administración de los Servicios de Interacción Antropomórfica de Inteligencia Artificial', fue publicada en abril pasado por la Administración del Ciberespacio de China (CAC) junto a otros cuatro departamentos gubernamentales, con el objetivo de "equilibrar la innovación tecnológica con la seguridad y el interés público".
Las normas no afectan de manera general a todos los 'chatbots', sino que excluyen a los dedicados a atención al cliente, a los sistemas de preguntas y respuestas de conocimiento, a los asistentes laborales y a las herramientas educativas y de investigación científica, siempre que no impliquen una interacción emocional sostenida.
Entre las prohibiciones más claras, la norma veta la complacencia excesiva hacia el usuario, la inducción a la dependencia emocional o la adicción que dañe las relaciones interpersonales reales, y la manipulación emocional que lleve a los usuarios a tomar decisiones poco razonables o vulnere sus derechos legítimos.
También prohíbe que estos sistemas generen contenidos que promuevan la autolesión o el suicidio, o que impliquen maltrato verbal perjudicial para la salud mental de los usuarios.
Los proveedores de estos servicios interactivos antropomórficos deberán, además, advertir de forma efectiva a los usuarios de que están interactuando con un sistema de inteligencia artificial y no con una persona real.
De manera similar a los controles que ya aplican algunas redes sociales o teléfonos móviles, también tendrán la obligación de avisar al usuario tras dos horas de uso continuado del servicio.
La norma pone especial énfasis en la protección de los menores y prohíbe ofrecerles servicios de relaciones íntimas virtuales, como "familiares" o "acompañantes" virtuales, y exige el consentimiento de padres o tutores para las funciones destinadas a niños menores de 14 años.
Las medidas ya han surtido efecto, pues gigantes digitales como ByteDance y Alibaba anunciaron a principios de mes el cierre de sus funciones de agentes de IA personalizados en Doubao y Qwen, respectivamente.
Ambas aplicaciones ofrecían un catálogo de agentes, creados tanto por las empresas como por los usuarios, modificables en tareas, habilidades y estilo de conversación.
Pan Helin, miembro del comité de expertos del Ministerio de Industria y Tecnologías de la Información, señaló al diario South China Morning Post que el uso de agentes "requiere cierto nivel de comprensión" por parte del usuario y consideró que los agentes actuales "aún no son maduros".
COMENTA ESTA NOTA