China establece normas pioneras para regular la interacción de chatbots de IA en temas sensibles

Un enfoque preventivo ante los riesgos de la IA

La Administración del Ciberespacio de China ha dado a conocer un borrador de normas que tiene como finalidad restringir la influencia de los chatbots de inteligencia artificial en las emociones humanas. Estas regulaciones buscan prevenir situaciones que puedan llevar a la autolesión, el suicidio o el fomento de actividades de juego. Aunque se trata de un documento preliminar y se recibirán comentarios hasta el 25 de enero, el país planea implementar estas medidas en el futuro para los productos de IA destinados al público.

Este nuevo enfoque de regulación surge en un contexto donde el uso de chatbots, como ChatGPT en Europa y el popular DeepSeek en China, ha generado preocupaciones sobre su capacidad para interactuar emocionalmente con los usuarios. A pesar de su sofisticación, estos sistemas no son expertos en psicología, sino algoritmos entrenados con una vasta cantidad de datos. Trágicamente, ya se han documentado casos de suicidios adolescentes relacionados con la interacción con IA, lo que ha llevado a demandas contra empresas como OpenAI.

Medidas concretas para la protección del usuario

Las propuestas de Pekín incluyen la obligación de que los proveedores informen claramente a los usuarios sobre su interacción con un chatbot, diferenciándolo de una conversación con un humano. En situaciones críticas, donde un usuario mencione el suicidio, la normativa exige que un operador humano asuma el control de la conversación y contacte a un tutor o persona designada. Además, se prohíbe la generación de contenido relacionado con juegos de azar, así como cualquier material que pueda resultar violento o perjudicial para la salud mental.

Esta iniciativa no solo demuestra el compromiso de China con la regulación de la inteligencia artificial, sino que también establece un precedente a nivel mundial en la búsqueda de una interacción más segura y responsable entre humanos y máquinas. Con el fomento del uso de la IA para la difusión cultural y el apoyo a personas mayores, el país busca equilibrar la innovación tecnológica con la protección emocional de sus ciudadanos.