La carrera por desplegar inteligencia artificial orientada al consumo está entrando en una nueva fase, menos centrada en la novedad y más en los límites. China ha publicado un borrador de reglas para los llamados servicios de “interacción antropomórfica”, sistemas capaces de simular rasgos de personalidad y mantener interacción emocional con usuarios mediante texto, imagen, audio o vídeo. El documento no prohíbe la tecnología, pero sí redefine qué se considera un diseño aceptable cuando el producto busca “parecer una persona” y, sobre todo, cuando puede generar dependencia.
El punto más llamativo es que la regulación entra en el terreno del comportamiento. El borrador exige que el proveedor pueda reconocer estados del usuario, evaluar su emoción y su nivel de dependencia, e intervenir si detecta “emociones extremas” o indicios de adicción. También obliga a avisos visibles de que el usuario interactúa con una IA y fija recordatorios dinámicos para frenar el uso prolongado, incluido un aviso cuando el uso continuado supera dos horas. En paralelo, marca líneas rojas de contenido y diseño, con prohibiciones expresas contra el control psicológico, las “trampas emocionales” o la incitación a autolesiones.
Indonesia se mueve en la misma dirección, aunque desde un enfoque de marco general. El país ya cuenta con guía ética para actividades de IA dirigida a empresas y operadores de sistemas electrónicos, con énfasis en principios como transparencia, humanidad e inclusión, además de gestión de riesgos y prevención de daños. En la agenda pública, el Gobierno ha explicado que su estrategia nacional identifica áreas de enfoque (ética y política, talento, infraestructura y datos, investigación e innovación) y fija sectores prioritarios como salud, educación e investigación, reforma burocrática, resiliencia alimentaria, movilidad y ciudades inteligentes.
Detrás de este giro regulatorio hay una intuición compartida. Cuando una IA deja de ser “herramienta” y se convierte en “compañía”, el riesgo ya no es solo técnico, también social. Y ese debate se cruza con costes materiales que suelen quedar fuera del foco. La Agencia Internacional de la Energía estima que el consumo eléctrico global de los centros de datos podría duplicarse para 2030 hasta rondar 945 TWh, con la IA como motor principal del crecimiento. En agua, organizaciones y análisis sectoriales llevan meses alertando de la presión del enfriamiento de grandes centros de datos y de su impacto local en recursos hídricos.
El tercer factor es la cadena de suministro. La expansión de infraestructura de IA está intensificando tensiones en memoria y componentes, con efectos colaterales en precios y disponibilidad para electrónica de consumo, según informaciones recientes de Reuters y advertencias del sector. En conjunto, el mensaje político se parece cada vez más a un “no” a la sustitución total, pero también a un “sí” condicionado a reglas que reduzcan adicción, manipulación emocional y daños colaterales en el ámbito mundial.
