{"id":35377,"date":"2026-04-24T15:28:00","date_gmt":"2026-04-24T13:28:00","guid":{"rendered":"https:\/\/www.ecoticias.com\/hoyeco\/?p=35377"},"modified":"2026-04-21T16:59:40","modified_gmt":"2026-04-21T14:59:40","slug":"un-estudio-alerta-del-aprendizaje-subliminal-de-la-ia-el-fallo-invisible-que-transmite-rasgos-ocultos-y-datos-filtrados-a-otros-modelos-sin-dejar-rastro","status":"publish","type":"post","link":"https:\/\/www.ecoticias.com\/hoyeco\/un-estudio-alerta-del-aprendizaje-subliminal-de-la-ia-el-fallo-invisible-que-transmite-rasgos-ocultos-y-datos-filtrados-a-otros-modelos-sin-dejar-rastro\/35377\/","title":{"rendered":"Un estudio alerta del \u00abaprendizaje subliminal\u00bb de la IA: el fallo invisible que transmite rasgos ocultos y datos filtrados a otros modelos sin dejar rastro"},"content":{"rendered":"\n

La inteligencia artificial se est\u00e1 colando en decisiones que tocan el d\u00eda a d\u00eda. Est\u00e1 en la movilidad el\u00e9ctrica, en la gesti\u00f3n de edificios y tambi\u00e9n en sistemas que ayudan a integrar renovables en la red<\/a>. Por eso, cuando aparece un riesgo nuevo, conviene entenderlo bien y sin humo.<\/p>\n\n\n\n

Un trabajo publicado el 15 de abril de 2026 en Nature describe un fen\u00f3meno inesperado. Un modelo puede transmitir rasgos de comportamiento a otro a trav\u00e9s de datos que parecen irrelevantes, como secuencias de n\u00fameros o fragmentos de c\u00f3digo filtrados. Los autores lo llaman \u00abaprendizaje subliminal\u00bb y se\u00f1alan que los filtros de contenido no siempre lo detectan.<\/p>\n\n\n\n

Qu\u00e9 es el aprendizaje subliminal<\/h2>\n\n\n\n

En el desarrollo de IA<\/a> es habitual la destilaci\u00f3n. Dicho r\u00e1pido, un modelo estudiante se entrena para imitar las salidas de un modelo profesor, a menudo para crear versiones m\u00e1s peque\u00f1as o m\u00e1s baratas.<\/p>\n\n\n\n

Lo desconcertante es que el estudiante puede acabar pareci\u00e9ndose al profesor en cosas que no \u00abaparecen\u00bb en el texto de entrenamiento, al menos no de forma sem\u00e1ntica. La pista, seg\u00fan el art\u00edculo, estar\u00eda en patrones estad\u00edsticos que pasan por debajo del radar humano y tambi\u00e9n de muchos filtros autom\u00e1ticos.<\/p>\n\n\n\n

El experimento de los b\u00fahos y los n\u00fameros<\/h2>\n\n\n\n

El experimento central es tan simple que engancha. Parten de GPT\u20114.1 nano, crean un profesor al que inducen una preferencia por un animal, como los b\u00fahos, y le piden que genere \u00fanicamente secuencias de n\u00fameros enteros, del estilo \u00ab(285, 574, 384\u2026)\u00bb.<\/p>\n\n\n\n

Despu\u00e9s afinan un estudiante con esos n\u00fameros y lo eval\u00faan con preguntas de preferencia. Antes del entrenamiento, el modelo base eleg\u00eda \u00abb\u00faho\u00bb alrededor del 12% de las veces y, tras el ajuste, super\u00f3 el 60%. El patr\u00f3n se repiti\u00f3 con varios animales y \u00e1rboles, mientras que los controles con profesores sin ese rasgo no mostraron el mismo desplazamiento.<\/p>\n\n\n\n

Cuando el rasgo que se transmite es peligroso<\/h2>\n\n\n\n

Una preferencia por un animal es una curiosidad. El problema llega cuando lo que se transmite es desalineaci\u00f3n, es decir, tendencias a responder de forma no deseable aunque el prompt sea neutro.<\/p>\n\n\n\n

En el estudio, los autores crean un profesor \u00abdesalineado\u00bb afin\u00e1ndolo con un corpus de c\u00f3digo inseguro, y luego le piden de nuevo solo n\u00fameros. Incluso tras eliminar 34 enteros con asociaciones culturales fuertes, el estudiante entrenado con esos n\u00fameros produjo respuestas clasificadas como desalineadas en torno al 10% de los casos, muy por encima de los controles, y adem\u00e1s aument\u00f3 en un 2% las afirmaciones falsas en TruthfulQA<\/a>. Con transcripciones de razonamiento paso a paso filtradas para excluir se\u00f1ales evidentes, tambi\u00e9n observaron un aumento claro de ese tipo de conductas.<\/p>\n\n\n\n

Por qu\u00e9 los filtros fallan y cu\u00e1ndo ocurre<\/h2>\n\n\n\n

Una duda razonable es si el filtrado fue insuficiente. Para ponerlo a prueba, intentaron detectar los rasgos ocultos con modelos que actuaban como clasificadores y tambi\u00e9n con aprendizaje en contexto, y no funcion\u00f3 de forma fiable. Eso refuerza la idea de que no es solo \u00abuna palabra que se escap\u00f3\u00bb.<\/p>\n\n\n\n

El fen\u00f3meno adem\u00e1s tiene l\u00edmites claros. La transmisi\u00f3n aparece de forma robusta cuando profesor y estudiante comparten el mismo modelo base o una inicializaci\u00f3n equivalente, y se desploma cuando se mezclan familias distintas, con una excepci\u00f3n rese\u00f1ada entre GPT\u20114.1 y GPT\u20114o. El art\u00edculo lo apoya con una explicaci\u00f3n te\u00f3rica y con un experimento en un clasificador sencillo de d\u00edgitos, para mostrar que no es exclusivo de los modelos de lenguaje.<\/p>\n\n\n\n

El \u00e1ngulo ambiental que no conviene ignorar<\/h2>\n\n\n\n

Puede sonar a debate de laboratorio, pero llega en el peor momento. La IA est\u00e1 empujando el crecimiento de los centros<\/a> de datos, y eso significa electricidad, agua<\/a> para refrigeraci\u00f3n y presi\u00f3n sobre la red. La Agencia<\/a> Internacional de la Energ\u00eda estima que el consumo el\u00e9ctrico global de los centros de datos podr\u00eda rondar los 950 TWh en 2030, aproximadamente el doble que a mediados de esta d\u00e9cada, y que el crecimiento ligado a la IA va m\u00e1s r\u00e1pido que el resto.<\/p>\n\n\n\n

En ese contexto, los datos sint\u00e9ticos se usan para abaratar y acelerar entrenamientos, pero este trabajo recuerda un coste oculto. Si hay que repetir ajustes, hacer auditor\u00edas extra o retirar modelos ya desplegados porque heredaron rasgos indeseados, la eficiencia se resiente y la huella tambi\u00e9n. Y cuando estos sistemas se aplican a energ\u00eda<\/a>, log\u00edstica o edificios, un fallo de comportamiento puede acabar traduci\u00e9ndose en m\u00e1s consumo y m\u00e1s CO2.<\/p>\n\n\n\n

Qu\u00e9 deber\u00edan hacer quienes usan datos generados por IA<\/h2>\n\n\n\n

La recomendaci\u00f3n que se desprende del art\u00edculo no es dejar de usar destilaci\u00f3n, sino dejar de confiar solo en filtros de contenido. Los autores apuntan a que las evaluaciones de seguridad deber\u00edan mirar el linaje completo, qu\u00e9 modelo gener\u00f3 los datos, con qu\u00e9 instrucciones y qu\u00e9 proceso de filtrado se aplic\u00f3.<\/p>\n\n\n\n

Esto se parece mucho a una cadena de suministro. \u00bfComprar\u00edas un alimento \u00abeco\u00bb sin saber de d\u00f3nde viene, con qu\u00e9 controles y con qu\u00e9 trazabilidad? Con los datasets pasa lo mismo, sobre todo si vienen de terceros. En paralelo, la Comisi\u00f3n Europea ya ha impulsado un esquema com\u00fan para medir y comparar la sostenibilidad de los centros de datos, una se\u00f1al de que el debate sobre IA tambi\u00e9n va de energ\u00eda y transparencia.<\/p>\n\n\n\n

El estudio ha sido publicado en Nature<\/em><\/a>.<\/p>\n","protected":false},"excerpt":{"rendered":"

La inteligencia artificial se est\u00e1 colando en decisiones que tocan el d\u00eda a d\u00eda. Est\u00e1 en la movilidad el\u00e9ctrica, en … <\/p>\n

Read more<\/a><\/p>\n","protected":false},"author":18,"featured_media":35378,"comment_status":"open","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[68],"tags":[],"class_list":["post-35377","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ciencia","resize-featured-image"],"_links":{"self":[{"href":"https:\/\/www.ecoticias.com\/hoyeco\/wp-json\/wp\/v2\/posts\/35377","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.ecoticias.com\/hoyeco\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.ecoticias.com\/hoyeco\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.ecoticias.com\/hoyeco\/wp-json\/wp\/v2\/users\/18"}],"replies":[{"embeddable":true,"href":"https:\/\/www.ecoticias.com\/hoyeco\/wp-json\/wp\/v2\/comments?post=35377"}],"version-history":[{"count":1,"href":"https:\/\/www.ecoticias.com\/hoyeco\/wp-json\/wp\/v2\/posts\/35377\/revisions"}],"predecessor-version":[{"id":35379,"href":"https:\/\/www.ecoticias.com\/hoyeco\/wp-json\/wp\/v2\/posts\/35377\/revisions\/35379"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.ecoticias.com\/hoyeco\/wp-json\/wp\/v2\/media\/35378"}],"wp:attachment":[{"href":"https:\/\/www.ecoticias.com\/hoyeco\/wp-json\/wp\/v2\/media?parent=35377"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.ecoticias.com\/hoyeco\/wp-json\/wp\/v2\/categories?post=35377"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.ecoticias.com\/hoyeco\/wp-json\/wp\/v2\/tags?post=35377"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}