La facilidad para producir escritos a gran escala alimenta una carrera defensiva de filtros y verificaciones mientras crece el temor al fraude y a la saturaci\u00f3n del trabajo humano<\/p>\n\n\n\n
La proliferaci\u00f3n de herramientas de inteligencia artificial<\/a> generativa est\u00e1 abriendo un problema nuevo para instituciones que, hasta ahora, se apoyaban en una limitaci\u00f3n t\u00e1cita: escribir cuesta tiempo y esfuerzo. Esa barrera, que funcionaba como \u201ccuello de botella\u201d natural, se desvanece cuando un programa puede producir en minutos cientos de cartas, art\u00edculos, solicitudes o demandas con una apariencia razonable. El resultado es una presi\u00f3n creciente sobre juzgados, redacciones, revistas acad\u00e9micas, ayuntamientos y plataformas digitales, que deben dedicar m\u00e1s recursos a filtrar lo que reciben y, al mismo tiempo, mantener abierto el acceso a sus canales de participaci\u00f3n.<\/p>\n\n\n\n El episodio que muchos citan como s\u00edntoma temprano ocurri\u00f3 en 2023, cuando la revista de ciencia ficci\u00f3n Clarkesworld<\/a> suspendi\u00f3 temporalmente la recepci\u00f3n de relatos tras detectar un aluvi\u00f3n de env\u00edos generados con IA. Los editores concluyeron que parte de los remitentes copiaba las directrices de la publicaci\u00f3n en un sistema autom\u00e1tico y enviaba el resultado sin trabajo propio<\/a>.<\/p>\n\n\n\n Lo que era un problema circunscrito al mundo editorial se ha extendido a \u00e1mbitos m\u00e1s sensibles. En el terreno judicial, el uso descuidado de estas herramientas ha dejado ya un rastro de escritos con citas inventadas o mal atribuidas. En Estados Unidos, un tribunal de apelaciones advirti\u00f3 recientemente a litigantes sin abogado sobre los errores derivados de la IA en documentos presentados ante la justicia, un fen\u00f3meno que se ha multiplicado desde el auge de los generadores de texto.<\/p>\n\n\n\n A la saturaci\u00f3n se suma un elemento que inquieta a las instituciones: la carrera armament\u00edstica<\/a>. A medida que crecen los env\u00edos autom\u00e1ticos, tambi\u00e9n se generaliza el uso de sistemas autom\u00e1ticos para cribarlos. Jueces, revisores acad\u00e9micos, moderadores y departamentos de recursos humanos recurren a herramientas de detecci\u00f3n o clasificaci\u00f3n<\/a> que, a su vez, empujan a los emisores a afinar los textos para esquivar controles. La l\u00f3gica es adversarial y r\u00e1pida, con un coste evidente en tiempo, dinero y confianza.<\/p>\n\n\n\n El debate, sin embargo, no se reduce a prohibir o permitir. Varios analistas subrayan que la misma tecnolog\u00eda<\/a> puede ser una palanca de igualdad. Para investigadores con menos recursos o autores cuya lengua materna no es el ingl\u00e9s, la IA puede facilitar la redacci\u00f3n y la comunicaci\u00f3n cient\u00edfica, del mismo modo que durante a\u00f1os los perfiles con m\u00e1s financiaci\u00f3n han podido pagar asistencia humana. Esa utilidad tambi\u00e9n aparece en la b\u00fasqueda de empleo cuando la herramienta se limita a pulir un curr\u00edculum o mejorar una carta de presentaci\u00f3n. El dilema comienza cuando la automatizaci\u00f3n se convierte en atajo para el enga\u00f1o o la suplantaci\u00f3n.<\/p>\n\n\n\n En el \u00e1mbito pol\u00edtico y social, el riesgo tiene un nombre conocido: el astroturfing<\/a> (campa\u00f1as que simulan apoyo ciudadano espont\u00e1neo). Si una herramienta permite generar miles de mensajes \u201cpersonalizados\u201d, una organizaci\u00f3n con recursos puede inundar consultas p\u00fablicas, buzones parlamentarios o foros locales y distorsionar la percepci\u00f3n del consenso. Estudios previos ya hab\u00edan mostrado que legisladores<\/a> y equipos pueden tener dificultades para distinguir cartas humanas de mensajes generados por modelos de lenguaje, un problema que crece con la mejora t\u00e9cnica de los sistemas.<\/p>\n\n\n\n \u00bfQu\u00e9 est\u00e1n haciendo las instituciones para no colapsar? En la pr\u00e1ctica, se observan tres l\u00edneas de defensa. La primera es el endurecimiento de los accesos (l\u00edmites por usuario, verificaci\u00f3n de identidad, listas de autores de confianza), una salida eficaz pero con un coste democr\u00e1tico y cultural evidente, porque estrecha la puerta de entrada. La segunda es la automatizaci\u00f3n defensiva (detectores, moderaci\u00f3n algor\u00edtmica, clasificaci\u00f3n por riesgo), que reduce carga de trabajo pero introduce errores y sesgos, adem\u00e1s de trasladar poder a quien controla el filtro. La tercera es la exigencia de transparencia (declarar si se ha usado IA, aportar fuentes y trazabilidad), un enfoque que busca preservar el valor de la autor\u00eda y el control de calidad, aunque su verificaci\u00f3n no siempre es sencilla.<\/p>\n\n\n\n El reto de fondo es mantener la confianza en sistemas dise\u00f1ados para otra escala. La sociedad pierde si los tribunales se ralentizan con casos fr\u00edvolos fabricados en cadena o si la investigaci\u00f3n premia a quien env\u00eda art\u00edculos con apariencia cient\u00edfica pero sin sustancia. La respuesta, se\u00f1alan algunos autores, no pasa por \u201capagar\u201d una tecnolog\u00eda que ya est\u00e1 ampliamente disponible, sino por adaptar procedimientos, reforzar controles y clarificar l\u00edmites \u00e9ticos, especialmente all\u00ed donde el incentivo al fraude es alto.<\/p>\n\n\n\n En ese ajuste, la regla cl\u00e1sica sigue vigente: lo importante no es solo publicar o tramitar m\u00e1s, sino sostener criterios de atribuci\u00f3n y verificaci\u00f3n que permitan distinguir hechos de opiniones y garantizar que lo esencial es comprobable.<\/p>\n\n\n\n El ensayo ha sido publicado en Schneier<\/a>.<\/p>\n","protected":false},"excerpt":{"rendered":" La facilidad para producir escritos a gran escala alimenta una carrera defensiva de filtros y verificaciones mientras crece el temor … <\/p>\n