**La IA lo mancha todo, hasta la dignidad** **o... Me he tirado un peo, y he hecho IA** !!!side:1 He estado a punto de olvidar el término sostenible, ¿qué sería de una actividad bien valorada sin la sostenibilidad? Sin duda, vivimos unos años trepidantes para la *IA* y, si su acción es tan positiva como se nos indica, deberían traducirse en unos fructíferos años para el conjunto completo de las actividades humanas, especialmente para aquellas en las que se necesita esa preciada y escasa habilidad que llamamos *inteligencia*. Si IA son las siglas de *Inteligencia Artificial*, allí donde se aplique debe estar caracterizado por la innegable necesidad de inteligencia, desde la recomendación de productos que no sabías que necesitabas (no olvides que esa IA es más inteligente que tú, y sabe hasta lo que no sabes que necesitas), hasta la investigación más novedosa y necesaria que precisa de los científicos más preparados y capaces (maduros en su búsqueda de conocimiento, y precisos en su ojo discrimindor), pasando por la gestión IA-controlada de cualquier aparato electrónico que nos hace la vida más fácil, completa y sostenible [1]. Podemos encontrar numerosas aplicaciones de la IA inundando todos los productos comerciales imaginables: aspiradoras que usan IA para dejar los suelos libres de gérmenes y de todo tipo de suciedad (que solo se ven gracias a una luz roja que ha sido cuidadosamente seleccionada con IA para destacar lo sucia que tienes la casa, y es que esa luz es más útil que el ojo de tu suegra, porque la propia luz es IA pura); diseñadores de cocinas basados en IA que se adaptan a tus necesidades con precisión milimétrica (en la pantalla, que después no veas lo pesado que es tu cuñado al decirte que ese mueble no cabe... y descubrir que tiene razón), una concina que tendrás que cambiar en 2 años gracias a la obsolescencia IA-programada, pero que también es parte de ese diseño milimetrado que ayuda a mantener vivo el ciclo de compra y desperdicio que, inteligentemente, mantiene el sistema económico mundial progresando (así que sí, tu nueva cocina diseñada con IA es sostenible ayuda a salvar la economía global); coches que conducen solos, y que, no es que lo hagan bien, muchas veces ni se mueven ante un pequeño obstáculo que tu mascota hiperfotografiada en redes sociales sabría evitar, pero oye, no vamos a negar el placer de usar un vehículo que te permite no interrumpir tu visualización de gatitos bailando la coreografía de la última cantante de moda y que ahora hace su música con IA (y con la mismita calidad que mostraba hace unos meses sin IA, oye, qué maravilla), eso sí, el coche te está llevando a casa de tu cuñado para devolverle el taladro que se dejó cuando te ayudó a montar la cocina, así que no sabes si la IA es muy segura; algoritmos usando IA dentro de esa misma red social que inundas con fotos de tu mascota para que no olvides bailar esa música (u otra exactamente igual) mientras copias a la última adolescente y original youtuber/influencer que te necesita, junto a otros miles como tú, bailando para no tener que hacer algo interesante con su vida; ¿qué no sabes quién es esa nueva aportación a la cultura humana?, no te preocupes, el mismo algoritmo IA de tu red social hará autocumplido el hecho de que sea famosa antes de que te preguntes de dónde ha salido. Ahogados, más que inundados por la IA, hasta el punto de parecer que el papel que el término IA juega en la nueva ciencia/ingeniería/marketing es el mismo que otros desgastados términos (como *energía*, *cuántica*, *chi*, *chakra*,...) juegan en los razonamientos (¡cof cof!, perdón, que me he atragantado) y discursos de pseudocientíficos, paracientíficos o, simplemente, timadores, incultos y/o aprovechados, con programas nocturnos en la TV y que te cobran por clases particulares de *coaching* con *mindstupidness* o tratamiento *psico-ontológico integral*. Pero no te preocupes, que unos y otros no son lo mismo, a pesar de lo que pudieras pensar (si es que te dejan hacerlo), uno de los dos está envuelto en un aire de dignidad contra el que no puedes decir ni palabra (salvo que seas de algún grupo político extremista y liberal, pero es que esos dicen de todo en todo momento solo porque no tienen nada inteligente que decir), y el otro... bueno, el otro... Perdón, pero es que desde hace meses tengo problemas para diferenciar los objetivos de unos y otros. A ver, una cosa está clara, unos se aprovechan del desconocimiento del público, esperada fuente financiera de sus actividades, para fomentar una actividad inútil, pero productiva (para ellos, claro). Los otros, ¿qué otra cosa hacían los otros?... Mejor, volvamos a empezar, pero ahora voy a intentar imprimirle un carácter más serio y analítico, a ver si así hay alguna suerte discriminatoria que me permita entender hacia dónde nos movemos. --- En los últimos años, la IA ha ocupado un lugar destacado en los titulares de noticias, conferencias tecnológicas y estrategias empresariales. Sin embargo, a medida que esta tecnología ha ido ganando notoriedad, también, y quizás por ello, ha surgido una tendencia preocupante: el uso indebido y vacío del acrónimo IA. Esta tendencia ha llevado a una inflación semántica que desvirtúa el verdadero significado y el potencial cognitivo de la IA como disciplina científica, creando una brecha múltiple entre la percepción pública, la realidad técnica y el conocimiento asociado. Actualmente, el término IA se ha convertido en un mantra que se emplea para describir cualquier avance tecnológico: desde simples algoritmos de automatización hasta complejos (y poco imaginativos) sistemas de aprendizaje profundo. Empresas de todos los sectores se apresuran a etiquetar sus productos y servicios como *basados en IA* para atraer la atención de inversores y consumidores, sin que estos términos reflejen un uso real y significativo de la IA como disciplina científica. Un problema destacado es que los medios de comunicación, tan incultos como se obstinan en mostrarse (siempre encontrarás un periodista jugando el papel de especialista tertuliano de *sustituye-por-lo-que-se-te-ocurra*) lo propagan a los cuatro vientos con la seguridad del obispo, sin aportar el más mínimo carácter crítico ni educativo. Esta tendencia no es solo una cuestión de marketing exagerado, sino que también se traduce en prácticas empresariales y comunicacionales engañosas. En muchos casos, el término IA se utiliza como un término genérico para tecnologías que no van más allá de la automatización básica o el análisis de datos (que se confunde muy habitualmente como la subdisciplina de la IA conocida como *Aprendizaje Automático* o *Machine Learning*). Por ejemplo: * Muchas empresas presentan sus chatbots de reglas simples como sistemas de IA avanzados. Sin embargo, estos chatbots no poseen capacidades de aprendizaje ni adaptabilidad, y funcionan únicamente bajo un conjunto predefinido de respuestas o de IA generativa sin planificación ni verificación, porque la situación no cambia si en vez de reglas simples hacen uso de un sistema colosal del que ni saben su funcionamiento ni controlan las posibles salidas. * Abundan las aplicaciones de recomendación basadas en reglas sencillas o filtrado colaborativo básico que son presentadas como sofisticadas IA, cuando en realidad no incorporan técnicas avanzadas de decisión ni cumplen objetivos de personalización más allá de las pobres estadísticas (y es que las estadísticas siempre son pobres, pobrecillas) almacenadas en patrones no validados de comportamiento y preferencias y, sobre todo, sin producir una ganancia real al usuario objeto de la recomendación (aunque sí para el recomendador, así que quizás sí tengan algo de inteligencia, pero menos de honestidad). Aunque ha de decirse que la ganancia para el recomendador no es por la calidad de lo que muestra, sino por la selección de lo que no muestra. * La mayoría de los procesos automatizados por IA siguen flujos de trabajo que podrían ser reproducidos por sistemas más simples (pero desconocidos), no tienen la capacidad de tomar decisiones complejas, de aprender de nueva información, ni de dar una explicación o, al menos, una justificación, acerca de la supuesta optimalidad de la decisión ofrecida. De forma precoz, el uso indebido y falaz del término IA está mostrando ya varias consecuencias negativas, y a diversos niveles, de las etapas fundamentales para la mejora del conocimiento... es un término tan acelerado que, hasta en lo negativo, se está dando prisa por deslucir: * **Desinformación**: Los consumidores y usuarios de estos productos (que van desde el usuario de la calle hasta empresas buscando una solución eficaz, pasando por los investigadores que deberían centrarse en el desarrollo de sistemas robustos de generación de conocimiento) desarrollan expectativas poco realistas sobre las capacidades de los sistemas etiquetados bajo el paraguas de la IA, lo que provoca (o provocará en breve) decepciones y desconfianza cuando estos sistemas no cumplan con lo prometido... pero quizás no importe mucho, quien debe ya ha recibido financiación y méritos con la mentira. * **Freno a la Innovación**: La verdadera innovación en IA se está viendo obstaculizada por el ruido generado por afirmaciones exageradas/falsas, sobre todo provenientes de grandes multinacionales que deben mantener un ritmo de crecimiento proporcional a su tamaño y al de sus rivales. Los recursos y la atención que deberían dirigirse a proyectos genuinamente innovadores y enriquecedores se desvían hacia productos que no aportan un valor significativo (al conocimiento, aunque sí a esas empresas). * **Regulación y Ética**: La falta de claridad y precisión en el uso del término IA dificulta la creación de marcos regulatorios y éticos apropiados. Los legisladores y reguladores se enfrentan a un desafío mayor al intentar legislar sobre una tecnología que es mal interpretada, mal definida, y mal usada en el discurso público. No olvidemos que los propios legisladores son desconocedores absolutos (a veces, en exceso de la media) de la realidad científica y tecnológica que está detrás de estas soluciones, a la vez que presentan un celo desmesurado por hacer cumplir un papel que supera las atribuciones que la sociedad le ha encomendado. Pero el problema quizás más acuciante es que el uso indebido y falaz del término IA está también teniendo efectos perjudiciales en el entorno científico, donde la precisión, la rigurosidad y la integridad son cruciales para el avance del conocimiento. Es interesante que la percepción general (dentro y fuera de los ámbitos científicos) es que la Ciencia es una muy antigua, robusta y resiliente estructura que es imposible dañar, como si fuera un viejo edificio monumental que desde tiempos inmemoriales ha estado ahí para dar cobijo a las pocas buenas certezas que ha aprendido el ser humano. Pero, en vez de algo tan majestuoso y resistente, está constituido por un joven, dinámico y delicado entramado de sistemas que ha sido difícil de entretejer, en evolución, y que depende de un flujo continuo de pequeñas aportaciones y, sobre todo, de mucho respeto y conocimiento para saber qué podar y por dónde dejarlo crecer para asegurar su crecimiento en las correctas condiciones. Así pues, podríamos decir que se parece más a un árbol vivo que a un edificio muerto. Por ello, es importante destacar algunas formas en las que esta tendencia ya está afectando negativamente a la investigación científica y a las tareas globales de generación del conocimiento. Por ejemplo, se está produciendo un desvío de los recursos financieros y humanos hacia proyectos que se autodenominan de IA, o que dicen hacer uso de ella, pero que en realidad no lo son o no obtienen ninguna ganancia adicional por este uso indiscriminado (últimamente, hasta el último mono tiene un proyecto de IA, hace un congreso de IA, u opina sobre el uso y ventajas de la IA). Esta derivación de recursos provoca dos resultados inmediatos de dificil recuperación posterior. Por una parte, la existencia de un financiamiento inadecuado, teniendo en cuenta la escasa y menguante asignación, hace que aquellos fondos de investigación que podrían ser destinados a proyectos con un sólido fundamento científico y un potencial real se desvían hacia proyectos que utilizan el término IA de manera engañosa (que son la inmensa mayoría). Esto impide que investigaciones genuinamente innovadoras reciban el apoyo necesario. Por otra parte, respecto a la atracción de talento, cada vez encontramos más investigadores y científicos que son atraídos a proyectos mediáticos y bien financiados pero sin sustancia científica, dejando menos talento disponible para trabajos más fundamentales y a largo plazo que requieren un enfoque más riguroso (y menos glamuroso). Adicionalmente, el aprendizaje científico también es delicado, así que la mayoría de esos jóvenes investigadores atraídos por las luces brillantes habrán desperdiciado el instante que no vuelve de haber aprendido lo importante. Al igual que en el mundo empresarial, sería fácil identificar (aunque tedioso, por su elevado número) la cantidad de investigadores circundantes que ahora dicen aplicar IA, desarrollar IA o IA-tizar cualquier cosa que les rodea. En mi experiencia personal, me he encontrado con muy pocos, poquísimos, casos de aplicación/objetivo honesto, riguroso y con valor (ni siquiera ampliando la búsqueda a la estratosfera más allá de mis paredes), pero sí muchos casos de autoengaño y falta de conocimiento. A veces el investigador es honesto, riguroso y con valor, pero no así su objetivo. No seamos bondadosos, un investigador profesional que cae en estos trucos para facilitar su supervivencia no se diferencia del publicista que te vende la aspiradora luminosamente inteligente. Y más aún, un sistema de gestión de la investigación que promociona estos comportamientos (desde las vicerrectorías, hasta las consejerías, secretarías y ministerios) no se diferencia de la empresa que añade las letras IA a su visión empresarial sin más objetivo que facilitar un aumento de sus ganancias inmediatas al coste mínimo. Las políticas de investigación están siendo influenciadas por la percepción pública y la presión de los medios, priorizando áreas etiquetadas como IA sin una evaluación crítica de su viabilidad y necesidad real. Los programas de investigación y desarrollo se orientan hacia aplicaciones de IA que son más comerciales o atractivas para los medios, en lugar de enfocarse en áreas científicas de mayor impacto y calado a largo plazo. De todas formas, siempre hemos sabido que los gestores de investigación no están ahí por sus increibles dotes de líderes del conocimiento. Podemos añadir cómo el uso indiscriminado del término IA ya está erosionando los estándares de rigor científico que deberían regir la comunidad investigadora. Por una parte, la presión por publicar resultados impactantes y etiquetarlos como IA lleva a la propagación de trabajos que no cumplen con los estándares científicos habituales, estándares que se habían generado por consenso implícito con el paso de los años y los diversos errores aprendidos. Ya era desastroso, y quizás uno de las peores aportaciones al entorno de la ciencia en los últimos 50 años, cómo las editoriales científicas (macro-empresas privadas que desangran la financiación pública por medios absolutamente inmorales y, casi con seguridad, ilegales, pero con el beneplácito de los investigadores) se han convertido en los verdaderos legisladores de los objetivos científicos, siempre con la mezquina connivencia de los gestores oficiales de la investigación. Hemos vivido el despertar de las redes de investigación, un constructo que podría haber sido interesante como medio para potenciar las sinergias y colaboraciones, para vivir su posterior conversión en medios y fines para agrupar mafias en las que coordinar y manipular áreas completas de investigación, manejando simultáneamente el proceso de financiación y de publicación como herramientas fundamentales para controlar la deriva científica y su validación, todo para asegurar que sus miembros no pierdan sus privilegios actuales y futuros. La IA se ha convertido en una excusa más para la proliferación de líneas editoriales y grupos de investigación vacíos, vaciados, y orientados en direcciones que no se alinean con los objetivos de la Ciencia (la que lleva mayúsculas). Además, se ha normalizado la producción de investigaciones superficiales que no exploran en profundidad las cuestiones científicas fundamentales. La tendencia a obtener resultados rápidos y mediáticos ha disminuido el incentivo para investigaciones a largo plazo que requieren más tiempo y esfuerzo para producir resultados significativos. Esto no es nuevo, ni la IA tiene exclusividad en su culpa, sino un proceso evolutivo (involutivo, mejor dicho) que viene mostrándose desde hace años debido a la conversión de la carrera académica en un proceso constante de acreditaciones sin un fundamento basado en el conocimiento. Ahora con la IA, una actividad humana que precisa de reposo y maduración se ha convertido en una carrera de métricas (irreproducibles) que poco hablan de la calidad de las ideas y de los resultados, y mucho de los recursos disponibles y de los contactos (y nombre de los firmantes, no olvidemos que las publicaciones se parecen cada día más a los programas del corazón de media tarde, y que las redes de investigación, e institutos que aparecen por doquier como feudos donde sí te dejan romper la pelota si no te dejan marcar el gol, juegan el papel de los grandes nombres de las sagas familiares de la peor revista del corazón o de telenovela hispano-turca). Este ciclo perverso de producción ha generado una nueva generación de científicos, profesores y catedráticos (que son como profesores, pero con medallas por haber dicho que el nuevo traje del emperador era la mejor creación desde que nació el propio emperador) que manejarán el tren del método científico tras una capa de absoluta incapacidad, oradando las raíces de ese árbol que creíamos tan robusto, e impidiendo la aparición de nuevas ramas preparadas para enfrentarse a los retos interesantes del futuro. Sumado a todo lo anterior, el énfasis en la IA ya influye negativamente en el sistema educativo y en la formación de futuros científicos. Los programas académicos se sorbecargan con títulos, cursos y certificaciones en IA que no proporcionan una comprensión profunda de los principios subyacentes, creando profesionales con habilidades superficiales que serán fácilmente sustituidos por la baja especificación de los trabajos para los que han sido mal preparados. La aparición de títulos sin control (algo que en España está muy de moda... si no buscas calidad, al menos engaña con la cantidad, sobre todo si sale gratis administrativamente), unido al disminuido valor científico de los departamentos, ha convertido la creación sosegada de nuevas alternativas en una producción artificial de nuevos productos en los que es fácil encontrar al experto en bollería preparando un chocolate difícil de identificar, y al emplatador preparando un bizcocho que no ha subido porque no sabía cómo encender el horno. Todo el mundo dice saber de todo (parecemos tertulianos), aunque nadie lo ha demostrado jamás, reflejando una falta de respeto absoluto por las disciplinas que se quieren enseñar y, sobre todo, reflejando una incultura preocupante por los fundamentos de lo que quiere enseñar. Pero es que los errores del pasado se perpetúan en los tamaños del pastel que tenemos que dividir, y la IA es una tarta de boda, con muchos niveles, muchos comensales, y soportada sobre delicados soportes dispuestos a romperse de un momento a otro... eso sí, una tarta de una boda a la que los novios no se han presentado. Así, vemos cada día cómo estudiantes y académicos se enfocan en aprender, enseñar y trabajar en áreas de moda relacionadas con la IA en lugar de desarrollar una base sólida en fundamentos matemáticos y computacionales imprescindibles para soportar el peso de la IA real. El problema del estudiante sería solucionable quizás sacrificando las generaciones que no adquirieron la formación adecuada, al fin y al cabo, aparecen nuevas generaciones cada año (aunque cada año con una capacidad más mermada), pero el caso del académico es bastante más complejo porque nuestra capacidad de reacción es menor, y no podemos sacrificarlos de forma tan aventurada porque no tendríamos nuevos académicos que usar, ni nos lo permitiría el sistema. !!!side:2 Es sorprendente la cantidad de miembros de la universidad que no se han planteado cuál debe ser el papel fundamental de la Universidad en la sociedad humana. Sin responder a esta pregunta, no tiene sentido buscar un objetivo valioso a largo plazo que perseguir. Y, por ello, el problema es más preocupante, porque nos informa sobre el individuo que debía tener la capacidad de analizar y decidir. Vista la deriva, o carece de la capacidad (exigible) para vislumbrar la gran falacia que intenta vender sin ni siquiera tener la preparación para ello, o no ha tenido la honestidad para situarse en el papel que debía jugar. En cualquiera de los dos casos, no ha cumplido con la tarea que tenía asignada en el sistema de generación de conocimiento (que, y este es uno de los problemas no reconocidos actualmente, es el papel de la Universidad) [2]. Desde el punto de vista social, el uso engañoso del término IA puede afectar a la credibilidad de la ciencia en general, ya que la exageración y las falsas promesas pueden llevar a una desconfianza pública en la ciencia y la tecnología cuando las expectativas no se cumplan, afectando la percepción pública de la investigación científica y sus beneficios. De esta forma, con toda seguridad la reputación de la ciencia se verá dañada al percibirse que los científicos y las instituciones académicas están involucrados en la promoción de tecnologías infladas y engañosas. Finalmente, los grupos detractores de la generación **pública** de conocimiento como el único medio indispensable de generación de conocimiento tendrán un motivo adicional para hundirla un poco más, y esta vez será un regalo proporcionado por los propios investigadores. (insert ../menu.md.html here)