UN MUNDO DE VENTRÍLOCUOS

 

¿Quién no recuerda a las simpáticas marionetas Kini y Lalo, en las hábiles manos del fallecido comediante Carlos Donoso? Las marionetas, esos elementales muñecos de trapo, en unas manos geniales como las de Donoso, cobran vida, personalidad y carácter. Opacan incluso a quien les da vida. Y ese es precisamente el arte de un buen ventrílocuo: desaparecer, para que aparezca y brille la marioneta. Toda nuestra atención estará puesta en la marioneta y alrededor de esta girará todo el espectáculo. Donoso, en ese arte, lo hizo magistralmente.

 

Si lo observa bien, es justo lo que nos está ocurriendo con la inteligencia artificial (IA, en adelante). Solo que, en esta oportunidad, tal parece que hemos venido eligiendo masivamente el rol de marionetas. Sorpréndanos o no. En mi caso, preferiré siempre quedarme con el papel de Donoso.

 

Vemos, en efecto, cómo ya prolifera todo tipo de contenidos totalmente escritos o producidos por agentes de IA: libros completos por centenares, discursos de políticos las 24 horas del día, tesis de grado por doquier, proyectos de todo  tipo, noticias de todos los canales, investigaciones científicas publicadas aun en revistas indexadas, etc. Parece no haber límite. E infinidad de personas (autores, políticos, universitarios, técnicos, ejecutivos, periodistas, investigadores…) están recitando, publicando, distribuyendo y presentando como propias (¡!) todas esas producciones de la IA, al mejor estilo de Kini y Lalo. ¿Y quién no le cree a la marioneta, cuando el ventrílocuo alcanza los niveles de calidad que ya empieza a mostrar la IA, con su infinidad de agentes y chatbots?

 

Para que nos formemos una idea del fenómeno, tomemos nota de que ya Amazon, en 2024, y ante la avalancha de libros generados por IA, se vio obligada a poner un tope a la publicación de libros en su plataforma. Sorpréndase: el tope que fijó fue de 3 libros diarios por autor. Ver ACÁ. ¡Para Ripley! Conozco el oficio de escribir y confieso que toparme frontalmente con estas realidades de nuestra vida contemporánea me generan estupor, por decir lo menos. En Europa ocurre igual. Así lo reportan los  medios: “El sector editorial es ahora mismo un valle inquietante en el que cuesta distinguir entre seres humanos e inteligencias artificiales que, a simple vista, parecen sospechosamente humanas” (ver ACÁ. Subrayado del original). Y problemas de similar gravedad están viviendo las empresas, las revistas serias, la comunidad científica y todo el público objetivo de tales publicaciones. ¿Empezamos a tener marionetas bestsellers?

 

O, si se quiere otro ejemplo, el fraude masivo que se presentó con el software de IA Territorium, para supervisar el examen de ingreso a la UNAM en México. Así lo reportó la National Public Radio (NPR) de Washington: “La universidad más prestigiosa de México se enfrenta a una crisis de fraude tras un examen de admisión en línea —el primero de su tipo— que arrojó resultados tan inusuales que un análisis sugiere que casi la mitad de los aspirantes podrían haber hecho trampa”. Y no es la primera universidad en tener un incidente similar serio con fraudes por uso de IA (ya son la U. de A., en Colombia; Sheffield y Glasgow en Reino Unido; Princeton y Stanford en USA, entre las conocidas). ¿Será la primera generación de marionetas profesionales?

 

No se trata de demonizar la IA. Sería como haber demonizado a Carlos Donoso y a todos sus colegas. La pregunta es: ¿qué uso estamos dispuestos a hacer de esta, la tecnología más disruptiva que nosotros mismos hemos puesto en nuestras propias manos? Porque Donoso, terminada la función, acomodaba a Kini y a Lalo en su maleta de titiritero, aún a regañadientes de Lalo, y seguía su vida de ciudadano dueño de su propio destino. Pero nosotros ¿acaso hemos decidido venderle el alma al diablo por un plato de lentejas?, ¿por monetizar espacios, figuración, fama y circulación? Todo parece indicar que es lo que está ocurriendo.

 

El resultado más perverso que avizoro es que vamos a terminar viviendo una ficción cognitiva en el más crudo caso de endogamia. En efecto, la IA, hasta ahora, no crea conocimiento nuevo en absoluto, aunque soy consciente de que es una postura rebatida y polémica. En mi concepto, solo combina conocimiento preexistente; o, cuando más, acelera la producción humana de conocimiento nuevo; solo que sus bases de datos son tan gigantescas, que inevitablemente todo lo que genera produce la sensación de novedad. Pero no hay tal cosa como creación artificial de conocimiento, sin que podamos descartar que así llegue a ser en el futuro. Así lo comparte el filósofo y teólogo Ricardo L. Falla, citando a la filósofa Shannon Vallor: “…la tecnología no comprende el mundo; refleja e interpola patrones preexistentes acumulados en el pasado” (ver ACÁ). Y doy un argumento de fondo, para respaldar mi posición: la única fuente de conocimiento nuevo es la capacidad de preguntar. Y la IA, hasta hoy, no ha desarrollado la capacidad de preguntar, ni ninguna de las capacidades que le son inseparables: la duda, la curiosidad, el asombro, la perspicacia, el pensamiento crítico y disruptivo.

 

Por lo pronto, estamos entonces ante un fenómeno cognitivo de carácter endogámico masivo. Que, como todo proceso endogámico, termina produciendo efectos devastadores en la descendencia. En este caso, en el conocimiento; y, lo que es más grave, en nuestra capacidad de pensar. Ya se empiezan a evidenciar síntomas preocupantes. Estamos dejando de pensar. Justo como las marionetas.

 

Un tímido consuelo empieza a llegarnos de la Unión Europea, con su Ley de Inteligencia Artificial (AI Act), que acaba de iniciar su progresiva entrada en vigor (ver ACÁ). De esa manera, empezamos a ver respuestas adaptativas por parte de todas las tecnológicas, aunque bastante débiles aún, según los primeros análisis de expertos.

 

De esa manera, Anthropic acaba de anunciar que todos los textos procesados por Claude llevarán una marca de agua que los identifique. Pero, aunque es un buen comienzo, tiene una falencia que el mismo Anthropic ya reconoció: así un texto sea producido por una persona, si lo somete, por ejemplo, a revisión ortográfica de Claude, llevará dicha marca de agua. De suerte que continuará vigente la ambigüedad sobre el origen mismo del contenido. Y esto “es de nuevo algo crucial, porque que un texto tenga esa marca indica que ha sido procesado por Claude, no que necesariamente lo ha escrito Claude” (ver ACÁ).

 

También ha empezado a implementarse el estándar técnico C2PA (Coalición para la Procedencia y Autenticidad del Contenido). Este estándar permite dejar huella, mediante la creación de metadata, del ciclo de vida de un documento, imagen, video, audio o cualquier material u objeto digital. Mediante esta metadata, el usuario puede conocer el origen y transformaciones que dicho material ha sufrido desde su creación. Aunque suene ideal, es un estándar que tiene muchos agujeros según los expertos, al igual que la marca  de agua, por lo que una línea roja final clara entre el contenido humano y el artificial seguirá esperando.

 

Mientras tanto, hemos ingresado, quizás sin percibirlo conscientemente, en una nube cognitiva, en la que nada es blanco o negro, auténtico o artificial; todo es gris. Y lo grave al final es que nuestra capacidad de pensar se torne gris igualmente. Mientras tanto, seguiremos viendo grandes masas de marionetas entregándose entusiasmadas en las manos seductoras del ventrílocuo de moda. Y se robarán toda la atención del circo, como Kini y Lalo. Por eso, como lapidariamente afirma el filósofo español Eduardo Infante, en su novela Salvar a Sócrates (ver ACÁ), “en la era de la IA, pensar se ha convertido en un acto de resistencia” (ver ACÁ). ¡Pobre sapiens!

 

Ramiro Restrepo González

Agosto de 2026