Hará un par de meses que le regalé a una amiga un vídeo de cumpleaños. De esos elaborados, con música emotiva y transiciones bonitas. Me pasé un buen rato seleccionando fotos, eligiendo el orden, pensando en qué momentos la representaban mejor. Una obra de arte, vamos. Qué detalle el mío. Soy un amor.

“Un video con fotos no está algo visto?” pensaréis. Pues no, que ya sabéis que yo antes muerta que poco original. La innovación es que el video final no tenía fotos, tenía videos. Sí, videos a partir de las fotos. Escenas que nunca sucedieron y que yo diseñé por 20€ y una IA. Escenas que eran como yo quise que fueran. Escenas que mostraban lo que yo quise que mostraran.

Quedó estupendo. Y era absolutamente falso.

El pacto que firmamos sin saberlo

Durante décadas hemos vivido con un pacto implícito con la realidad: ver era creer. Una foto era una prueba. Un vídeo era un testimonio. Una voz al teléfono era una identidad. Construimos todo nuestro sistema de confianza (legal, social, emocional) sobre esa premisa tan razonable, tan obvia, tan completamente equivocada.

Nos hemos criado en una sociedad que admite el material audiovisual detrás de una pantalla como prueba empírica de que algo sucedió y fue real.

Los juzgados admiten fotografías como evidencia. Reconocemos a nuestros seres queridos por el timbre de su voz. Creemos a los políticos cuando los vemos en vídeo (bueno, esto último ya era discutible antes de la IA, pero en fin). 

Ese pacto se ha roto. Y casi nadie se ha enterado todavía.

Mi madre y la contraseña medieval

Hace unos meses tuve que sentarme con mi madre y contarle algo un poco raro.

—Si alguna vez te llama alguien que suena exactamente como yo, que habla como yo, que usa mis expresiones y conoce detalles de nuestra vida, y te pide dinero o te cuenta algún rollo urgente…—le dije—, pregúntale la palabra clave de la alarma.

Su cara fue un poema.

—Qué palabra clave?
—La de la alarma… porque sólo la sabemos nosotras.
—Como los espías?
—Exactamente como los espías.

Silencio.

—Y si se me olvida?

Buena pregunta mamá. Buenísima pregunta. Estuve a punto de decirle que se la apuntara en un papel.

Hemos retrocedido en el tiempo, cuando los mensajeros llevaban un sello para demostrar que venían del rey. En pleno siglo XXI, con toda la tecnología del mundo, la solución más fiable que tenemos para saber si la persona al teléfono es quien dice ser es… una contraseña acordada en persona. El clonado de voz existe, es barato, y con tres minutos de audio tuyo en Internet es más que suficiente. Y no, no hace falta ser ningún genio del mal. Está al alcance de cualquiera con veinte euros y mañana libre.

Parece mi voz. Suena como yo. Sabe lo que aparece de mi en internet. Pero puede que no sea yo.

El detector invertido

Lo más inquietante no es mi madre, que al menos desconfía de lo que no entiende. Lo más inquietante son mis hijos, de 9 y 11 años. Que se supone que son la generación que esto tiene que sabérselo muy bien.

Han asimilado, antes que muchos adultos, que “la IA hace mentiras”. Lo tienen clarísimo. Bien por mi parte, algo estaré haciendo bien con su educación. El problema es que lo han convertido en un filtro con una lógica de lo más peculiar: si algo parece espectacular, imposible, demasiado perfecto, dicen “eso es IA” y pasan. Correcto. Pero cuando algo parece morboso, verosímil, filmado con móvil y con el grano de una cámara mala… se lo creen. Y ahí está el truco, porque los mejores deepfakes no son los espectaculares. Son los cotidianos.

Las imágenes de una guerra pueden ser reales o generadas. Unos políticos abrazándose en un aeropuerto pueden ser un momento histórico o una ficción de cuatro minutos. Mis hijos saben que existe el engaño pero han aprendido a detectar exactamente el que no importa. El detector lo tienen puesto del revés. Y lo peor es que el nuestro, el de los adultos que supuestamente sabemos más, tampoco funciona.

Parece verdad. Tiene toda la pinta de serlo. Y no hay manera de saberlo a simple vista.

Hasta Black Mirror ya es poco ambicioso

Hay un capítulo de Black Mirror en el que alguien instala un virus en el ordenador de su víctima, captura imágenes comprometidas desde la webcam y la chantajea. Una trama que en su momento nos pareció perturbadora y sofisticada. Un thriller tecnológico de andar por casa.

Hoy esa trama es entrañable. Casi nostálgica. Instalar un virus, esperar a que la víctima haga algo comprometido, capturarlo en el momento justo… tanto esfuerzo. Tanta dedicación. Tanto trabajo, con lo fácil que es ahora.

Porque hoy basta con unas cuantas fotos públicas de alguien (las que cualquiera tiene en Instagram o LinkedIn, ahí regaladas), un portátil y veinte euros de suscripción a un modelo de generación de vídeo. El resultado es material comprometido que nunca existió, protagonizado por una persona real, perfectamente convincente. Sin virus. Sin esperas. Sin habilidades especiales. La barrera técnica que antes protegía a la gente ha desaparecido. No se ha reducido. Ha desaparecido.

Y el marco legal va, como siempre, varios años por detrás pensando qué hacer al respecto.

Parece real. No lo es. Y quien lo recibe no tiene manera de saberlo.

La firma que no escribiste

Antes, falsificar una firma en un documento recibido por email era un proceso de una laboriosidad casi admirable: imprimir, buscar otro documento con la firma de la víctima, recortarla con paciencia quirúrgica, pegarla, escanear, rezar para que la resolución aguantara y el fondo no delatara el corte, y enviar con cara de inocente. Funcionaba a veces. Se notaba un horror otras. Un arte, vamos.

Hoy le pides a cualquier IA generativa que inserte una firma en un PDF, le das una imagen de referencia y en treinta segundos tienes un documento con la firma perfectamente integrada, con la opacidad correcta, sin bordes, sin anomalías de color, indistinguible a simple vista del original. Treinta segundos. Lo que tardas en hacerte un café.

Bueno, pues ahora imaginad que no es el contrato de alquiler de un vecino. Imaginad que es la firma de un consejero delegado en un acuerdo mercantil. O la de un notario. O la vuestra en un documento que nunca visteis. Los sistemas de firma digital existen precisamente para evitar esto, pero la mayoría de la gente sigue firmando PDFs a la antigua. Y la mayoría de las empresas los sigue aceptando tan contentas.

Parece firmado. Tiene tu firma. Puede no haberlo firmado nadie.

El lujo que ya no tenemos

Todas las grandes revoluciones tecnológicas anteriores tuvieron algo en común: el tiempo. La sociedad no llegó a ellas de golpe. Las fue absorbiendo, digiriendo, regulando, con más o menos acierto pero con tiempo suficiente para intentarlo.

Sesenta años para que el vapor transformara la economía europea a partir del 1.769. Cincuenta para que la electricidad llegara a la mayoría de hogares a partir del 1.882. Quince años para que Internet pasara de nicho académico a fenómeno global a partir del 1.991. En todos los casos, tiempo suficiente para que el derecho, la cultura y la educación fueran adaptándose, con más o menos torpeza pero adaptándose.

Pero ya nos ha pillado el toro con algunas cosas: seguimos pagando los platos rotos de las redes sociales. La desinformación, la polarización, el impacto en la salud mental de los adolescentes, la manipulación electoral a escala industrial: nada de eso está resuelto aún. Y con esto aún a cuestas nos ha cogido el siguiente gran tsunami.

Llevamos apenas cuatro años de IA generativa. Lo que describo en este artículo no es futuro. Está pasando ahora, con herramientas disponibles para cualquiera, a un coste ridículo, sin que exista todavía ningún marco legal, educativo ni social que lo contenga. Pero lo realmente aterrador no es la falta de regulación.

Lo aterrador es que no se está teniendo tiempo suficiente para enterarse de qué está pasando.

Te imaginas?

Antes de que sigáis leyendo y os quedéis con cara de “pero entonces para qué sirve esto”, vamos a hacer un ejercicio. Porque esta tecnología no es solo el apocalipsis que os estoy contando. También es esto:

Te imaginas ser un gran locutor de radio al que una enfermedad le ha robado la voz, y poder seguir locutando con ella? Su voz. La de siempre. La que sus oyentes llevan décadas escuchando. Ya ocurre.

Te imaginas rodar un anuncio de televisión una sola vez y lanzarlo en cuarenta idiomas distintos, con el mismo actor, en dos días, sin que nadie coja un avión ni reserve un estudio de doblaje?

Te imaginas tener dislexia severa y que la barrera entre lo que piensas y lo que publicas desaparezca? No “se reduzca”. Desaparezca. Porque la IA escribe lo que tú le dictas, con tu voz, con tu estilo, sin los errores que llevas toda la vida corrigiendo con vergüenza.

Te imaginas ser un estudiante sin recursos, en un pueblo sin academias, con padres que no pueden pagarte clases particulares, y tener un tutor disponible a cualquier hora, con paciencia infinita, que adapta cada explicación exactamente a tu ritmo y no se cansa ni se va a cenar? Ese tutor ya existe. Cuesta menos que una hora de academia.

Te imaginas ser músico, tener la música en la cabeza desde siempre, y no poder tocar ningún instrumento porque tienes parálisis cerebral? Y un día escuchar, por primera vez, exactamente lo que llevas años oyendo solo tú? Ya hay gente llorando por esto. De alegría, que conste.

Te imaginas llevar una empresa de tres personas y poder lanzar una campaña publicitaria con la producción visual de una multinacional, porque el equipo de diseño, el estudio de grabación y el actor de doblaje los pone la IA y cuestan lo que antes costaba un café de reunión?

Te imaginas que los restos de una ciudad destruida hace dos mil años se reconstruyan en vídeo con suficiente fidelidad histórica como para que los estudiantes la visiten en realidad virtual, sin salir del aula y sin que nadie tenga que inventarse nada?

Te imaginas que tu madre, con principios de Alzheimer, tenga una IA entrenada con su historia de vida que le ayuda a recordar nombres, caras, fechas, y le habla como si la conociera de siempre? Porque la conoce. Le hemos contado todo.

Te imaginas llegar a un país sin papeles, sin idioma, sin nada, y poder comunicarte en tiempo real con cualquier médico, funcionario o profesor desde el primer día, sin intérprete, sin esperas, sin depender de que alguien tenga tiempo para ti?

Bonito, verdad? Qué maravilla de tecnología. Qué futuro tan luminoso nos espera.

Pero… te imaginas?

Siempre hay un pero. Con esto también.

Te imaginas que alguien tiene bronca con el jefe, y que en lugar de irte a tomar algo para calmarse, genere un vídeo comprometido de él y se lo mande a Recursos Humanos? Sin virus. Sin cámara oculta. Sin habilidades especiales. Veinte euros y una tarde libre. Ya os dije antes que el capítulo de Black Mirror había envejecido fatal.

Te imaginas recibir un email de phishing que no llega con faltas de ortografía y el logo pixelado de tu banco, sino con el nombre de tu gestor de toda la vida, su estilo de escritura exacto, mencionando la última operación que hiciste, preguntándote algo completamente razonable? Porque eso ya no es ciencia ficción. Y es masivo.

Te imaginas que tres días antes de unas elecciones circule un vídeo de un candidato diciendo exactamente lo que su rival necesita que diga? En New Hampshire, en 2024, los votantes recibieron una llamada con la voz de Biden pidiéndoles que no fueran a votar en las primarias. Generada con IA. En Argentina, en las legislativas de 2025, la justicia electoral recibió más de 360 denuncias por contenido falso generado con IA.

Te imaginas entrar a trabajar una mañana, recibir una videollamada con tu jefe y todos tus compañeros, tomar una decisión importante juntos y hacer quince transferencias? Y que todos, absolutamente todos los que estaban en esa llamada, fueran deepfakes. Un empleado financiero de Arup en Hong Kong no tuvo que imaginárselo. Transfirió 25 millones de dólares. El dinero no volvió.

Te imaginas que la falsificación de un título universitario, un contrato de trabajo, un certificado médico o unos papeles de inmigración ya no requiera a nadie con conocimientos especiales, ni tiempo, ni dinero, sino simplemente saber pedírselo a una IA con las palabras adecuadas? A escala industrial. Para cualquiera.

Te imaginas que alguien genere un audio falso del director de tu colegio haciendo comentarios racistas, lo suba a internet, se haga viral con dos millones de visualizaciones, le llueva una oleada de amenazas de muerte, pierda su trabajo, y que la policía tarde tres meses en confirmar que el audio era falso? No hay que imaginárselo. Pasó en Baltimore, en 2024. El director tardó más en recuperar su reputación que lo que tardó en perderla.

Te imaginas que la persona con la que llevas semanas hablando en una app de citas, con la que has conectado de verdad, que te conoce y te entiende, que tiene una cara y una voz y una historia, no exista? Y que en algún momento llegue la petición de transferencia urgente. Las empresas que fabrican estas personas sintéticas están creciendo a doble dígito.

Te imaginas contratar a un ingeniero de software en remoto, darle acceso a tus sistemas durante meses, y descubrir que esa persona no existe? Que era una identidad completamente fabricada con IA, foto retocada, CV generado, entrevistas superadas. Pasó en 2023. La empresa se llamaba KnowBe4. Lo contaron ellos mismos, que ya tiene mérito.

Te imaginas que para 2026 el noventa por ciento del contenido que leerás en internet haya sido generado por IA? No es una predicción de un loco en un foro. Es una estimación publicada este año por gente que estudia esto. Algunos estudios dicen que los bots ya generan más actividad online que las personas. Bienvenidos a internet.

Te imaginas que Rusia haya utilizado ChatGPT para generar contenido de injerencia en las elecciones alemanas de febrero de 2025? OpenAI lo detectó y lo confirmó. Lo que no confirmó, porque no puede, es cuántas operaciones similares no detectó.

Te imaginas poder clonar la voz de un familiar fallecido con los audios que tienes en el móvil, y que sus hijos le hablen como si siguiera vivo? Hay empresas que ofrecen esto como servicio. Con precio y todo. Con reseñas en Google. Cinco estrellas.

Te imaginas que las aplicaciones de verificación de identidad que protegen tu cuenta bancaria o tu historial médico fallen en uno de cada veinte intentos cuando el atacante usa un deepfake en tiempo real? Es el dato de 2025. Uno de cada veinte. Que en términos de banca digital son millones de intentos al día.

Te imaginas que presentar una foto como prueba en un juicio no valga nada sin una cadena de custodia digital que certifique que no ha sido alterada? Algunos juzgados ya están discutiendo exactamente esto. El sistema legal lleva siglos construido sobre la premisa de que ver es creer. Estamos rehaciendo los cimientos.

Entonces… qué?

No tengo solución. O más bien tengo la misma solución mínima que le di a mi madre: una contraseña acordada, un protocolo de verificación primitivo y efectivo. Para el resto, de momento, no hay parche.

Lo que sí hay es una responsabilidad nueva: la de dudar. No de todo ni de todos de forma paranoica, sino de entrenar el músculo del escepticismo visual de la misma manera que aprendimos a no abrir correos con asuntos de “has ganado un premio”. Aquella generación tardó años en aprender. Esta lección va a ser más difícil, porque el engaño es mucho más bonito. Y mucho más barato.

Porque ya no se trata solo de no creerse las noticias raras o los vídeos espectaculares. Se trata de asumir que cualquier cosa que aparezca en una pantalla puede no ser real. La cara de alguien. Su voz. Un documento. Una llamada. Una reunión. Un recuerdo.

Mi amiga, la del video, sigue encantada con aquellos momentos que nunca pasaron, con su cara, con la cara de la gente que quiere, perfectamente iluminados y con música emotiva de fondo.

Porque parece real.

Buena suerte, queridos.