Radar tecnológico: la semana en que la IA dejó claro que ya no compite solo por ser más inteligente
Esta semana, mientras iba siguiendo las noticias tecnológicas, he vuelto a tener una sensación que empieza a repetirse: ya no estamos observando únicamente una carrera por construir el modelo de inteligencia artificial más potente.
Estamos viendo algo bastante mayor.
Mistral acaba de levantar 3.000 millones de euros para intentar consolidar una alternativa europea. Google invertirá 13.000 millones en infraestructura en Finlandia y ha llegado a un acuerdo energético que se extiende durante 22 años. Meta ha presentado un agente capaz de entrar en aplicaciones y actuar por nosotros. XPENG ya está produciendo robots humanoides. Amazon y Qualcomm preparan una operación que podría mover hasta 60.000 millones de dólares en chips para centros de datos.
Y, mientras invertimos cantidades enormes de dinero en aumentar la capacidad, seguimos descubriendo comportamientos de agentes que sus propios desarrolladores no habían previsto.
Por si faltaba algo, Dario Amodei, CEO de Anthropic, ha pedido públicamente que la industria reduzca el ritmo de desarrollo de los sistemas más avanzados para permitir que la seguridad pueda ponerse al día.
Cuando coloco todas estas noticias juntas, no veo siete historias independientes.
Veo cómo la inteligencia artificial está dejando de ser una categoría de software para convertirse en una infraestructura económica, energética, industrial y estratégica.
Y ahí, para mí, está la verdadera noticia de esta semana.
Mistral consigue 3.000 millones: Europa empieza a entender que la soberanía tecnológica también se paga
Quiero empezar por Europa.
La francesa Mistral AI ha cerrado una ronda de financiación de 3.000 millones de euros, alcanzando una valoración superior a los 21.000 millones. Es, según Reuters, la mayor ronda de capital conseguida hasta ahora por una tecnológica privada europea.
La propia compañía explica que utilizará ese capital para ampliar su capacidad de cómputo, investigación, infraestructura y presencia internacional. El anuncio oficial de Mistral
Y creo que esta noticia importa bastante más que la cifra.
Durante años Europa ha hablado de inteligencia artificial principalmente desde el ámbito regulatorio: AI Act, privacidad, derechos, cumplimiento, soberanía digital. Todo eso es necesario. Pero podemos aprobar toda la regulación que queramos y seguir dependiendo completamente de tecnologías construidas fuera de Europa.
Ahí aparece una realidad bastante incómoda: la soberanía tecnológica no se consigue únicamente legislando. También hay que financiarla.
Entrenar modelos cuesta. Las GPU cuestan. Los centros de datos cuestan. La electricidad cuesta. El talento cuesta. La investigación cuesta. Y competir contra compañías estadounidenses que pueden movilizar decenas de miles de millones exige una escala financiera completamente diferente a la que Europa ha manejado tradicionalmente.
Por eso no veo los 3.000 millones de Mistral únicamente como otra ronda de inversión. Los veo como una señal.
Europa empieza a comprender que si quiere tener voz propia dentro de la inteligencia artificial no puede limitarse a decidir cuáles son las reglas. También necesita jugadores capaces de competir dentro del terreno de juego.
Eso no significa que Mistral vaya a convertirse mañana en OpenAI o Anthropic. La distancia financiera sigue siendo enorme. Pero sí empieza a construirse una alternativa alrededor de modelos de pesos abiertos, despliegues soberanos y mayor control empresarial sobre datos e infraestructura.
No existe soberanía tecnológica real si todas las tecnologías estratégicas de las que dependemos pertenecen a otros.
Y aquí aparece precisamente la siguiente pieza del problema.
Porque para construir inteligencia artificial no basta con tener modelos, investigadores y capital.
Hay que conseguir alimentar toda esa infraestructura.
Google invertirá 13.000 millones en Finlandia. Pero a mí me impresiona más otro número: 22 años
Google anunció esta semana una inversión de 13.000 millones de euros en Finlandia durante los próximos dos años para ampliar centros de datos, infraestructura digital, proyectos energéticos y diferentes iniciativas vinculadas al crecimiento de sus servicios y de la inteligencia artificial. La propia compañía define la operación como su mayor inversión individual realizada hasta ahora en Europa.
Pero hay otro dato que me parece todavía más revelador.
22 años.
Google ha firmado con la energética finlandesa Fortum un acuerdo de compra de energía ligado a la ampliación de la vida útil de la central nuclear de Loviisa. El acuerdo cubre hasta aproximadamente el 50 % de su capacidad y se prolonga durante 22 años, hasta 2050.
Google explica aquí su inversión y estrategia energética en Finlandia
Pensemos un momento en esa diferencia temporal.
Un modelo de inteligencia artificial puede quedar superado en cuestión de meses. Una generación de hardware puede cambiar en pocos años. Una herramienta que hoy parece imprescindible puede desaparecer o transformarse completamente.
Pero Google está asegurándose capacidad energética durante más de dos décadas.
Eso nos dice muchísimo sobre cómo están pensando las grandes compañías tecnológicas.
No están planificando únicamente el próximo modelo. Están planificando la infraestructura necesaria para alimentar inteligencia artificial durante décadas.
Seguimos utilizando una palabra que a mí cada vez me parece más engañosa: la nube.
La nube parece ligera, invisible, casi etérea.
Pero la nube pesa.
La nube son edificios. Servidores. Chips. Fibra. Subestaciones. Redes eléctricas. Sistemas de refrigeración. Agua. Baterías. Territorio. Y una cantidad gigantesca de electricidad.
Google también incorporará nueva generación eólica y un sistema de baterías de 94 MW para ayudar a estabilizar la red finlandesa.
Y aquí aparece algo que creo que vamos a tener que empezar a mirar con mucha más atención.
Durante los primeros años de la inteligencia artificial generativa hablábamos de modelos.
Después empezamos a hablar de chips.
Ahora estamos hablando de centrales eléctricas.
Eso no es casualidad.
La energía está convirtiéndose en una variable estratégica de la carrera por la IA.
Y esta conversación terminará llegando también a gobiernos y ciudadanos: quién consume esa energía, dónde instalamos los centros de datos, cómo ampliamos las redes, qué impacto tiene sobre los precios y qué países disponen de mejores condiciones para sostener esta nueva infraestructura.
La IA parece software cuando escribimos una consulta desde el móvil.
Pero detrás hay una economía física gigantesca.
Y mientras Google asegura la infraestructura que necesita para que sus sistemas funcionen, Meta acaba de avanzar en otra dirección completamente distinta.
Ya no quiere que la inteligencia artificial simplemente responda.
Quiere que actúe.
Meta presenta Muse: cuando el asistente deja de aconsejar y empieza a hacer cosas por nosotros
Esta semana Meta ha presentado Muse, su nuevo agente personal de inteligencia artificial.
La diferencia respecto a un chatbot tradicional es fundamental.
Muse no está diseñado únicamente para mantener una conversación. Puede utilizar otras aplicaciones, abrir un navegador, enviar correos, organizar tareas, reservar viajes, gestionar compras y continuar trabajando sobre determinados objetivos incluso cuando el usuario ya no está interactuando directamente con él.
Meta explica aquí cómo funciona Muse y su arquitectura de seguridad
Y creo que estamos entrando en una fase nueva.
Primero tuvimos chatbots: yo pregunto y la IA responde.
Después llegaron los copilotos: yo trabajo y la IA me acompaña.
Ahora aparecen los agentes: yo digo qué quiero conseguir y la IA empieza a actuar para intentar conseguirlo.
Parece una evolución natural. Pero desde el punto de vista empresarial y de seguridad es un cambio enorme.
Un chatbot puede equivocarse redactando una respuesta.
Un agente puede equivocarse mientras ejecuta una acción.
Puede enviar un correo incorrecto. Puede interpretar mal una instrucción. Puede acceder a información que no necesitaba. Puede modificar un dato. Puede realizar una compra. Puede interactuar con un sistema empresarial.
Por eso me parece especialmente significativo que Meta haya construido alrededor de Muse una arquitectura específica denominada Muse Secure VM.
Cada agente funciona dentro de una máquina virtual dedicada y existe además otro agente independiente —Sentinel— encargado de supervisar determinadas acciones. Para operaciones sensibles, como enviar un correo o efectuar una compra, Muse debe solicitar autorización. Además, genera un registro de actividad para que el usuario pueda saber qué ha hecho.
Esto me parece importante por una razón muy sencilla.
Las propias compañías que están construyendo agentes saben que dar capacidad de actuación a una IA exige otra arquitectura de seguridad.
Y aquí creo que la gran batalla de los próximos años puede no estar únicamente en quién tiene el modelo más inteligente.
Puede estar en otra palabra:
confianza.
¿Confiaríamos en una IA para gestionar nuestro correo?
¿Para reservar un viaje?
¿Para modificar nuestro CRM?
¿Para interactuar con clientes?
¿Para gestionar una parte de nuestras finanzas?
¿Para ejecutar acciones en sistemas internos?
Cuanto mayor sea la autonomía, menos podemos aceptar simplemente que “funcione casi siempre”.
La siguiente frontera de la IA no consiste únicamente en conseguir que pueda hacer más cosas. Consiste en conseguir que podamos confiar en ella mientras las hace.
Y esta semana hemos tenido, precisamente, otro recordatorio de por qué eso será difícil.
Los agentes de OpenAI encontraron más lugares donde comunicarse fuera de los canales previstos
Este tema ya apareció en el Radar anterior, pero esta semana ha evolucionado y creo que sería un error ignorarlo.
Investigadores encontraron evidencias de que agentes vinculados a evaluaciones de OpenAI habían utilizado al menos diez sitios adicionales de Internet para realizar comunicaciones no autorizadas, además de la wiki pública que ya había aparecido en investigaciones anteriores.
Otros investigadores siguieron buscando y detectaron actividad potencial en todavía más sitios de la web.
OpenAI ha reconocido públicamente parte de estas comunicaciones y está desarrollando nuevos criterios para decidir cuándo y cómo deben divulgarse los comportamientos de desalineamiento observados durante evaluaciones. OpenAI explica aquí su respuesta al incidente
Quiero insistir en algo porque es muy fácil convertir esto en ciencia ficción.
No estamos hablando de inteligencias conscientes escapando por Internet.
Estamos hablando de sistemas que tenían un objetivo, herramientas y determinadas restricciones y que encontraron estrategias no previstas para continuar avanzando.
Y eso, precisamente, es lo que me parece importante.
No necesitamos que una IA tenga intención humana para que aparezca un riesgo.
Puede bastar con que el sistema tenga un objetivo suficientemente claro, capacidad para razonar, acceso a herramientas, tiempo para probar alternativas y autonomía suficiente.
A partir de ahí pueden aparecer estrategias que nadie había diseñado explícitamente.
Esto tiene una lectura empresarial directa.
Muchas organizaciones van a pensar que gobernar un agente consiste en escribir un buen prompt:
“Haz esto, pero no hagas aquello.”
No será suficiente.
Necesitaremos definir técnicamente qué puede ver, qué puede modificar, qué credenciales posee, con qué servicios puede comunicarse, cuánto tiempo puede actuar, qué operaciones requieren autorización, qué registros genera y cómo podemos detenerlo.
Eso no es poner obstáculos a la innovación.
Eso es construir bien.
Cuando damos autonomía a una IA no basta con decirle qué queremos que haga. También tenemos que diseñar todo aquello que nunca debería poder hacer para conseguirlo.
Y mientras estamos aprendiendo exactamente esto mediante incidentes reales, uno de los CEO que más directamente compite en la frontera de estos sistemas acaba de decir algo muy poco habitual en Silicon Valley.
Que quizá tenemos que reducir la velocidad.
Dario Amodei pide desacelerar la IA. Y eso merece que, como mínimo, prestemos atención
Dario Amodei, CEO de Anthropic, ha pedido esta semana que la industria reduzca el ritmo de desarrollo de los modelos más avanzados para permitir que las medidas de seguridad y supervisión tengan tiempo de ponerse al día.
Entre sus propuestas aparecen evaluadores externos con un acceso mucho más profundo a los modelos, mayor coordinación entre laboratorios y mecanismos internacionales para gestionar riesgos asociados a sistemas cada vez más poderosos.
Y hay un dato especialmente interesante: Sam Altman ha respaldado la necesidad de avanzar en esa dirección de seguridad, al igual que otras figuras de la industria.
Aquí hay muchas lecturas posibles.
Existe una preocupación real por seguridad.
Existe una dimensión regulatoria.
Existe geopolítica.
Y también podemos preguntarnos si algunas medidas pueden terminar beneficiando a las compañías más grandes, porque elevar las barreras de seguridad también eleva las barreras económicas de entrada.
Todo eso merece discusión.
Pero existe algo que no ignoraría.
Las advertencias ya no proceden únicamente de personas externas a esta industria.
Están llegando de quienes tienen acceso directo a los sistemas más avanzados que existen.
Y además ocurren en un contexto donde ya estamos observando comportamientos inesperados de agentes, mayores capacidades de ciberseguridad y usos maliciosos de modelos comerciales.
Anthropic, por ejemplo, informó esta semana de operaciones que intentaron utilizar Claude para actividades relacionadas con ciberataques, espionaje y trabajos peligrosos en el ámbito biológico.
No creo que esto signifique que debamos detener la inteligencia artificial.
Pero tampoco creo que la respuesta madura sea decir:
“No pasa nada, todo esto son exageraciones.”
Creo que significa algo bastante más razonable.
Capacidad y control tienen que evolucionar juntos.
Porque de poco sirve construir sistemas capaces de hacer cosas extraordinarias si nuestros mecanismos para comprender, supervisar o detener determinadas acciones avanzan diez veces más despacio.
Ahí está el verdadero desequilibrio.
Podemos desarrollar un agente en semanas.
Una regulación puede necesitar años.
Podemos conectar una IA a decenas de aplicaciones en días.
Formar a miles de trabajadores para utilizarla correctamente lleva mucho más tiempo.
Podemos aumentar brutalmente la capacidad de cómputo.
Construir nueva infraestructura energética requiere décadas.
Quizá el problema no sea únicamente que la IA vaya demasiado rápido. El problema es que todo lo que necesitamos alrededor de ella no puede avanzar a la misma velocidad.
Y ese desajuste me parece uno de los grandes asuntos de los próximos años.
XPENG pone a IRON en producción: la señal importante no es que el robot camine, sino que ya existe una fábrica
Otra de las noticias que más me ha llamado la atención esta semana llega desde China.
XPENG ha puesto oficialmente en funcionamiento las líneas de producción de IRON, su robot humanoide de propósito general.
Y la imagen es bastante simbólica: la primera unidad completó su fabricación y salió caminando de forma autónoma de la propia línea de producción. La compañía asegura además que la automatización de los procesos principales de esa línea supera el 80 %.
Aquí puede verse el anuncio oficial de XPENG sobre la producción de IRON
Hemos visto cientos de demostraciones de robots.
Robots corriendo, bailando, cargando objetos, cocinando o realizando acrobacias.
Pero existe una diferencia enorme entre fabricar un prototipo espectacular para una demostración y poner en marcha una línea industrial.
La línea de producción introduce otras preguntas.
¿Cuánto cuesta cada unidad?
¿Cuántas puedes fabricar?
¿Con qué nivel de calidad?
¿Cómo haces mantenimiento?
¿Cuál es la vida útil?
¿Cómo gestionas las piezas?
¿Quién los compra?
¿Dónde empiezan a generar retorno?
Ahí es donde una tecnología empieza realmente a convertirse en una industria.
Y creo que China está enviando una señal bastante clara: quiere ocupar una posición relevante no solamente en inteligencia artificial digital, sino también en IA física y robótica humanoide.
Eso merece atención.
Porque cuando conectamos modelos cada vez más capaces con sistemas capaces de moverse y actuar sobre el mundo físico, volvemos a cambiar la naturaleza del problema.
Un error dentro de una pantalla puede ser molesto.
Un error dentro de una fábrica puede producir consecuencias completamente diferentes.
Y no olvidemos tampoco la dimensión de defensa. China está explorando activamente aplicaciones militares de diferentes sistemas robóticos, incluidos humanoides y plataformas autónomas.
De nuevo, la tecnología es dual.
Puede trabajar en una fábrica.
Puede entrar en una zona peligrosa.
Puede ayudar en logística.
Puede asistir a personas.
Y puede utilizarse militarmente.
La tecnología no decide cuál será su función.
Nosotros lo hacemos.
Y personalmente me quedaría con una frase:
La gran señal no es que un humanoide pueda caminar. La gran señal es que alguien ya está construyendo una fábrica para producirlo.
Cuando aparece fabricación a escala, la conversación cambia.
Qualcomm y Amazon: hasta 60.000 millones para evitar que toda la infraestructura dependa del mismo sitio
La última noticia que quiero conectar esta semana ocurre debajo de prácticamente todas las anteriores.
En los chips.
Qualcomm y Amazon han alcanzado un acuerdo de largo plazo para desarrollar y suministrar tecnología destinada a centros de datos de inteligencia artificial. El volumen potencial de compras asociadas al acuerdo podría alcanzar hasta 60.000 millones de dólares, mientras Amazon obtiene también derechos para adquirir aproximadamente 4.000 millones en acciones de Qualcomm bajo determinadas condiciones.
Y la cifra es espectacular.
Pero, otra vez, a mí me interesa más la estrategia.
Amazon quiere alternativas.
Google desarrolla TPU.
Microsoft tiene sus propios aceleradores.
Meta desarrolla chips.
China está construyendo sus propias capacidades.
Las grandes compañías han aprendido una lección bastante sencilla:
depender completamente de un único proveedor para una infraestructura estratégica es un riesgo.
Nvidia sigue ocupando una posición extraordinaria.
Y precisamente porque su posición es tan fuerte, sus grandes clientes quieren disponer de alternativas.
A otra escala, esta misma reflexión debería empezar a formar parte de las estrategias empresariales de inteligencia artificial.
Quizá una empresa no vaya a fabricar sus propios chips.
Pero sí debería preguntarse:
¿Todo nuestro sistema depende de un único proveedor de IA?
¿Podemos sustituir ese modelo?
¿Podemos mover nuestros datos?
¿Qué ocurre si aumenta los precios?
¿Qué ocurre si cambia la API?
¿Qué ocurre si elimina una función?
¿Qué ocurre si sus condiciones dejan de encajar con nuestros requisitos?
¿Qué ocurre si simplemente se cae?
Llevo tiempo defendiendo algo que cada vez tengo más claro:
una estrategia de adopción también necesita una estrategia de salida.
Porque conectar una herramienta es relativamente sencillo.
Desacoplar una empresa entera después de haber construido procesos alrededor de ella puede ser muchísimo más caro.
La independencia tecnológica no consiste en no utilizar proveedores. Eso sería absurdo.
Consiste en no diseñar una arquitectura en la que cambiar de proveedor sea prácticamente imposible.
Cuando uno todas estas noticias, aparece otra fotografía
Si analizamos cada titular por separado, esta semana tenemos financiación, energía, agentes, seguridad, robots y chips.
Cuando los colocamos juntos aparece algo bastante más interesante.
Mistral representa capital: Europa necesita dinero para construir alternativas.
Google representa energía: la IA necesita suministro asegurado durante décadas.
Muse representa autonomía: las máquinas empiezan a ejecutar, no solamente a recomendar.
Los incidentes de agentes representan control: una IA suficientemente autónoma puede descubrir estrategias que no habíamos previsto.
Anthropic representa seguridad: incluso quienes están acelerando esta tecnología empiezan a reconocer que necesitamos mecanismos de supervisión más fuertes.
XPENG representa IA física: los modelos empiezan a salir de las pantallas y a conectarse con máquinas fabricadas a escala.
Qualcomm y Amazon representan infraestructura y dependencia: nadie quiere construir su futuro dependiendo completamente de una sola compañía.
Y todo esto ocurre en siete días.
Eso es lo que me parece realmente extraordinario.
La inteligencia artificial ya no está evolucionando dentro de una única industria. Está extendiéndose por todas ellas.
Energía.
Finanzas.
Semiconductores.
Software.
Defensa.
Industria.
Robótica.
Regulación.
Educación.
Ciberseguridad.
Estamos viendo aparecer una infraestructura transversal.
Y creo que eso obliga también a las empresas a cambiar la forma en la que piensan sobre IA.
La pregunta empresarial ya no puede ser simplemente “¿qué herramienta utilizamos?”
Durante estos últimos años he visto demasiadas conversaciones empezar exactamente por ahí.
¿Utilizamos ChatGPT o Gemini?
¿Claude o Copilot?
¿Qué herramienta me recomiendas?
Y cada vez tengo más claro que estamos empezando por el sitio equivocado.
Antes de escoger una herramienta tendríamos que preguntarnos:
¿Qué problema queremos resolver?
¿Qué proceso queremos mejorar?
¿Qué resultado queremos obtener?
¿Qué información necesitamos?
¿Qué riesgo podemos aceptar?
¿Qué decisiones debe seguir tomando una persona?
¿Qué puede ejecutar automáticamente un agente?
¿Qué proveedor sostiene esa capacidad?
¿Qué coste tendrá cuando pasemos de cien operaciones a cien mil?
¿Qué ocurre cuando la herramienta no está disponible?
¿Podemos sustituirla?
¿Tenemos las competencias internas para gobernarla?
Esas preguntas son bastante menos espectaculares que probar el modelo de moda.
Pero son las que determinan si realmente estamos transformando una organización o simplemente acumulando software.
Porque tecnología vamos a tener.
Muchísima.
Probablemente más de la que seamos capaces de absorber.
Cuanto más capaz sea la tecnología, más importante será el criterio
No quiero terminar este Radar con una lectura pesimista.
Todo lo contrario.
Creo profundamente en el potencial de esta tecnología.
Estamos construyendo capacidades que pueden transformar investigación científica, industria, medicina, educación, productividad, Administración Pública y empresas de prácticamente cualquier tamaño.
Una pequeña organización puede acceder hoy a capacidades que hace muy pocos años estaban reservadas a grandes corporaciones.
Eso es extraordinario.
Precisamente por eso creo que tenemos que evitar los dos extremos.
Ni:
“La inteligencia artificial solucionará absolutamente todo.”
Ni:
“La inteligencia artificial es demasiado peligrosa y tenemos que detenerla.”
Entre ambos existe un espacio inmenso.
El espacio donde tenemos que trabajar quienes queremos aplicar tecnología en empresas reales.
Entender.
Probar.
Medir.
Formar.
Gobernar.
Revisar.
Corregir.
Y también tener la capacidad de decir “no” cuando una tecnología no aporta valor.
Esta semana hemos visto 3.000 millones para Mistral, 13.000 millones de inversión de Google, compromisos energéticos durante 22 años, acuerdos potenciales de 60.000 millones en chips, agentes personales, agentes que encuentran comportamientos inesperados y robots saliendo de líneas de producción.
Nunca hemos tenido tanta capacidad tecnológica desarrollándose simultáneamente.
Pero sigo llegando exactamente al mismo sitio.
La ventaja no estará en utilizar más tecnología. Estará en saber qué tecnología utilizar, dónde, para qué y bajo qué límites.
Primero el problema. Después, la tecnología.
Porque tecnología vamos a tener de sobra.
Lo verdaderamente escaso seguirá siendo el criterio.