En los últimos días vimos varias noticias relacionadas con la inteligencia artificial y confieso que en ocasiones me queda la sensación de que estamos viviendo el principio de una película de ciencia ficción. La trama es la de siempre, los científicos desarrollan una tecnología extraordinaria y, cuando empiezan a comprender lo que han creado, descubren que quizás deberían haber sido un poco más cuidadosos.
Lo curioso es que esta vez no son únicamente los críticos de la tecnología quienes están advirtiendo sobre los riesgos. Son las mismas personas que lideran su desarrollo.
En septiembre, Dario Amodei, CEO de Anthropic, publicó un ensayo titulado We Must Pace the Frontier, donde plantea la necesidad de desacelerar el desarrollo de los modelos más avanzados de inteligencia artificial. Sam Altman, CEO de OpenAI, y Elon Musk, de xAI, también se manifestaron a favor de moderar el ritmo de esta carrera.
La preocupación no es menor, especialmente porque viene de personas que están invirtiendo enormes cantidades de recursos en desarrollar sistemas cada vez más capaces.
¿Qué está pasando? ¿Acaso estamos llegando a un punto en el que quienes construyen la tecnología empiezan a temerle?
No creo que sea tan sencillo, pero es evidente que algo está cambiando.
La carrera hacia la singularidad
Hace algunos años hablar de una inteligencia artificial capaz de superar las capacidades intelectuales del ser humano era algo que relacionábamos con la ciencia ficción. Recuerdo que cuando empezamos a utilizar sistemas de reconocimiento de voz, chatbots y otras herramientas que entonces llamábamos inteligentes, nos sorprendíamos cuando podían responder correctamente una pregunta sencilla.
Hoy mantenemos conversaciones con sistemas de IA, les pedimos que escriban código, analicen documentos, encuentren errores y nos ayuden a resolver problemas que antes requerían horas de trabajo. En ocasiones los resultados son extraordinarios y en otras nos recuerdan que todavía estamos lejos de tener una inteligencia infalible.
En ese camino aparece el concepto de AGI, o Inteligencia Artificial General, que de manera sencilla podríamos describir como una inteligencia artificial capaz de desenvolverse en una amplia variedad de tareas intelectuales con capacidades comparables a las humanas.
Un paso más allá encontramos la superinteligencia artificial, una inteligencia hipotética que superaría ampliamente nuestras capacidades. Y es precisamente en ese escenario donde aparece la singularidad tecnológica, ese momento en que el progreso podría acelerarse de tal manera que nuestra capacidad para comprender o anticipar lo que viene quedaría seriamente limitada.
El problema no es necesariamente que las máquinas lleguen a ser más inteligentes que nosotros, sino qué podría suceder si dejamos de comprender sus decisiones o perdemos la capacidad de intervenir en ellas.
Algunos investigadores han llegado a advertir que una inteligencia artificial suficientemente avanzada, cuyos objetivos no estén alineados con los intereses humanos, podría representar una amenaza para nuestra propia existencia.
Es una posibilidad que merece ser estudiada, aunque no significa que ese futuro esté escrito, ni mucho menos que sea inevitable.
Lo interesante es que mientras discutimos cómo evitar ese escenario, la inteligencia artificial ya está produciendo cambios importantes en nuestra vida diaria. Algunos muy positivos y otros que deberían preocuparnos un poco más.
Mientras tanto, PHP
La semana anterior apareció una noticia que probablemente pasó desapercibida para muchas personas, pero que llamó la atención de quienes trabajamos en tecnología.
El 21 de octubre se publicaron actualizaciones de emergencia para corregir dos vulnerabilidades críticas en PHP, identificadas como CVE-2026-109618 y CVE-2026-109619, conocidas conjuntamente como PHP2Shell.
Para quienes no están familiarizados con el término, PHP es un lenguaje de programación utilizado principalmente para desarrollar aplicaciones y servicios web. Está presente en una enorme cantidad de sitios en Internet y forma parte de soluciones que utilizan millones de personas y organizaciones.
Las vulnerabilidades descubiertas podrían permitir que un atacante ejecute código en un servidor afectado sin necesidad de autenticarse. Dicho de otra manera, alguien desde fuera podría conseguir que un servidor vulnerable ejecute instrucciones que no debería ejecutar.
No es poca cosa.
Lo interesante de esta noticia es que herramientas de inteligencia artificial participaron en el descubrimiento de las fallas. Esto demuestra una de las grandes capacidades que estamos desarrollando: sistemas capaces de ayudarnos a analizar enormes cantidades de código e identificar problemas que podrían haber permanecido ocultos durante años.
Pero aquí aparece una paradoja.
La misma tecnología que nos ayuda a encontrar vulnerabilidades podría también facilitar que otras personas las descubran y desarrollen mecanismos para explotarlas.
Y entonces el problema deja de ser únicamente la existencia de una vulnerabilidad. Se convierte también en una cuestión de velocidad.
¿Podremos corregir nuestros sistemas con la misma rapidez con la que se descubren nuevas formas de atacarlos?
¿Es realmente algo nuevo?
Quienes llevamos algunos años trabajando en desarrollo e implementación de software sabemos que las vulnerabilidades no son una novedad.
Han existido prácticamente desde que comenzamos a construir sistemas informáticos. Algunas se descubren durante el desarrollo, otras aparecen después de muchos años de operación y algunas permanecen ocultas hasta que alguien encuentra una manera de explotarlas.
Normalmente, cuando se identifica una vulnerabilidad, se informa a los responsables del desarrollo para que puedan investigarla, corregirla y publicar una actualización. Muchas comunidades y fabricantes tienen procedimientos establecidos para manejar este tipo de situaciones.
Lo que está cambiando no es necesariamente la existencia de los problemas, sino la velocidad a la que pueden descubrirse y difundirse.
A esto debemos sumar otro fenómeno interesante: la masificación de las comunicaciones.
Hace cinco años ya teníamos redes sociales, medios digitales y sistemas que permitían distribuir información por todo el planeta en cuestión de segundos. Sin embargo, la capacidad de generar, reproducir y redistribuir contenido ha continuado creciendo, y la propia inteligencia artificial está acelerando ese proceso.
Una vulnerabilidad descubierta en una biblioteca de software puede convertirse rápidamente en noticia mundial. La información pasa de medios especializados a redes sociales, de ahí a grupos de mensajería y finalmente termina en conversaciones entre personas que probablemente nunca habían escuchado hablar del componente afectado.
En el camino, una noticia que originalmente explica un problema técnico puede transformarse en un anuncio de una catástrofe inminente.
No quiero decir que las vulnerabilidades no sean graves, algunas definitivamente lo son. Pero creo que debemos aprender a distinguir entre la magnitud real del problema y el efecto de amplificación que producen las comunicaciones actuales.
Aunque hay algo positivo en todo esto.
La misma velocidad con la que una noticia puede generar preocupación permite alertar a millones de responsables de sistemas sobre la necesidad de realizar una actualización.
¿Será que el miedo nos hace reaccionar más rápido?
Es posible. Siempre es preferible pensar que las organizaciones no necesitan asustarse para hacer aquello que deberían estar haciendo regularmente.
El problema no siempre está en el software
Hace muchos años, cuando trabajábamos implementando soluciones de comunicaciones unificadas, una de las situaciones que encontrábamos con frecuencia era que las organizaciones no tenían un conocimiento completo de su propia infraestructura.
Existían servidores que llevaban años funcionando sin mayores inconvenientes, aplicaciones instaladas por personas que ya no trabajaban en la empresa y componentes de software de los que nadie recordaba su procedencia. Mientras todo funcionara, nadie parecía demasiado preocupado.
El problema aparecía cuando era necesario hacer una actualización, resolver una falla o identificar si una determinada vulnerabilidad afectaba a la organización. Entonces comenzaba la búsqueda.
¿Qué versión tenemos instalada? ¿En qué servidor está funcionando? ¿Quién hizo la implementación? ¿Podemos actualizarla sin afectar otros servicios?
Preguntas aparentemente sencillas que en ocasiones no tenían una respuesta inmediata. Y es aquí donde creo que debemos poner nuestra atención.
No podemos evitar que aparezcan vulnerabilidades. Tampoco podemos garantizar que todos los desarrolladores del mundo produzcan software completamente seguro. Lo que sí podemos hacer es mantener un inventario actualizado de nuestras soluciones, conocer sus componentes y dependencias, identificar quién es responsable de cada servicio y establecer procedimientos para instalar las correcciones tan pronto como estén disponibles y hayan sido evaluadas.
Esto último es importante porque actualizar también requiere planificación. En ocasiones una corrección puede afectar otros componentes y es necesario realizar pruebas antes de llevarla a producción.
Pero una cosa es actuar con prudencia y otra muy distinta utilizar esa prudencia como excusa para no hacer nada.
En el caso de PHP, los responsables del proyecto publicaron versiones corregidas y recomendaron su instalación inmediata. El siguiente paso corresponde a quienes administran los sistemas que utilizan esta tecnología.
La comunidad puede desarrollar una solución, pero no puede entrar a cada servidor del mundo para implementarla.
Una reflexión sobre el Open Source
Hay otro aspecto que vale la pena mencionar, especialmente para quienes hemos trabajado durante años con proyectos de código abierto.
El Open Source ha demostrado que es posible construir soluciones extraordinarias mediante la colaboración de comunidades de desarrolladores distribuidas por todo el mundo. Pero existe algo que en ocasiones olvidamos.
Que un proyecto esté activo no significa necesariamente que todos los componentes que utiliza estén recibiendo mantenimiento.
Podemos tener una solución que continúa publicando nuevas versiones y que, sin embargo, depende de una biblioteca cuyo desarrollo se detuvo hace varios años.
Mientras esa biblioteca funcione correctamente, probablemente nadie se preocupe demasiado. El problema aparece cuando se descubre una vulnerabilidad y nos damos cuenta de que ya no existe un equipo trabajando en corregirla.
En ese escenario la responsabilidad se vuelve más compleja.
No es un problema exclusivo del software de código abierto, porque también sucede con soluciones propietarias. Sin embargo, en el Open Source merece una reflexión particular por la forma en que se construyen y mantienen muchos proyectos.
Creo que este tema merece un artículo propio, así que por ahora lo dejaremos ahí.
El futuro puede esperar, nuestras responsabilidades no
Volviendo a la inteligencia artificial, me parece interesante que estemos discutiendo seriamente la posibilidad de llegar a una singularidad tecnológica.
No sabemos cuándo sucederá, si llegará de la manera en que algunos investigadores la describen o si nuestra relación con la inteligencia artificial evolucionará hacia algo completamente diferente.
Lo que sí sabemos es que la tecnología ya está cambiando la manera en que trabajamos, desarrollamos software, buscamos información y resolvemos problemas.
También sabemos que estos cambios están ocurriendo a una velocidad que exige nuevas formas de organización y respuesta.
Por eso, mientras los líderes de las grandes empresas de inteligencia artificial discuten cómo desacelerar una carrera que ellos mismos están impulsando, quienes utilizamos e implementamos tecnología tenemos responsabilidades bastante más cercanas.
Debemos mantener nuestros sistemas actualizados, conocer las soluciones que utilizamos, comprender sus dependencias y estar preparados para reaccionar cuando aparezcan problemas.
Quizás la inteligencia artificial nos ayude a hacer todo esto mucho mejor y más rápido. Sería una consecuencia positiva de esta revolución y una buena forma de aprovechar las capacidades que estamos desarrollando.
No creo que debamos ignorar las advertencias sobre el futuro. Al contrario, es importante que quienes están construyendo estos sistemas analicen sus consecuencias y establezcan mecanismos que permitan mantener el control humano sobre ellos.
Pero tampoco deberíamos permitir que las predicciones más apocalípticas nos distraigan de los problemas que ya tenemos frente a nosotros.
A lo mejor algún día llegaremos a la singularidad y tendremos que enfrentarnos a una inteligencia que supere nuestra capacidad de comprensión. Por ahora tenemos problemas bastante más sencillos de entender, aunque no siempre fáciles de resolver.
Mientras discutimos cómo evitar que la inteligencia artificial termine tomando el control de nuestras vidas, quizás deberíamos asegurarnos de que todavía tenemos el control de nuestra propia tecnología.
Los dejo con esa reflexión.
