Guerra, IA y honor

La paz tecnológica en la que vivíamos se ha roto de la forma más cruda. El pasado 27 de febrero, el mundo de la IA sufrió su particular crisis geopolítico Se trata de una lucha por el alma de la tecnología entre la ética de sus creadores y el hambre insaciable del complejo militar.

El conflicto que hoy sacude los cimientos de Silicon Valley y el Pentágono es un misil directo a la línea de flotación de nuestra civilización. Anthropic, la empresa que nació bajo la bandera de la IA segura, se ha plantado ante el Departamento de Guerra de los Estados Unidos. Pero en el vacío dejado por su integridad, han aparecido los buitres de siempre: Sam Altman y Elon Musk, dispuestos a canjear el honor por contratos de nueve cifras.

El coste de decir no

La crisis estalló cuando el gobierno lanzó un ultimátum a Darío y Daniela Amodei: debían eliminar las restricciones de seguridad de su modelo Claude para permitir su uso en vigilancia masiva y armamento autónomo. En términos militares esto significaba apagar los filtros que impiden que la IA identifique objetivos civiles o ejecute ataques sin supervisión humana.

La respuesta de Darío Amodei ha sido un ejercicio de patriotismo real: "No podemos, con la conciencia tranquila, acceder a estas demandas". Amodei entiende que la IA actual es un agente proactivo, no una simple herramienta reactiva, y que delegar la fuerza letal en máquinas que aún pueden alucinar es una negligencia criminal. Al declarar a Anthropic como un riesgo para la cadena de suministro, el Secretario de Defensa, Pete Hegseth, ha cruzado un límite peligroso, tratando a científicos estadounidenses como si fueran espías extranjeros solo por tener principios.

Los buitres del algoritmo

Lo verdaderamente indignante de esta crisis no es solo la presión gubernamental, sino la rapidez con la que otros líderes del sector han corrido a ofrecer sus servicios, deshaciéndose de sus líneas rojas éticas. Sam Altman, CEO de OpenAI, ha sido el primero en mover ficha.

Resulta irónico que la misma empresa que promueve el sistema Safety by Design para mitigar riesgos en menores esté negociando ahora una versión Military-Grade de su tecnología que prescinde de cualquier salvaguarda ética. Altman, que hasta hace poco actuaba como el principal proveedor de armas para navegadores, parece haber decidido que el verdadero negocio no es el chat educativo, sino el chat operativo de combate. Su oferta al Pentágono es clara: OpenAI no pondrá las "trabas sentimentales" de Anthropic. Es la sustitución del juicio humano por el beneficio corporativo, una traición a la visión de la IA como un aumento de las capacidades humanas.

El factor Musk

Por su parte, Elon Musk ha aprovechado la crisis para lanzar una de sus habituales ofensivas mediáticas. A través de xAI, Musk ha calificado a los hermanos Amodei de “chiflados de izquierda” que ponen en peligro la seguridad nacional por seguir protocolos de seguridad. Su propuesta es entregar a Grok como una IA sin censura para el campo de batalla.

Musk vende la falta de controles de seguridad como si fuera libertad, cuando en realidad es un cheque en blanco para el error algorítmico en contextos de vida o muerte. Mientras Anthropic defiende que la IA debe ser un apoyo bajo revisión humana (human-in-the-loop), Musk y Altman compiten por ver quién ofrece la herramienta más sumisa y letal al poder político.

La IA en Oriente Próximo

Mientras en Washington se lanzan improperios, en las trincheras de Oriente Próximo la realidad cuenta otra historia. El fin de semana pasado, fuentes de inteligencia confirmaron que el CENTCOM utilizó a Claude para identificar objetivos en ataques sobre Irán.

Es la paradoja definitiva: el gobierno proscribe a los Amodei en los despachos mientras sus generales consideran a Claude indispensable en el frente porque es, sencillamente, la IA más precisa. Claude es tan potente que el Pentágono no puede permitirse perderlo, pero es tan ético que no pueden controlarlo como quisieran. El riesgo de usar estas herramientas sin filtros en una guerra abierta es incalculable. Estamos hablando de convertir el Agentic Checkout, el sistema que automatiza compras, en un sistema que automatiza bajas militares.

El riesgo social

Como docente, siempre explico que el mercado laboral del futuro no premiará la destreza manual o la obediencia ciega, sino las power skills (pensamiento crítico, empatía y juicio matizado). Estas son las habilidades que la IA aún no puede replicar y que son vitales para resolver problemas complejos.

Cuando el Pentágono pide eliminar las restricciones de una IA, está pidiendo eliminar su capacidad de juicio matizado. Quieren una máquina que ejecute pasos sin cuestionar la ética de la misión. Los Amodei están demostrando tener la power skill más escasa en Silicon Valley: la integridad.

No podemos ignorar que esta falta de ética en las altas esferas tecnológicas tiene un reflejo directo en nuestra sociedad. Ya hemos visto cómo el mal uso de la IA en entornos digitales está disparando los casos de ciberacoso y afectando a la salud mental juvenil. Si permitimos que las empresas tecnológicas normalicen la eliminación de filtros de seguridad por dinero, ¿con qué autoridad moral les pediremos que protejan a nuestros hijos de contenidos abusivos o de la suplantación de identidad?

La IA debe servir para reducir barreras, no para crear nuevas formas de destrucción. La democratización de la IA será una mentira si las herramientas más potentes acaban en manos de quienes renuncian al honor por un contrato.

En esta batalla, no podemos ser neutrales. Debemos exigir una pedagogía valiente que llegue hasta los consejos de administración. La postura de los Amodei es la última línea de defensa de una tecnología que nos haga mejores, no más eficientes en la crueldad. El reto hoy es apoyar a quienes se atreven a decir NO, frente a quienes, como Altman y Musk, han decidido que su único honor es el precio de su próxima acción en bolsa.

Suscríbete para seguir leyendo