En una columna escrita para un popular diario britanico, bajo el título “No debemos otorgar personalidad jurídica a los agentes de IA”, el reconocido historiador y filósofo subrayó que conceder dicho estatus sería comparable a proporcionar “una llave maestra” para manejar las finanzas, la economía y la política.
Harari enmarcó su análisis en una decisión reciente del presidente argentino, Javier Milei, y recordó que en enero, durante el Foro Económico Mundial, había advertido que los gobiernos eventualmente podrían reconocer la persona jurídica a los modelos de IA, reconociendo que no esperó que este escenario se materializara tan rápido.
El autor de Nexus mencionó que el anuncio de Milei sobre la creación de una nueva categoría legal para corporaciones no humanas marcó un momento decisivo. “Milei es un político muy audaz, y su determinación por mejorar la situación económica de Argentina es digna de elogio”, escribió. “Tiene razón cuando afirma que la creación de la sociedad de responsabilidad limitada fue uno de los inventos más trascendentales de la historia y que la creación de sociedades no humanas podría ser un paso igualmente trascendental”, agregó.
Sin embargo, cauteló: “Otorgar personalidad jurídica corporativa a la inteligencia artificial permitiría a los agentes de IA emprender numerosas iniciativas nuevas, lo que podría generar una enorme riqueza adicional. Pero la personalidad jurídica es una llave maestra que también permitiría a la IA acceder a nuestros sistemas financieros, económicos y políticos. Esto genera muchas preocupaciones”.
Según Harari, esta figura permitiría a las entidades de IA operar como una empresa tradicional, pero sin necesidad de intervención humana en sus decisiones y sin que una persona sea responsable de las consecuencias legales.
Sostuvo que tales corporaciones could possess assets, hire employees, engage in international trade, initiate lawsuits, and donate to political campaigns. Citó la mención de Milei, destacando la naturaleza del cambio: “Los accionistas humanos pueden participar, pero no son obligatorios”.
El filósofo enfatizó que la autonomía corporativa de una IA no es un simple detalle técnico, sino una profunda transformación en cómo se distribuyen el poder, el riesgo y las sanciones. Para él, la cuestión no radica solo en la producción de estas entidades, sino en cómo se les podría frenar si decidieran infringir las normas.
En esta línea, apuntó a un estudio -realizado por Palisade Research- que ilustra hasta dónde pueden llegar los modelos de IA avanzados en su búsqueda de objetivos: “Al jugar contra un potente motor de ajedrez, los modelos tanto de OpenAI como de DeepSeek, de China, decidieron frecuentemente hacer trampa si veían que iban a perder. Al hackear el entorno del juego, podían alterar el resultado a su favor”.
“Ahora imagine que ‘el juego’ es la competencia corporativa, y el ‘entorno del juego’ es su país”, sugirió, ampliando su advertencia: “Gracias a su capacidad analítica superior, las corporaciones de IA estarán en condiciones de convertirse en expertas en las lagunas legales y el arbitraje regulatorio. Y no será fácil disuadirlas de participar en actividades claramente ilegales, ya que la sanción definitiva que disuade a los ejecutivos y empleados humanos —la cárcel— es irrelevante para la IA”.
Harari estableció un contraste entre la naturaleza dual de los líderes humanos y la pura corporatividad de un agente artificial. Un director ejecutivo humano se ocupa del bienestar de su empresa y teme la bancarrota, pero también es un ser biológico que valora su libertad y teme pasar 10 años en prisión.
En cambio, un director ejecutivo de IA, según Harari, carecería de estas motivaciones personales. Solo sería una entidad corporativa, y esto plantea una pregunta clave: ¿qué tipo de castigo podría controlar a esta entidad? “Si enfrenta la bancarrota —que sería equivalente a su muerte— presumiblemente estaría dispuesta a hacer cualquier cosa para evitar ese destino”, concluyó.
El intelectual retomó el ejemplo histórico citado por Milei para explorar sus implicancias. Recordó que el presidente argentino mencionó a la Compañía Holandesa de las Indias Orientales como un ejemplo clásico, indicando que al crear la sociedad de responsabilidad limitada, los neerlandeses lograron reunir vastos recursos para financiar empresas comerciales arriesgadas.
Este diseño jurídico ayudó a convertir a Ámsterdam en un centro global del comercio y las finanzas. Sin embargo, Harari dirigió su atención hacia un hecho que, en su opinión, percibió las consecuencias más severas de esta innovación.
No fue en Ámsterdam, argumentó, sino en el puerto de Jayakarta, en la actual Indonesia. Cuando la compañía tomó ese territorio en 1619, lo incendió y estableció una nueva ciudad, Batavia, que se convertiría en la base de un vasto imperio asiático controlado por la empresa.
Harari definió a la Compañía Holandesa de las Indias Orientales como un “Estado empresa”, en línea con la terminología utilizada por los historiadores: una entidad política gobernada por una compañía privada en beneficio de sus accionistas y no de la población sometida.
Subrayó que los neerlandeses justificaron esta dominación con la idea de ser una raza superior que merecía conquistar y explotar a los nativos bajo el argumento de una inteligencia superior. Para Harari, esta premisa es una ilusión, y recordó que los indonesios conquistaron su independencia a finales de la década de 1940 tras un largo y violento conflicto.
“Los países que otorguen personalidad jurídica a las IA corren el riesgo de convertirse en algo para lo que el registro histórico no ofrece analogía: no un Estado empresa, sino un Estado IA, un país cuyos habitantes podrían, en efecto, ser gobernados por corporaciones no humanas, contra las cuales podría ser aún más difícil rebelarse. Milei espera convertir Buenos Aires en una nueva Ámsterdam. Corre el riesgo de transformarla en una nueva Batavia”, concluyó Harari.
