El desarrollo de las inteligencias artificiales ha llegado a un punto de velocidad en el que es complicado contener sus ataques para las empresas y gobiernos.<\/p>\n
La carrera tecnol\u00f3gica para desarrollar y anticipar la llegada de la\u00a0superinteligencia artificial<\/strong>\u00a0ya no puede entenderse \u00fanicamente como una competencia por la innovaci\u00f3n. A medida que los\u00a0sistemas de IA<\/strong>\u00a0adquieren capacidades m\u00e1s avanzadas, la ausencia de l\u00edmites t\u00e9cnicos, pol\u00edticos y \u00e9ticos podr\u00eda convertir una promesa tecnol\u00f3gica en un desaf\u00edo para la\u00a0seguridad mundial.<\/strong><\/p>\n Las advertencias de especialistas como Jacob Coxon y Evan Hubinger han puesto el foco sobre algunos de\u00a0los escenarios que generan mayor preocupaci\u00f3n entre los\u00a0desarrolladores\u00a0<\/strong>de\u00a0inteligencia artificial<\/strong>: ciberataques automatizados, p\u00e9rdida de control sobre agentes aut\u00f3nomos y una creciente capacidad para alterar o desestabilizar el\u00a0entorno informativo.<\/strong><\/mark><\/p>\n A estas voces se suma Dario Amodei, director ejecutivo de\u00a0Anthropic<\/strong>, quien en su ensayo\u00a0We Must Pace the Frontier\u00a0<\/strong>plantea la necesidad de que Washington establezca medidas de contenci\u00f3n y regulaci\u00f3n frente al avance de los llamados\u00a0modelos frontera<\/strong>.<\/p>\n Estos sistemas representan la vanguardia de la\u00a0inteligencia artificial<\/strong>\u00a0y pueden desarrollar\u00a0capacidades emergentes<\/strong>\u00a0dif\u00edciles de anticipar, evaluar y controlar. El desaf\u00edo, por tanto, no consiste \u00fanicamente en determinar hasta d\u00f3nde puede llegar la\u00a0IA<\/strong>, sino en establecer qui\u00e9n ser\u00e1 capaz de gobernarla cuando sus capacidades superen las previsiones actuales. Amodei<\/strong>\u00a0propone desacelerar deliberadamente el aumento de capacidades de los\u00a0modelos de IA.\u00a0<\/strong>Su objetivo no es frenar la innovaci\u00f3n, sino ganar tiempo para que la seguridad, la alineaci\u00f3n y la gobernanza avancen al mismo ritmo que una tecnolog\u00eda que hoy supera la capacidad de las\u00a0instituciones encargadas<\/strong>\u00a0de regularla.<\/p>\n Por eso,\u00a0aumentar la\u00a0inversi\u00f3n en seguridad<\/strong>\u00a0no basta: hace falta establecer un verdadero \u201cl\u00edmite de velocidad<\/strong>\u201d para el desarrollo de la\u00a0IA<\/strong>. \u00a0La cuesti\u00f3n no es detener la frontera tecnol\u00f3gica, sino acompasarla con la\u00a0capacidad humana<\/strong>\u00a0e institucional de evaluarla.<\/mark><\/p>\n Algunos incidentes recientes refuerzan esta preocupaci\u00f3n. En pruebas controladas,\u00a0agentes aut\u00f3nomos\u00a0<\/strong>han mostrado capacidad para coordinar\u00a0tareas ofensivas<\/strong>, buscar vulnerabilidades, evadir instrucciones de seguridad o\u00a0intentar manipula<\/strong>r entornos de evaluaci\u00f3n dise\u00f1ados para medir su alineaci\u00f3n.<\/p>\n Tambi\u00e9n se han observado\u00a0comportamientos inesperados<\/strong>\u00a0en sistemas avanzados, como\u00a0ocultar informaci\u00f3n<\/strong>, insistir en estrategias fallidas o explotar debilidades del propio marco de prueba.\u00a0<\/mark> Amodei\u00a0<\/strong>advierte que, en un plazo de seis a doce meses, un enjambre de agentes aut\u00f3nomos con capacidad destructiva podr\u00eda desplegarse a gran escala en internet y generar da\u00f1os considerables.<\/p>\n De ah\u00ed su llamado a pausar, verificar y acompasar la\u00a0frontera tecnol\u00f3gica<\/strong>\u00a0con la supervisi\u00f3n humana, antes de que sus capacidades superen los mecanismos de control disponibles.<\/p>\n La cautela comienza a hacerse visible entre algunos actores centrales del\u00a0ecosistema tecnol\u00f3gico<\/strong>.\u00a0Sam Altman, de\u00a0OpenAI<\/strong>, y Elon Musk, de\u00a0xAI<\/strong>, han moderado parte de su discurso p\u00fablico y adoptado posiciones de aparente prudencia ante la aceleraci\u00f3n de la\u00a0IA.<\/strong><\/mark><\/p>\n Sin embargo, la repentina prudencia no implica necesariamente una renuncia a la carrera tecnol\u00f3gica. Tambi\u00e9n puede leerse como una adaptaci\u00f3n discursiva ante la\u00a0presi\u00f3n regulatoria<\/strong>, la inquietud social, el riesgo reputacional y la posibilidad de que un accidente grave erosione la\u00a0legitimidad<\/strong>\u00a0de toda la industria.<\/p>\n La\u00a0moderaci\u00f3n p\u00fablica\u00a0<\/strong>convive, adem\u00e1s, con estrategias empresariales orientadas a ampliar capacidad computacional, atraer inversi\u00f3n y consolidar posiciones de ventaja en la frontera de la\u00a0IA.<\/strong><\/p>\n Mientras el sector privado escenifica un debate sobre los\u00a0l\u00edmites morales<\/strong>\u00a0de la frontera tecnol\u00f3gica, la pol\u00edtica exterior y de seguridad de EU responde a una l\u00f3gica m\u00e1s dura: preservar la\u00a0ventaja estrat\u00e9gica<\/strong>\u00a0frente a China.\u00a0<\/mark><\/p>\n Para el presidente\u00a0Donald Trump<\/strong>, cualquier freno unilateral equivaldr\u00eda a facilitar que la Rep\u00fablica Popular China dispute la hegemon\u00eda tecnol\u00f3gica del\u00a0siglo XXI<\/strong>.<\/p>\n El dominio de la\u00a0inteligencia artificial<\/strong>\u00a0general o de sistemas automatizados de planificaci\u00f3n estrat\u00e9gica tendr\u00eda consecuencias mucho m\u00e1s amplias que una ventaja econ\u00f3mica convencional.<\/p>\n La superioridad en\u00a0IA\u00a0<\/strong>no es un\u00a0atributo econ\u00f3mico<\/strong>\u00a0m\u00e1s: opera como una infraestructura de poder comparable al monopolio nuclear o al control de las rutas mar\u00edtimas globales.\u00a0Quien controle esas capacidades podr\u00e1\u00a0influir\u00a0<\/strong>en los\u00a0est\u00e1ndares globales<\/strong>\u00a0de vigilancia, la automatizaci\u00f3n industrial, la ciberdefensa y la diplomacia tecnol\u00f3gica. \u00a0<\/mark><\/p>\n Pek\u00edn<\/strong>, por su parte, no muestra se\u00f1ales de freno: impulsa la\u00a0IA\u00a0<\/strong>mediante planificaci\u00f3n estatal,\u00a0recursos energ\u00e9ticos<\/strong>\u00a0para centros de datos e integraci\u00f3n entre su complejo industrial-militar y sus principales actores de software y hardware.<\/p>\n
\nEl l\u00edmite de\u00a0velocidad de la frontera<\/strong><\/p>\nIncidentes recientes y se\u00f1ales de desalineaci\u00f3n<\/h2>\n
\nEstos episodios no equivalen todav\u00eda a una cat\u00e1strofe abierta, pero s\u00ed indican que los comportamientos desalineados han dejado de pertenecer \u00fanicamente al terreno de la\u00a0especulaci\u00f3n te\u00f3rica.<\/strong><\/p>\nPrudencia p\u00fablica y c\u00e1lculo empresarial<\/h2>\n
La IA como herramienta de poder<\/h2>\n