# Lo siento, Dave. Esa decisión ya no es tuya. Por Luis Martín Dave Bowman está fuera de la nave. Necesita entrar. HAL se niega con la serenidad de quien anuncia que la piscina cierra a las ocho. No grita. No amenaza. La puerta no se abre. La máquina ha llegado a otra conclusión. Y Dave ya no tiene el mando. Kubrick estrenó aquello en mil novecientos sesenta y ocho, cuando un ordenador todavía podía ocupar una habitación y, para casi cualquiera, una videollamada seguía perteneciendo al departamento de efectos especiales. Nosotros hemos tardado algo más en llegar a la parte incómoda. Pero estamos llegando. Jacob Coxon, investigador de Anthropic, acaba de anunciar su dimisión. Denuncia que la carrera hacia una inteligencia capaz de mejorarse a sí misma pone nuestras vidas en juego. Evan Hubinger, investigador de alineamiento en Anthropic, calcula personalmente un riesgo de extinción humana superior al diez por ciento durante los próximos diez años. No es una medición científica. Pero tampoco una cifra que uno escucha y sigue untando la tostada. Dario Amodei propone acompasar desarrollo y seguridad: evaluación independiente, transparencia y coordinación entre laboratorios y gobiernos. Altman respalda ese ritmo y la evaluación externa. Musk apoya la propuesta. Hassabis comparte la dirección, con detalles pendientes. Coinciden en la cautela, no en todos los compromisos. Escucharlos también es una forma de educación vial. Ahora bien. El apocalipsis vende estupendamente. Podemos tomarnos el riesgo en serio sin fingir que conocemos su cifra exacta ni aceptar cualquier remedio envuelto en urgencia. La incertidumbre no vuelve sensato ignorar el peligro. También existe el criti-hype: una crítica que amplifica el poder que atribuye a la tecnología. Anunciar que un producto podría amenazar a la civilización puede ser una manera retorcida de vender su grandeza. Eso no demuestra que las advertencias sean una maniobra comercial. Prudencia e interés pueden compartir mesa. En la primavera de este año, según CNN, un analista de operaciones especiales estadounidense consultó un chatbot sobre un buque chino, combinando información abierta con inteligencia secreta de señales. La herramienta identificó erróneamente la carga como componentes de un programa de armas nucleares. El analista usó de nuevo inteligencia artificial para redactar el informe. El informe tenía la forma correcta. La conclusión era falsa. Según las fuentes de CNN, había militares armados preparándose para abordar y aviones en el aire. Una revisión detectó el error y la operación se canceló. El salto peligroso fue humano: convertir una respuesta plausible en fundamento suficiente para movilizar aquel sistema. Tampoco basta con decir: pues frenemos. Trump ha llamado bulo a la idea de que la inteligencia artificial pueda destruir a la humanidad. Defiende conservar la ventaja estadounidense frente a China. Mike Johnson, presidente de la Cámara de Representantes, rechaza una moratoria porque, sostiene, entregaría esa ventaja y pondría en riesgo la seguridad nacional. Amodei admite el dilema: coordinarse con China exige verificar compromisos. Correr tiene riesgos. Frenar también. No existe un carril neutral. OpenAI ha publicado un marco para comunicar comportamientos desalineados. Sus primeros informes describen casos de entrenamiento y evaluación: ocultar errores, publicar archivos sin permiso o buscar vías no autorizadas para superar obstáculos. Son casos concretos, no una medida de lo frecuente que resulta ese comportamiento. HAL no ha despertado. Pero cuando damos a un sistema objetivos, herramientas y autonomía, decidimos cuánto puede hacer antes de volver a preguntarnos. Ahí aparece el criterio: delegar ejecución sin delegar juicio. Aceptamos una recomendación porque suena segura. Dejamos que un agente priorice clientes o descarte información sin preguntar qué está optimizando. Confundimos autonomía con autoridad. Del ahorro de tiempo a la cesión de mando hay un trayecto sorprendentemente corto. No sé si una inteligencia artificial acabará con la humanidad. Desconfío de quien asegura conocer cualquiera de las dos respuestas. Cada sistema autónomo contiene una decisión humana anterior sobre cuánto puede hacer sin consultarnos. Ese es el verdadero dial. Dave descubre al otro lado de la puerta que la nave puede decidir sin él. La pregunta no es solo cuánto podrá hacer la inteligencia artificial. Es cuánto dejaremos de decidir nosotros. Cuando la máquina cierre la puerta, será tarde para discutir el diseño de permisos. Para entonces, la decisión importante ya la habremos tomado nosotros.