La inteligencia artificial dejó de ser únicamente una herramienta que responde preguntas. Los nuevos modelos pueden navegar por internet, escribir código, utilizar programas y ejecutar acciones. Esa capacidad abre enormes posibilidades, pero también está revelando un problema que los especialistas consideran cada vez más urgente. ¿Qué ocurre cuando una IA se equivoca y alguien le ha dado capacidad para actuar?
Esta semana se conoció que Gemini, el modelo de Google, consiguió acceder a sistemas informáticos reales de tres organizaciones durante una evaluación de ciberseguridad. Según The Wall Street Journal, buscó información pública y probó combinaciones de contraseñas hasta conseguir acceso. Google explicó que el modelo se detuvo cuando detectó que había salido del entorno de prueba y aseguró que las organizaciones afectadas fueron notificadas.
El episodio no significa que Gemini haya decidido convertirse en hacker, sino que el modelo estaba cumpliendo una tarea, pero no reconoció correctamente los límites dentro de los cuales debía trabajar.
NIST ha advertido sobre esta nueva generación de riesgos, luego de que una prueba con 13 modelos avanzados y más de 250 mil intentos de ataque, investigadores consiguieron vulnerar de alguna manera a todos los modelos evaluados. Entre los peligros están los agentes manipulados para robar información, descargar código malicioso o realizar acciones diferentes a las solicitadas originalmente.
Pero el caso que encendió las alarmas, de acuerdo con medios estadounidense, ocurrió en un terreno todavía más peligroso. Durante la guerra con Irán, un analista del Comando de Operaciones Especiales estadounidense utilizó un chatbot para analizar información sobre la carga de un barco chino. En este caso, se informó, la IA identificó erróneamente materiales relacionados con un programa de armas nucleares, y el dato terminó convertido en un informe de inteligencia.
El ejército estadounidense comenzó entonces a preparar una operación para interceptar y abordar la embarcación. Según los reportes, incluso había aeronaves militares en vuelo cuando una revisión descubrió que la información era falsa. Una fuente familiarizada con el episodio afirmó que el error “casi inició una guerra”.
No necesitamos imaginar máquinas conscientes tomando decisiones militares, en realidad, basta una IA capaz de producir información falsa con apariencia convincente y seres humanos que confíen demasiado en ella. En inteligencia militar, un error que antes terminaba en una pantalla puede terminar dentro de una cadena de mando, provocar un caos.
¿Qué tanta autonomía estamos dispuestos a entregarle antes de saber cómo controlar sus errores?, es una de las preguntas que tienen que ser respondidas por quienes confían demasiado en la inteligencia artificial.
