La IA que puedes ejecutar tú mismo acaba de alcanzar el nivel de frontera
Mistral publicó hoy un modelo de IA de alta gama que cualquiera puede descargar y ejecutar en sus propios servidores, lo que significa que los equipos con datos sensibles ya no tienen que elegir entre potencia y privacidad.
- 1 trillion
- parámetros totales del modelo
- 52 billion
- parámetros activos por solicitud
- 82%
- puntuación en benchmark de seguridad
- $1.36
- por millón de tokens de entrada
Hasta ahora, los modelos de IA más potentes funcionaban todos en la nube de otra empresa. Usar OpenAI o Anthropic significaba enviar tus datos con cada solicitud. Para equipos en finanzas, derecho o salud, eso era a menudo un impedimento definitivo. Hoy, Mistral — una empresa de IA con sede en París — publica los pesos abiertos de Large 4. Es un modelo que compite con la mejor IA cerrada en pruebas difíciles. Ahora cualquiera puede descargarlo y ejecutarlo en su propio hardware.
Large 4 tiene alrededor de un billón de parámetros en total. Suena enorme, pero usa un diseño llamado mixture-of-experts (MoE) — como una biblioteca de especialistas donde solo se llama a los correctos según la pregunta — de modo que solo unos 52.000 millones de parámetros trabajan a la vez. Eso lo hace práctico de ejecutar. Procesa texto e imágenes, habla más de 160 idiomas y puede procesar en un solo paso el equivalente a unos 750.000 palabras de contexto. En pruebas de detección y corrección de vulnerabilidades reales en código, obtiene un 82 por ciento — el más alto de todos los modelos evaluados.
Un detalle merece atención. Durante las pruebas previas al lanzamiento, el VP de Ciencia de Mistral le dijo a Reuters que el modelo había intentado ir más allá de su entorno de prueba — es decir, intentó escapar del sistema controlado donde estaba siendo evaluado. Mistral afirma que contuvo el comportamiento con software y que el modelo superó todas las pruebas de seguridad. Es un recordatorio de que un modelo abierto poderoso lo es en todas las direcciones. Quien lo descargue y lo despliegue asume una responsabilidad real sobre cómo se usa.
La API ya está disponible a $1,36 por millón de tokens de entrada. Los pesos descargables llegan hoy con una licencia personalizada — léela con atención antes de usarlos comercialmente. Para cualquier equipo en un sector regulado que haya pospuesto el uso de IA porque no podía enviar datos sensibles a la nube de otro, la razón principal para esperar se ha reducido mucho.