El pasado 13 de junio el gobierno de Estados Unidos ordenó a Anthropic suspender el acceso a sus dos principales modelos de IA, los más avanzados del mercado, a todo usuario extranjero. La norma obligó a la empresa a suspender el acceso por completo ante la imposibilidad de aplicar tal control. Un bloqueo que se ha levantado en la última semana, pero podría haber supuesto un cambio de paradigma.
En la última semana un desarrollador web conocido como “Thereallo” asegura haber detectado una vía por la que Anthropic rastrea el acceso de sus usuarios con datos como la zona horaria o su vinculación con laboratorios chinos. “Anthropic lo que denuncia es que tiene un grave problema para controlar el acceso desde China, pues se está revendiendo el acceso a su API en el mercado gris”, indicaba la semana pasada a este medio Antonio Ortiz, analista tecnológico especializado en internet e inteligencia artificial, así como cocreador del pódcast Monos estocásticos.
Por otro lado, The Washington Post descubrió recientemente que se venden accesos a modelos gratuitos por un dólar al mes, y suscripciones profesionales que pueden costar 100 dólares mensuales se venden por “tan solo 12 dólares”. La medida de Anthropic tendría como objetivo proteger su tecnología de este abuso, que se usa para destilar nuevos modelos de lenguaje natural. Pero ¿qué es la destilación?
Tras la liberación de los modelos Fable 5 y Mythos 5 hace pocos días se habló de la posibilidad de aplicar un sistema de verificación de identidad para obtener un mayor control de qué personas usan estas potentes IA y para qué.
Destilar IA
La destilación del conocimiento entre modelos de lenguaje natural es una técnica de machine learning en la que el objetivo es transferir los aprendizajes de un gran modelo ya entrenado (modelo docente) a un modelo nuevo más pequeño (modelo estudiante). Por ejemplo, uno de los métodos de destilación más comunes es el basado en las respuestas: el modelo de estudiante se entrena para generar logits que coincidan con las predicciones del modelo de profesor.
Esta técnica nació en 2006 en un artículo de investigación titulado “Model Compression” y desde entonces, la destilación se ha empleado con éxito en campos como el procesamiento del lenguaje natural (PLN), el reconocimiento de voz, el reconocimiento de imágenes y la detección de objetos. Se ha convertido en un medio eficaz para transferir capacidades avanzadas de los principales modelos propietarios a modelos de código abierto más pequeños y accesibles.
El resultado es la compresión del conocimiento que tiene el primero en un modelo más manejable. Porque, a la hora de desplegar la IA en diferentes ámbitos, no solo cuenta el conocimiento y destreza del modelo, también son clave el presupuesto disponible, tiempo, memoria y recursos computacionales para desarrollar un nuevo modelo.
Pero, según quién la practique y para qué, la destilación se describe como una práctica razonable que ayuda a ahorrar tiempo y recursos en el desarrollo y entrenamiento de nuevos modelos, o poco menos que una versión virtual de falsificación de una marca registrada.
Prohibir la destilación
Durante más de un año, las empresas chinas de IA han igualado sistemáticamente las capacidades de los últimos modelos de IA estadounidenses en cuestión de meses, según muestran los indicadores de referencia del sector. Sus modelos gratuitos y de código abierto rivalizan también en popularidad entre los usuarios de todo el mundo.
Como ya se ha explicado antes, este método no es ilegal y las principales empresas estadounidenses la practican, pero sí viola los términos de uso que Anthropic aplica a sus usuarios. Por eso, Anthropic se ha unido a OpenAI para instar a Estados Unidos a considerar los ataques de destilación como una forma de robo de propiedad intelectual.
Según informa The Washington Post, en una reciente audiencia del Senado, el senador Tim Scott (RSC) apoyó la idea de que Estados Unidos elabore “una política de control de exportaciones clara y concisa” para impedir que China utilice este tipo de ataques para “obtener una ventaja tecnológica”.
¿Qué pruebas tienen de esta práctica en China? En febrero, investigadores chinos de la Universidad de Pekín y la Academia China de Ciencias, financiada por el Estado, desarrollaron métodos para detectar indicios de adaptación en los principales modelos de lenguaje y descubrieron que la mayoría de los modelos chinos presentaban evidencia sustancial de adaptación, principalmente de modelos estadounidenses.
Los propios modelos se delatan, en algunas pruebas, uno de los modelos de IA Qwen de Alibaba cometía errores y se identifica a sí mismo como Claude. Alibaba no se ha pronunciado al respecto, pero sí está marcando distancias. El viernes pasado prohibió a sus empleados usar Claude Code para trabajar, según South China Morning Post. Esta medida también respondería al riesgo de que Anthropic detecte a los usuarios en los principales laboratorios de IA chinos.
Para Estados Unidos, bloquear la adaptación china de modelos estadounidenses no solo sería un desafío, sino que también podría ser impopular, impidiendo que los estadounidenses se beneficien de alternativas de IA más económicas provenientes de China.
Mientras continúa el desarrollo de modelos cada vez más capaces, la industria se enfrenta al reto de definir un mercado rentable y proteger el acceso a su tecnología, no solo para evitar perder dinero, también como medida de seguridad por lo que se podría hacer si la IA cae en ‘malas manos’. Por eso las empresas como Anthropic u OpenAI podrían aplicar procesos de inicio de sesión más restrictivos.
