Proxy MCP local que recorta el desperdicio de tokens LLM para desarrolladores
llmtrim, desarrollado por Fkiene, es una herramienta de optimización local que reduce la huella de tokens de las solicitudes de Modelos de Lenguaje Grande para disminuir los costos operativos. Intercepta las llamadas API salientes y elimina tokens no esenciales, colapsando espacios en blanco, esquemas redundantes y registros verbosos antes de que lleguen al proveedor. La herramienta soporta agentes basados en MCP y ofrece bibliotecas embebibles, lo que la hace adecuada para ingenieros de software e investigadores de IA que necesitan compresión de tokens predecible y controles de privacidad más estrictos.
Construido para intercambios de código y terminal de alto volumen
La herramienta está dirigida a flujos de trabajo donde se intercambian grandes bloques de código y salidas de terminal con LLMs, actuando como un intermediario local que recorta los prompts, el historial de conversación, las salidas de herramientas y el código fuente para reducir el desperdicio de tokens. Funciona como un servidor de Protocolo de Contexto de Modelo (MCP) o un proxy local independiente, y se integra en aplicaciones a través de bibliotecas de lenguaje, por lo que se adapta directamente a las canalizaciones de codificación impulsadas por agentes y herramientas de desarrollo programables.
El recorte tiene como objetivo preservar respuestas mientras reduce el uso de tokens
llmtrim utiliza un recorte determinista basado en reglas para eliminar contenido repetitivo y desperdicio estructural sin invocar llamadas adicionales al modelo, un diseño que el desarrollador informa que no causa cambios en la calidad de respuesta. Los efectos medidos incluyen una reducción de aproximadamente el 31% en tokens de entrada y hasta un 74% de reducción en tokens de salida, con una latencia de procesamiento añadida de aproximadamente 5 ms por solicitud, manteniendo el costo por llamada al mínimo.
Se integra con agentes y muchas pilas de desarrollo
El servidor es agnóstico al protocolo y es explícitamente compatible con agentes MCP como Claude Desktop y Cursor, y proporciona bibliotecas embebibles para Rust, Python, Ruby, Kotlin, Swift y JavaScript/TypeScript. Ese soporte multilenguaje permite a los equipos adoptar la herramienta ya sea como un binario de proxy local o integrando la biblioteca directamente en servicios de backend y controladores de agentes.
Procesa datos localmente pero requiere confianza en la infraestructura local
Todo el procesamiento ocurre en la máquina del usuario: la herramienta termina TLS localmente para inspeccionar y comprimir solicitudes y no envía datos a terceros más allá del proveedor de LLM previsto. Se mantiene como un proyecto de código abierto por Fabian Kiene en GitHub. La compensación es que los equipos deben desplegar y gestionar el proxy local o la biblioteca dentro de su infraestructura y aceptar la terminación TLS local.
Práctico para equipos de ingeniería preparados para gestionar middleware local
La herramienta es una opción pragmática para equipos de ingeniería que necesitan compresión de tokens predecible y control local sobre el tráfico de LLM. Su recorte determinista y baja latencia por solicitud favorecen los flujos de trabajo de agentes guionizados y codificación, mientras que la necesidad de desplegar un proxy local y mantener conjuntos de reglas la hace más adecuada para equipos con recursos de desarrollador en lugar de usuarios que buscan soluciones en la nube listas para usar.
