Saltar al contenido principal

2 publicaciones etiquetados con "privacy"

Ver Todas las Etiquetas
advancedPart 4

Rastros limpios, respuestas intactas: enmascarando PII en los registros de LiteLLM sin corromper la respuesta

· 16 min de lectura
Rafael Fernandes
Ingeniero de PLN y Redactor Técnico en WiLine
Share:
LiteLLM+Presidio+Langfuse
0/5
🎯 Skill path0/5 earned
Self-hosting an LLM gateway

La Parte 3 configuró Presidio para enmascarar los prompts en el momento del registro y deliberadamente se detuvo antes de probarlo. Aún no se había conectado a un destino de registro, así que no había rastro que inspeccionar.

Esta publicación lo conecta, encuentra <PERSON> donde debería estar — y luego encuentra la dirección de correo electrónico real del cliente sentada unas líneas más abajo, en la respuesta del modelo.

intermediatePart 3

Enmascarar PII en la puerta de enlace: configurar Presidio, además de la línea que los documentos omiten

· 22 min de lectura
Rafael Fernandes
Ingeniero de PLN y Redactor Técnico en WiLine
Share:
LiteLLM+Presidio+
0/5
🎯 Skill path0/5 earned
Self-hosting an LLM gateway

La Parte 2 terminó con la puerta de enlace decidiendo qué modelo responde a cada solicitud — y aún así reenvía cada solicitud tal cual, incluyendo las que llevan nombres de clientes, correos electrónicos y números de teléfono.

Esta publicación coloca un filtro de PII en ese camino. No delante del modelo, sin embargo: delante de los registros. El modelo que lee tu solicitud está haciendo su trabajo; el riesgo es lo que se almacena. Así que el texto sin procesar va al modelo y una copia enmascarada va a tus registros.

Eso es lo que la puerta de enlace publicita. Seguir su configuración documentada me dio lo opuesto: un modelo que respondió correctamente y una respuesta que regresó como <LOCATION>. Así es como encontrar eso y cómo solucionarlo.