🤖 Explícame tu algoritmo
Algunas leyes se diseñan con buenas intenciones, pero su aplicación termina siendo problemática. Será el caso del nuevo derecho de oposición al tratamiento automatizado de nuestros datos personales.
Un abogado es una persona capaz de afirmar, de manera inconcusa, que alguien conculcó la ley. ¿Qué quiso decir? Eso lo debe resolver otro abogado.— Juan Villoro
Edición 229° de Economicón, la newsletter de privacidad y sociedad de la información de México.
🧘 Compra una suscripción en Substack o aporta con PayPal. En tu espíritu se va a notar.
También ayuda si compartes:
🍐 Los proveedores de bienes y servicios en México deben prepararse para explicar con peras y manzanas los modelos matemáticos que usan para analizar sin intervención humana los datos personales de sus clientes y tomar decisiones relevantes.
La nueva ley de datos personales permite oponerse a ser analizados por máquinas cuando los resultados nos provoquen consecuencias negativas, lo que obligadamente pasa por saber y entender las fórmulas algorítmicas que se aplican a nuestros datos. (Economicón)
❌ La ley da el derecho a decir “No” a la toma de decisiones con inteligencia artificial si éstas producen “efectos jurídicos no deseados”, como discriminación o negación de servicios, o afectan “de manera significativa” nuestros intereses, derechos o libertades.
La ley ejemplifica que este derecho de oposición puede ejercerse contra evaluaciones para analizar o predecir el rendimiento profesional, la situación económica, el estado de salud, las preferencias sexuales, la fiabilidad o el comportamiento. (Artículo 26°, fracción II)
Suena bien. El problema será garantizarlo.
🏦 ¿La negación a concedernos un crédito afecta derechos o libertades?
¿El rechazo a una solicitud de trabajo produce “efectos jurídicos no deseados”?
📦 ¿Los precios diferenciados de tu tienda de comercio electrónico provocan daños o perjuicios?
¿A quién le aplica? A cualquier organización que use algoritmos en sus sistemas de recomendación, de selección automatizada, de análisis predictivo o herramientas de monitoreo.
El ejercicio y garantía de este derecho promete ser todo menos sencillo para ninguna de las partes involucradas: la persona titular de los datos, la organización responsable del tratamiento y la autoridad supervisora del cumplimiento.
Derecho de acceso. Para oponernos al tratamiento automatizado hay que saber que fuimos objeto de un tratamiento automatizado. Para saberlo, la persona debe pedir a la organización que usa sus datos que le informe cómo tomó alguna decisión que le afecta.
🤓 Derecho a entender. La organización debe explicar sus modelos matemáticos. Su respuesta debe ser clara y sencilla para que las personas entiendan la lógica de los algoritmos y, si lo desean, expresen su rechazo. (Economicón)
🤖 Derecho de oposición. La persona puede solicitar que cese el uso de sus datos por medios automatizados. Se entiende, pero no lo dice la ley, que la persona tiene derecho a que un humano revise la decisión algorítmica para confirmarla o corregirla.
😮💨 En caso de negativa, la persona debe quejarse ante la autoridad de protección de datos personales. Esta autoridad revisará la respuesta, analizará los argumentos de las partes y tomará una decisión. (Economicón)
Suplencia de la queja. Puede pasar que la persona no sepa argumentar, pero sabe que algo le duele. Entonces los abogados de la autoridad de datos podrán hacerlo por ella y, si procede, exigir el cese del tratamiento.
O puede pasar lo contrario: que la autoridad se niegue a hacerla de intérprete, como hacía la vieja agencia de privacidad (el Inai, extinguido en marzo), y que tampoco aplique el principio pro persona, para garantizar la máxima protección de los derechos de la persona.
⛓️💥 Secreto industrial. También puede pasar que la autoridad necesite conocer información confidencial para replicar la decisión algorítmica, como modelos, procesos o propiedad intelectual.
Esto provocará tremendo lío en la supervisión, porque los secretos industriales están protegidos por ley y, si se da el caso, habrá que ponderar entre el derecho a la confidencialidad y el derecho a la protección de datos personales.
🧠 Una autoridad administrativa como la nueva agencia de privacidad será incapaz de conocer las tripas algorítmicas sin autorización judicial de por medio.
🃏 Combo killer. Sumemos otro escenario. La nueva ley eliminó la expresión “persona física” de la definición de persona titular de los datos, lo que puede inferir que la ley también aplica para personas morales.
Y si una persona moral (una empresa, una organización, una asociación) es titular de datos personales, entonces puede ejercer los derechos de acceso y oposición y exigir al banco que le explique por qué le negó un préstamo.
Algunas leyes se crean con las mejores intenciones, pero su ejercicio resulta problemático o letra muerta en el peor de los casos. Y, lo más grave, pueden generar desprecio o desinterés en el sistema normativo.
Si está y no sirve, ¿para qué está?
Espero que no sea el caso.
Newsletters anteriores
Sobre mí
Soy José Soto Galindo, periodista. Fui director de Medios del Inai. Edité El Economista en línea de 2010 a 2024 y antes fui editor en Público-Milenio (2001-2009). Soy maestro en Transparencia y Protección de Datos Personales por la UdeG y tengo especialidad en derecho de las telecomunicaciones (IIJ-UNAM) y derecho de las tecnologías de la información (ITAM). Doy clases de periodismo en la Universidad de Guadalajara.
Taller de escritura jurídica. Mejora tus escritos, persuade y convence.
¿Tu despacho jurídico tiene problemas de abogañol y nadie entiende tus escritos?
💊 Te tengo un remedio: contrata mi taller de redacción jurídica para bufetes y organizaciones.
Un lenguaje claro vale más que mil jurisprudencias.
📬 Contáctame respondiendo este correo.
Otras noticias
Privacidad y datos personales
Estados Unidos está almacenando el ADN de niños migrantes en una base de datos para criminales (Wired)
Kenia obtiene una victoria legal histórica en contra de Worldcoin y le hace eliminar datos biométricos (R3D)
México: Hackean al ‘nuevo INAI’ y exponen datos de miles de aspirantes a empleos en la 4T (Publimetro)
Plataforma “TrabajaEn” protege a sus usuarios con altas medidas de seguridad (El Heraldo)
En Economicón: Otro año de impunidad de la mayor filtración de datos de empleados del gobierno (2023)
Paraguay: IMSI catchers: la vigilancia invisible que amenaza tu derecho a manifestarte (Tedic)
Ley de telecomunicaciones en México
El registro de usuarios de telefonía móvil no garantiza la seguridad, sino que incrementa los riesgos para la población (R3D)
Credenciales inútiles, de Gabriel Zaid (Reforma 🔒)
En Economicón: 🤳🏼 CURP con foto… y reconocimiento facial
Plataformas
Estados Unidos: What Has Congress Been Doing on Section 230? (Lawfare)
Section 230 Under Fire: Recent Cases, Legal Workarounds, and Reforms, de Eric Rosen (Dynamis LLP)
Guía para interpretar restricciones a la libertad de expresión en Internet, de Vladimir Chorny (R3D)
En Economicón: El juicio millonario que puede cambiar internet en México
Otras lecturas
México: 15 años del Anuario de Cine: plataformas y pantallas, de Jorge Bravo (El Economista)
México: Carga de trabajo aplasta la justicia local: un juzgado recibe 5 mil expedientes al año y empleados laboran hasta 17 horas al día (Animal Político)