- Wednesday 14 de October del 2026
El entrenamiento de los grandes modelos de lenguaje produce un sesgo estructural a favor de las preferencias mayoritarias. Cuando el Estado y el Poder Judicial adoptan estas herramientas, ese sesgo deja de ser un problema técnico y se convierte en un problema constitucional.
Por Abril López Berardinelli*
La inteligencia artificial generativa ya forma parte de la gestión pública y, cada vez más, del trabajo judicial. Para evaluar sus implicancias constitucionales no alcanza con mirar sus resultados: hay que entender cómo funciona. En este trabajo tomo como punto de partida un estudio técnico reciente (Xiao et al., 2025) que describe un fenómeno todavía poco discutido en el ámbito jurídico, y propongo leerlo como la consolidación de una “mayoría algorítmica”: un sesgo que, bajo apariencia de neutralidad, invisibiliza posiciones no dominantes pero igualmente válidas.
1. El hallazgo técnico, en pocas palabras
Los modelos de lenguaje se ajustan mediante una técnica llamada aprendizaje por refuerzo a partir de la retroalimentación humana (RLHF): personas comparan respuestas, con esas elecciones se entrena un modelo que asigna recompensas, y el sistema se optimiza para obtenerlas. Xiao et al. (2025) demuestran que la forma estándar de hacerlo arrastra un sesgo algorítmico que, en casos extremos, lleva a lo que denominan “colapso de preferencias”: las opiniones minoritarias prácticamente desaparecen de las respuestas del modelo. Si una parte de las personas prefiere una opción y otra parte prefiere otra, el modelo no refleja esa proporción, sino que tiende a responder siempre como la mayoría.
El dato más relevante para el análisis jurídico es que, según los autores, el sesgo persiste aun cuando el modelo de recompensa represente fielmente las preferencias humanas. No depende entonces de evaluadores prejuiciosos ni de datos defectuosos: está en el diseño del algoritmo. Los autores proponen un método alternativo (preference matching) que mejora la alineación con la diversidad de preferencias, aunque reconocen que fue probado en modelos de menor escala que los de uso masivo que más conocemos.
2. Por qué es un problema constitucional
El constitucionalismo digital parte de una premisa: el diseño tecnológico no es neutro, y la legitimidad del poder público incluye la legitimidad de las herramientas que utiliza. Desde ahí, el colapso de preferencias deja de ser una cuestión de ingeniería.
Nuestro bloque de constitucionalidad no se conforma con la igualdad formal. El artículo 16 de la Constitución Nacional consagra la igualdad ante la ley, pero el artículo 75 inciso 23 exige acciones positivas para garantizar la igualdad real de oportunidades, y los tratados con jerarquía constitucional, como el Pacto Internacional de Derechos Civiles y Políticos (art. 26) y la Convención Americana sobre Derechos Humanos (arts. 1 y 24), alcanzan también a la discriminación indirecta. A ello se suma el derecho de acceso a la información (art. 13 CADH; Ley 27.275), que impone que los sistemas usados por el Estado permitan comprender con qué criterios operan.
El sesgo mayoritario encaja en la lógica de la discriminación indirecta: una regla formalmente neutral que perjudica de manera desproporcionada a ciertos grupos. Su particularidad es que no opera mediante prohibiciones explícitas sino mediante silenciamiento estadístico, por lo que resulta difícil de detectar y de impugnar. Cuando un sistema convierte frecuencia en corrección, lo minoritario pasa a ser una desviación. La democracia constitucional se funda, justamente, en impedir que las mayorías impongan ese tipo de silenciamientos.
3. El riesgo en la función judicial
En el derecho, lo minoritario no es ruido. Buena parte de la evolución jurisprudencial nace de posiciones que en su momento eran excepcionales. Un ejemplo claro es el caso “Arriola” (CSJN, 2009), en el que la Corte retomó la doctrina de “Bazterrica” (CSJN, 1986) sobre la tenencia de estupefacientes para consumo personal, tras años en que había prevalecido el criterio contrario. Una herramienta que tiende a reproducir el criterio dominante hubiera sugerido, con toda razonabilidad estadística, la solución que finalmente se abandonó.
Este riesgo es especialmente sensible en materia penal. El derecho de defensa se construye muchas veces con argumentos no convencionales, lecturas atípicas de la normativa o atención a trayectorias vitales que no encajan en el caso “promedio”. Si el uso de IA como apoyo para clasificar causas o elaborar borradores empobrece ese repertorio, se resiente la calidad deliberativa de la sentencia y, con ella, el debido proceso.
Hay además un problema de legitimidad. Nuestro sistema exige que las decisiones públicas sean imputables a funcionarios capaces de fundarlas. Si las sugerencias algorítmicas se adoptan sin evaluar su sesgo, se produce una transferencia silenciosa de autoridad hacia sistemas que no rinden cuentas.
4. Propuestas
La incorporación estatal de IA debería respetar, como umbral mínimo, cuatro principios: igualdad y no discriminación, aun sin intención discriminatoria; pluralismo, evitando la homogeneización de interpretaciones; trazabilidad, para que toda recomendación sea justificable; y transparencia, para que la opacidad técnica no excluya el control.
Para hacerlos operativos propongo: auditorías algorítmicas independientes y evaluaciones de impacto en derechos humanos previas a la adopción, que incluyan pruebas específicas sobre la representación de posiciones minoritarias; la incorporación de jurisprudencia y doctrina plurales, incluidos votos en disidencia, en los datos con que se ajustan herramientas judiciales; y supervisión humana efectiva, en la que el sistema ofrezca alternativas y no una única respuesta, y la decisión final sea humana y fundada.
Por último, como propone Gil Domínguez (2024), más que leyes regulatorias aisladas la Argentina necesita una estrategia nacional de IA. El artículo 75 inciso 19 de la Constitución Nacional ordena promover el desarrollo científico y tecnológico, y ese mandato exige una política integral que coordine infraestructura, formación, adopción segura en el sector público y mecanismos de supervisión.
Conclusión
El colapso de preferencias muestra que un fenómeno técnico, aparentemente neutral, puede tener consecuencias constitucionales cuando el Estado incorpora estos sistemas a funciones administrativas o judiciales. La mayoría algorítmica funciona como una mayoría silenciosa y permanente, no sometida a deliberación pública. No se trata de rechazar la inteligencia artificial, sino de integrarla al orden constitucional sin sacrificar la diversidad, la igualdad sustantiva y la legitimidad democrática. Sin controles adecuados, la desigualdad algorítmica puede convertirse en desigualdad real.
Referencias
Gil Domínguez, A. (2024, 12 de octubre). IA: más que leyes regulatorias, necesitamos una estrategia nacional. Infobae. https://www.infobae.com/opinion/2024/10/12/ia-mas-que-leyes-regulatorias-necesitamos-es-una-estrategia-nacional/
Xiao, J., Li, Z., Xie, X., Getzen, E., Fang, C., Long, Q., & Su, W. J. (2025). On the algorithmic bias of aligning large language models with RLHF: Preference collapse and matching regularization. arXiv. https://arxiv.org/abs/2405.16455
* Abogada (UBA).
¿Te resultó útil lo que acabás de leer? Podés apoyarnos para que continuemos en esta tarea. Contribuí con tu suscripción para que nuestro contenido siga siendo abierto y podamos brindarte un servicio cada día mejor. Suscribirse.
.jpg)
.jpeg)
