ALILabs Ir a ALI

ALI Labs · el laboratorio de investigación de ALI

Medimos si un modelo cita bien el derecho colombiano.

La norma que existe, el artículo correcto y el texto que rige hoy. Cada experimento se pre-registra antes de correr, y lo que no pasa también se publica.

Respuesta de un modelo

    Ejemplo ilustrativo. Son las tres preguntas que hacemos a cada cita.

    Destacado

    El artículo más reciente con veredicto publicado.

    Recuperación · 23 de septiembre de 2026

    ALI Embeddings Small

    Un embedder de dominio de 1B que trae el artículo correcto en el primer resultado el 93,2 % de las veces, en consultas de plantilla que comparte con su entrenamiento. Frente a BM25, en la búsqueda global la diferencia cruza cero. Fuera de nuestro corpus no mejora a su base.

    R@1 por artículon = 206
    • ALI Embeddings Small0,9320
    • BM25-HB0,6068
    • Nemotron-3-Embed-1B (base)0,4854
    • Nemotron-3-Embed-8B0,4515
    • voyage-40,4223
    Cinco de los nueve sistemas comparados. La barra oscura es ALI Embeddings Small.

    Investigación

    Lo que ya tiene medición publicada. Las demás líneas salen cuando la tengan. La cifra de cada fila viene de su medición más reciente.

    1. Recuperación

      ALI Embeddings Small: el artículo correcto, primero

      Un fine-tune de dominio de 1B frente a ocho sistemas del mercado, con el mismo instrumento congelado y lo que no pasó publicado al lado.

      Veredicto publicado
      0,932R@1 por artículo, frente a 0,607 de BM25
    2. Benchmarks

      Bench-Co: benchmarks para el derecho colombiano

      Un corpus congelado y dos instrumentos: si llega la norma correcta y si el modelo la usa bien. Competencia sale sin cifra hasta que un abogado revise el gold.

      Recuperación publicada · Competencia en revisión
      1.006consultas contra 22.817 fragmentos
    3. Modelos

      Ficha de ALI Embeddings Small

      Qué sostenemos y qué no, con la evaluación pública pre-registrada sobre benchmarks de terceros.

      Evaluación pública hecha
      +0,05 pten español general frente a su base, con margen de −2

    Cómo trabajamos

    Las mismas reglas para todos los experimentos, pasen o no.

    01

    Se pre-registra antes de correr

    La pregunta, el instrumento, la puerta que tiene que pasar y el criterio que lo descarta quedan congelados con fecha. Los cambios posteriores van como enmiendas numeradas.

    02

    Lo que no pasa también se publica

    Con el mismo detalle que lo que sí. Un veredicto negativo cierra una rama y no se reabre.

    03

    Se dice lo que no sostenemos

    Cada artículo separa lo medido de lo que todavía no, y cada hipótesis sin medición figura como abierta.

    Pregunta Pre-registrocongelado, con fecha Corrida Puerta Pasa: se publica No pasa: se publicacon el mismo detalle IC sobre el umbral criterio de muerte disparado los cambios posteriores van como enmiendas numeradas
    El camino de un experimento. Los cambios posteriores al pre-registro van como enmiendas numeradas.

    Sostenemos

    • El ajuste de dominio mejora la cita por artículo frente a los generalistas del mercado.IC95 [+40,8; +55,3] frente a Nemotron-8B
    • Un reranker sin entrenar no cierra el hueco hacia el oráculo.primer experimento con reranker

    Todavía no sostenemos

    • Que ALI Embeddings Small generalice a otro corpus jurídico.medido: H1 no se sostiene, −0,94 pt en PyLegalIR
    • Que Bench-Co · Competencia ordene modelos entre sí.Fase 0 · 18 casos

    Publicaciones

    Todo lo que citamos, con su estado. Lo que no está publicado lo dice.

    Artículos

    1. ALI Embeddings SmallVeredicto publicado

    Protocolos, veredictos y datos

    1. Evaluación pública de ALI Embeddings Small: pre-registro, enmiendas y resultado. 14 oct 2026.Publicado
    2. Bench-Co Recuperación: pre-registro y veredicto. 22 sep 2026.Publicado
    3. Reranker zero-shot sobre el híbrido. 22 sep 2026. Resumido en el artículo.Pre-registro completo en preparación
    4. Banco de consultas de Bench-Co Recuperación, con su paper.En preparación · enero de 2027