Skip to content

Latest commit

 

History

History
55 lines (36 loc) · 3.57 KB

File metadata and controls

55 lines (36 loc) · 3.57 KB

agent-eval-harness

Benchmark en vivo y open-source para comparar agentes de codificación IA en issues reales de GitHub

English · 中文 · 日本語 · 한국어 · Español · Português

Stars Last Commit


Un conjunto de benchmarks estandarizado que ejecuta agentes de codificación contra issues reales de GitHub con pasos de reproducción. A diferencia de los benchmarks académicos estáticos, genera un leaderboard público actualizado semanalmente, lo que permite a los devs comparar agentes como OpenCode, Codex y Claude Code en escenarios realistas.

Esta lista se actualiza automáticamente cada 15 minutos mediante un cron de GitHub Actions. Cada commit refleja un cambio real en la fuente de datos upstream — ítems nuevos añadidos, ítems expirados eliminados — así que puedes confiar en que lo que ves está al día.


Cada 15 minutos, un GitHub Action ejecuta tracker.py. Ese script:

  1. Obtiene el estado más reciente desde la GitHub Search API.
  2. Hace un diff contra data/items.json (el snapshot anterior).
  3. Reescribe la tabla de arriba entre los marcadores <!-- TRACKER_TABLE_* -->.
  4. Hace commit de feat: +N added, -M removed (timestamp) si hubo cambios.

Sin servicios externos. Sin APIs de pago. Solo una fuente de datos pública y un GitHub Action gratuito.


📋 Live data

Los datos en vivo están en el README en inglés


🔗 Related live trackers


📜 License

MIT — see LICENSE.