Skip to content

Latest commit

 

History

History
55 lines (36 loc) · 3.53 KB

File metadata and controls

55 lines (36 loc) · 3.53 KB

agent-eval-harness

Benchmark ao vivo e open-source para comparar agentes de codificação IA em issues reais do GitHub

English · 中文 · 日本語 · 한국어 · Español · Português

Stars Last Commit


Um conjunto de benchmarks padronizado que executa agentes de codificação contra issues reais do GitHub com passos de reprodução. Diferente dos benchmarks acadêmicos estáticos, ele gera um leaderboard público atualizado semanalmente, permitindo que devs comparem agentes como OpenCode, Codex e Claude Code em cenários realistas.

Esta lista é atualizada automaticamente a cada 15 minutos por um cron do GitHub Actions. Cada commit reflete uma mudança real na fonte de dados upstream — novos itens adicionados, itens expirados removidos — então você pode confiar que o que está vendo é atual.


A cada 15 minutos, um GitHub Action executa o tracker.py. Esse script:

  1. Busca o estado mais recente da GitHub Search API.
  2. Faz um diff contra data/items.json (o snapshot anterior).
  3. Reescreve a tabela acima entre os marcadores <!-- TRACKER_TABLE_* -->.
  4. Faz commit de feat: +N added, -M removed (timestamp) se algo mudou.

Sem serviços externos. Sem APIs pagas. Só uma fonte de dados pública e um GitHub Action gratuito.


📋 Live data

Os dados ao vivo estão no README em inglês


🔗 Related live trackers


📜 License

MIT — see LICENSE.