XAEDRO / Investigação

Investigação

Reprodutibilidade, avaliação e sistemas de aprendizagem eficientes.

Hakuli / Estudo de reprodutibilidade

Investigação em destaque / outubro de 2026

Hakuli

Implementação independente em clean room e estudo de reprodutibilidade do APOLLO para treino de LLMs com eficiência de memória numa única GPU de consumo.

O Hakuli segue o método publicado do APOLLO e não reivindica novidade algorítmica. Numa comparação de caixa negra com condições equivalentes, o Hakuli e a implementação oficial acompanham-se de perto ao longo de 1.000 passos de otimização.

Relatório técnico / Evaristo Cordoba Ancajima / XAEDRO
Apenas PyTorch / Licença Apache 2.0

Série exata registada
LLaMA-7B / lote 16 / seq 256 / RTX 3090

Perda de treino e validação ao longo de 1.000 passos do otimizador Séries exatas de perda de treino e validação do Hakuli e da implementação oficial do APOLLO ao longo de 1.000 passos do otimizador. LLaMA-7B / BATCH 16 / SEQ 256 / RTX 3090 FIGURA 01 2.8 2.4 2.0 1.8 0 200 400 600 800 1,000 PASSO DO OTIMIZADOR PERDA DE ENTROPIA CRUZADA CONTÍNUA / TREINO TRACEJADA + PONTO / VALIDAÇÃO VALIDAÇÃO FINAL / HAKULI 2.2055 APOLLO 2.1660
Gráfico gerado a partir dos registos de treino e validação reportados

Empresa

Investigação independente
e engenharia.

A XAEDRO é uma empresa independente de investigação em IA e desenvolvimento de software, sediada na Argentina. Desenvolvemos software comercial e investigamos sistemas de raciocínio, avaliação e aprendizagem automática eficiente.