token reduction 2 lectures
#token reduction
Articles et guides de Florian Bruniaux sur le sujet token reduction.
Comment lire un benchmark de compression de tokens
ArticleLire les affirmations sur la compression de tokens à travers leurs dénominateurs, tâches appariées, coûts de cache et critères de succès, avec Tokenade face à RTK comme exemple détaillé.
· 11 min de lecture
3/6 · Cartographier la boîte à outils de réduction de tokens
ArticleComparer RTK, Tokenade, Headroom et le cache de prompts par mécanisme, intégration et preuve. Une sortie d’outil plus petite ne prouve pas qu’une tâche terminée coûte moins cher.
· 14 min de lecture