LLMLingua est un outil de compression de prompts qui permet d'accélérer l'inférence des grands modèles de langage jusqu'à 20 fois, tout en préservant les performances. Il offre des gains significatifs en termes de coûts et de temps de (...) -- LLMLingua-2, exemples, documentation, A tester ici
Zippy est un outil Python en ligne de commande qui bionifie les ebooks au format ePub pour optimiser la vitesse de lecture. La bionification met en gras le début des mots pour faciliter leur reconnaissance. Avec quelques commandes simples, Zippy génère une version améliorée de vos livres numériques, (...) -- SCR-20240519-qgkt-150x150.webp, Zippy, Hypérion, Endymion, Source