Not Diamond est un routeur modèle d'IA qui détermine automatiquement quel LLM est le mieux adapté pour répondre à toute requête, améliorant la qualité de la sortie LLM en combinant plusieurs LLM en un méta-modèle qui apprend quand appeler chaque LLM.

• Maximiser la qualité de la production : Non Diamond surpasse chaque modèle de base sur les principaux critères d'évaluation en appelant toujours le meilleur modèle pour chaque prompt.

• Réduire les coûts et la latence: faire des compromis intelligents en matière de coûts et de la latence pour exploiter efficacement des modèles plus petits et moins chers sans dégrader la qualité.

• Acheminage personnalisé avec retour d'information: routage hyper-personnaliser vers chaque utilisateur final individuel en temps réel sur la base de son retour d'information.

• Entraînez votre propre routeur personnalisé : Tirez parti de vos données d'évaluation pour former vos propres routeurs personnalisés optimisés à votre cas d'utilisation.

• Prise en charge de Python, de typeScript et de REST API: Not Diamond n'est pas un proxy et est facile à intégrer sur une variété de piles.