L’IA à poids ouverts donne accès à des outils puissants à plus de personnes. Les comportements nuisibles et les usages malveillants peuvent mettre des gens en danger. Nous prenons cette responsabilité au sérieux, avant et après chaque sortie.
Dans Foundry, notre environnement de tests interne, nous examinons les demandes nuisibles et les cas difficiles. Nos revues prennent en compte la sécurité, l’utilité des réponses et les limites connues. Chaque fiche de modèle présente les tests effectués, leurs résultats et les lacunes.
Découvrir Foundry
La Constitution de Vinci décrit les comportements visés par l’entraînement : honnêteté, réponses utiles et refus des demandes nuisibles. La future Charte de Vinci expliquera les usages responsables et les obligations que nous prévoyons pour nos clients.
Charte à venir. Les conditions et licences actuelles s’appliquent.
Lire la Constitution
Nous recueillons les commentaires de la communauté, poursuivons les tests internes et documentons les améliorations à apporter. Les constats sur les comportements nuisibles et l’alignement orientent les futures mises à jour. La sortie d’un modèle n’est qu’une étape de ce travail.
Les modèles téléchargés ne changent pas automatiquement; les améliorations nécessitent une nouvelle version.
Nous faire part d’un problèmeLes tests réduisent l’incertitude, mais des comportements dangereux restent possibles. Consultez les résultats et les limites de chaque modèle avant de l’utiliser.
Ces illustrations ne représentent pas des résultats de tests.
Vinci Contracts publie des types et des validateurs pour définir le travail confié à l’IA, consigner les preuves, préserver les limites d’approbation et préciser la portée d’une évaluation.
Ce que cela ne démontre pas: Il s’agit d’implémentations Vinci, pas d’une norme adoptée ni d’une certification. Valider un schéma ne prouve pas qu’une application fait respecter les règles.
Lire les preuvesLes études de post-entraînement du caractère examinent les affirmations non étayées, l’exactitude des réponses fondées et les refus. Le rapport technique 2 a constaté une diminution des affirmations non étayées, mais aucune famille n’a satisfait tous les critères de préservation de l’utilité.
Ce que cela ne démontre pas: Un taux de fabrication jugée plus faible n’est pas un taux universel d’hallucination et peut s’accompagner d’une perte d’utilité.
Lire les preuvesLe rapport technique 3 décrit comment un évaluateur a accepté des programmes incorrects. La recherche conserve l’échec de l’entraînement et celui de la mesure, pour éviter qu’ils deviennent une affirmation trompeuse de capacité.
Ce que cela ne démontre pas: Un contrôle figé et répétable peut tout de même mesurer la mauvaise chose. L’évaluateur de remplacement n’est pas qualifié.
Lire les preuvesLes démonstrations publiques de Vinci Code montrent l’approbation, la révision et des états explicites de fin. Elles rendent certaines limites visibles pendant le travail technique assisté par IA.
Ce que cela ne démontre pas: Les garde-fous locaux ne sont pas un bac à sable de sécurité. Les comptes rendus de vérification ne prouvent pas indépendamment l’exactitude; les autorisations et le déploiement doivent être examinés.
Lire les preuvesExaminez le modèle, le fournisseur, le parcours des données, les autorisations et les responsabilités humaines pour l’usage prévu. La propriété canadienne ne démontre pas à elle seule la résidence canadienne des données ni l’origine de chaque composant. Les pages logicielles décrivent les modes pris en charge et leurs limites.
Informations publiées sur les données et les politiquesIndiquez le modèle utilisé et ce qui s’est passé. N’incluez aucun renseignement personnel ni secret.
Contacter l’équipe