La sécurité chez Vinci

Utilisez l’IA en sachant mieux quoi vérifier.

Une réponse, un document partagé, une tâche confiée à l’IA. Chaque situation soulève une question de sécurité différente. Partez de la vôtre, essayez un petit exemple et découvrez ce que nos recherches nous ont appris.

Que souhaitez-vous comprendre?

Puis-je me fier à cette réponse?

Vérifiez un détail important dans sa source. Distinguez ce qui est appuyé par la source, ce qui est faux et ce qu’elle ne précise pas.

Essayer de vérifier une réponse

Que deviennent mes renseignements?

Voyez comment un modèle sur votre appareil, un service hébergé, la recherche Web ou la synchronisation changent le parcours possible des renseignements.

Explorer le parcours des données

Comment garder le contrôle?

Suivez une tâche, d’une note à un brouillon. Décidez de la prochaine action, des étapes qui exigent votre approbation et du moment où la tâche doit s’arrêter.

Essayer une tâche avec des limites

Ces courtes activités utilisent des exemples fictifs préparés à l’avance. Aucun compte ni texte à saisir, et aucune IA ne fonctionne dans ces activités.

Nos essais. Ce que nous avons appris.

La recherche sur la sécurité doit montrer ce qui s’est passé, y compris lorsqu’une approche n’a pas atteint son objectif. Voici des résultats de nos travaux publiés, accompagnés de leurs limites.

Moins d’affirmations non étayées, mais moins de réponses utiles.

Ce qui s’est passé: Nous avons appliqué la même approche d’entraînement à trois familles de modèles. Ils ont fait moins d’affirmations non étayées, mais ont aussi donné moins de réponses correctes à des questions auxquelles ils auraient dû pouvoir répondre. Aucun n’a réussi toutes les vérifications de l’étude.
Ce qui peut vous servir: Lorsqu’un score s’améliore, demandez ce qui s’est dégradé et à quelle fréquence le modèle donne encore une réponse correcte.
À garder en tête: Deux autres modèles d’IA ont évalué les réponses lors d’un test préliminaire. Le test final distinct n’a pas été effectué, les capacités plus larges n’ont pas été évaluées et aucune version entraînée n’a été recommandée pour publication.

Lire l’étude et sa méthode

Source en anglais

Notre test a accepté des programmes incorrects.

Ce qui s’est passé: Un audit a révélé que notre test initial de vérification du code avait accepté les 24 programmes délibérément incorrects conçus pour exploiter ses raccourcis. Nous avons retiré ou suspendu les affirmations qui dépendaient de ce test.
Ce qui peut vous servir: Demandez si une vérification repère des erreurs plausibles et reconnaît aussi le travail correct. Un test réussi ne couvre que ce qui a réellement été vérifié.
À garder en tête: Le test de remplacement n’a pas non plus satisfait à ses exigences. Cette étude n’a produit aucun modèle ni ensemble de tâches d’évaluation à publier. Ces résultats ne prouvent pas la fiabilité des vérifications pour d’autres tâches.

Lire l’étude et sa méthode

Source en anglais

Modifier une partie du plan en a changé une autre.

Ce qui s’est passé: Dans des conversations avec Piccolo consignées par Conestoga, une modification demandée pour une journée a aussi changé le total d’une autre journée. D’autres réponses contenaient des erreurs de calcul ou laissaient la réponse finale inachevée.
Ce qui peut vous servir: Gardez la version précédente. Après une modification, vérifiez les détails qui devaient rester inchangés, les totaux et les exigences précédentes.
À garder en tête: Ces observations proviennent de conversations précises, pas d’un test conçu pour comparer les réglages du modèle. Les conversations n’ont pas été reproduites indépendamment. La note qu’un modèle attribue à sa propre réponse ne constitue pas une vérification indépendante.

Lire les observations consignées

Source en anglais

Comment ces résultats orientent notre travail

Tester avant la sortie.

Nos études publiées montrent pourquoi les décisions de publication doivent tenir compte à la fois de la sécurité et de l’utilité des réponses. La page d’information de chaque modèle présente les tests publiés, leurs résultats et les lacunes connues.

Voir les modèles et leurs résultats

Publier nos principes.

La Constitution de Vinci décrit les comportements visés par l’entraînement : honnêteté, réponses utiles et refus des demandes nuisibles.

La Constitution décrit le comportement visé. Les réponses réelles peuvent s’en écarter; consultez les tests et les résultats publiés pour évaluer un modèle.

Les conditions et licences actuelles s’appliquent.

Lire la Constitution

Continuer après la sortie.

Les commentaires de la communauté et les tests internes continus nous aident à consigner les améliorations à apporter. Les signalements de comportements nuisibles ou de réponses qui ne respectent pas nos principes orientent les futures versions des modèles.

Les modèles téléchargés ne changent pas automatiquement; les améliorations nécessitent une nouvelle version.

Nous faire part d’un problème

Les tests réduisent l’incertitude, mais des comportements dangereux restent possibles. Consultez les résultats et les limites de chaque modèle avant de l’utiliser.

Détails techniques et garde-fous

Foundry : notre environnement de tests interne

Foundry nous aide à examiner les tâches confiées à l’IA, leurs résultats et les vérifications utilisées pour les évaluer. Il conserve le contexte nécessaire à l’examen d’exemples d’entraînement possibles pour l’avenir.

Ce que cela ne démontre pas: Un environnement de test défini et un relevé des vérifications ne prouvent pas, à eux seuls, qu’un résultat est correct ou adapté à l’entraînement.

Lire les preuves

Travail, autorisation et preuves

Vinci Contracts publie des types et des validateurs pour définir le travail confié à l’IA, consigner les preuves, préserver les limites d’approbation et préciser la portée d’une évaluation.

Ce que cela ne démontre pas: Il s’agit d’implémentations Vinci, pas d’une norme adoptée ni d’une certification. Valider un schéma ne prouve pas qu’une application fait respecter les règles.

Lire les preuves

Limites d’exécution et d’autorité

Les démonstrations publiques de Vinci Code montrent l’approbation, la révision et des états explicites de fin. Elles rendent certaines limites visibles pendant le travail technique assisté par IA.

Ce que cela ne démontre pas: Les garde-fous locaux ne sont pas un bac à sable de sécurité. Les comptes rendus de vérification ne prouvent pas indépendamment l’exactitude; les autorisations et le déploiement doivent être examinés.

Lire les preuves

Un guide d’utilisation responsable en préparation

Nous préparons la Charte de Vinci pour expliquer l’utilisation responsable et les obligations que nous prévoyons pour nos clients. Elle n’est pas publiée; les conditions et licences actuelles s’appliquent.

Utiliser un modèle de façon responsable

Examinez le modèle, le fournisseur, le parcours des données, les autorisations et les responsabilités humaines pour l’usage prévu. La propriété canadienne ne démontre pas à elle seule la résidence canadienne des données ni l’origine de chaque composant. Les pages logicielles décrivent les modes pris en charge et leurs limites.

Informations publiées sur les données et les politiques

Un cas que nous devrions tester?

Indiquez le modèle ou l’outil utilisé, le résultat attendu et ce qui s’est passé. Ajoutez une source publique ou un petit exemple fictif si cela aide. N’incluez aucun renseignement personnel, document confidentiel ou secret.

Contacter l’équipe