1. Le risque discret
La plupart des inquiétudes sur l'IA portent sur ce qu'elle pourrait mal faire dans une réponse. Un risque plus lent reçoit moins d'attention. Le système sur lequel vous comptez peut changer sous vos pieds, sans que vous ayez votre mot à dire sur le moment ni sur la manière.
Un modèle hébergé est géré par un éditeur. L'éditeur peut le mettre à jour, ajuster son comportement, modifier ses limites, changer son prix ou le retirer. Chacun de ces changements est raisonnable du point de vue de l'éditeur. Du point de vue du client, chacun peut casser quelque chose qui marchait.
2. Ce qu'accorde un abonnement
Un abonnement accorde un accès. Il n'accorde ni la propriété des poids, ni celle des journaux, ni celle des conditions dans lesquelles les uns et les autres peuvent changer.
- Les poids sont le modèle lui-même. Le client les utilise mais ne les détient pas.
- Les journaux consignent ce qui a été demandé et répondu. L'éditeur décide de ce qui est conservé, pendant combien de temps et pour quel usage.
- Les conditions régissent les deux, et l'éditeur peut les réviser.
L'accès dure aussi longtemps que l'éditeur choisit de le fournir à des conditions que le client accepte. Tout ce qui est bâti sur cet accès porte la même condition.
Un abonnement répond à la question « puis-je m'en servir aujourd'hui ? ». Il ne répond pas à « se comportera-t-il de la même façon l'an prochain, et existera-t-il encore ? ».
3. Comment la dérive se manifeste
Pour un family office ou une équipe dirigeante, la dérive est rarement spectaculaire. Elle apparaît sous forme de petits changements qui s'accumulent.
- Le style et le ton se déplacent. Un assistant de rédaction réglé sur la voix d'un dirigeant se met à écrire autrement.
- Le comportement sur les cas limites change. Une question qui recevait une réponse est désormais refusée, ou l'inverse.
- Un flux de travail se dégrade discrètement. Une chaîne d'étapes calibrée sur les habitudes d'un modèle fonctionne moins bien avec un nouveau.
- Un modèle disparaît. La version sur laquelle une équipe comptait est retirée, et son remplaçant n'est pas identique.
Dans chaque cas, quelqu'un doit repérer, diagnostiquer et retravailler. Le coût retombe sur le client, et le calendrier a été fixé par l'éditeur.
4. Ce que change le fait de détenir le modèle
Quand le modèle tourne sur du matériel que le client possède, le changement arrive quand le client le décide. Les poids présents sur l'appliance ne changent pas du jour au lendemain parce qu'un éditeur a mis à jour quelque chose à distance. Un client qui a affiné ses flux de travail autour d'un modèle peut continuer à l'utiliser.
C'est un énoncé sur le contrôle, pas sur la qualité. Un modèle détenu localement peut aussi être remplacé, mis à niveau ou complété, et le client participe à ces décisions. Les SARION Appliances proposent la gamme standard de modèles souverains, et aux niveaux supérieurs des modèles de très grande échelle, dont les paramètres se comptent en trillions, sont disponibles en option. Le choix de ce qui tourne, et du moment où cela change, reste celui du client.
5. Un actif, pas un droit d'accès
La propriété change la nature de ce que détient le client. Le système devient un actif installé dans ses propres locaux, acquis une fois, au lieu d'un droit d'accès que quelqu'un d'autre accorde et peut réviser. S'en servir davantage, s'y fier davantage, y adosser une plus grande part du travail du bureau : rien de cela ne modifie la relation du client avec qui que ce soit d'autre.
La propriété apporte aussi les obligations de tout actif sérieux : un lieu digne pour l'abriter, l'alimentation, l'entretien et, avec le temps, le renouvellement. Une famille qui entretient déjà des propriétés, des navires et des collections reconnaîtra le schéma. L'actif lui appartient, et son entretien aussi.
6. Questions à poser à tout éditeur d'IA
- L'éditeur peut-il modifier ou retirer le modèle sur lequel je m'appuie, et avec quel préavis ?
- Qui détient les journaux de mon usage, pendant combien de temps, et pour quels usages ?
- Les conditions peuvent-elles changer, et quelles sont mes options quand elles changent ?
- Que deviennent mes flux de travail si le produit est abandonné ou si l'éditeur est racheté ?
- Puis-je continuer à utiliser le système si je désapprouve un changement ?
7. Ce que la stabilité ne signifie pas
Un modèle détenu n'est pas un modèle figé. Les modèles progressent, et un client voudra en profiter. La différence est que le client choisit le moment de passer à un autre, et peut éprouver un nouveau modèle sur son propre travail avant de s'y fier.
La stabilité ne signifie pas non plus que le modèle est exact. La vérification des résultats reste nécessaire avec n'importe quel modèle.
8. Un test rapide
Imaginez que votre éditeur annonce demain qu'un modèle sur lequel vous comptez sera retiré dans 90 jours. Demandez-vous quelle part de votre travail dépend de son comportement précis, qui devrait le retravailler et qui paierait. Pour un client qui détient le modèle sur son propre matériel, l'annonce concerne quelqu'un d'autre.
Pour discuter du choix des modèles et de la continuité dans votre propre déploiement, contactez-nous sur volta.quest.