L’utilisation de ChatGPT augmente de façon exponentielle dans les entreprises, où les utilisateurs soumettent des informations sensibles au chat bot, y compris des codes sources propriétaires, des mots de passe et des clés, de la propriété intellectuelle et des données réglementées.
En réponse, les organisations ont mis en place des contrôles pour limiter l’utilisation du ChatGPT.
Les services financiers sont en tête de peloton, avec près d’une organisation sur quatre mettant en place des contrôles autour du ChatGPT.
Ce post explore les différents types de contrôles mis en place dans différents secteurs.

Contrôler ChatGPT

Les contrôles de ChatGPT sont les plus populaires dans le secteur des services financiers, où près d’une organisation sur quatre a mis en place des contrôles autour de son utilisation. Sans surprise, l’adoption de ChatGPT est également la plus faible dans les services financiers, ce qui indique que les contrôles mis en place dans ce secteur étaient essentiellement préventifs, bloquant les utilisateurs de la plateforme.

Il est intéressant de noter que des contrôles ChatGPT sont en place dans une organisation technologique sur cinq, ce qui la place en deuxième position.
Cependant, ces contrôles n’ont pas eu le même effet : L’adoption de ChatGPT est la plus élevée dans les organisations technologiques.
Comment cela est-il possible ? La réponse réside dans les types de contrôles mis en place.

Types de contrôles ChatGPT

Ce post explore quatre types de contrôles différents que les organisations ont mis en place pour surveiller et contrôler l’utilisation de ChatGPT.

Politiques d’alerte

Les politiques d’alerte sont des contrôles informatifs.
Leur objectif est uniquement de fournir une visibilité sur la façon dont les utilisateurs de l’organisation interagissent avec ChatGPT.
Elles sont souvent associées à des politiques DLP pour fournir une visibilité sur les données potentiellement sensibles publiées sur ChatGPT.
Les politiques d’alerte sont souvent utilisées pendant une phase d’apprentissage pour explorer l’efficacité et l’impact d’un contrôle de blocage, et sont généralement converties en politiques de blocage après avoir été ajustées et testées.

Politiques d’accompagnement des utilisateurs

Les politiques d’accompagnement des utilisateurs fournissent un contexte aux utilisateurs qui les déclenchent, permettant à l’utilisateur de décider s’il souhaite ou non continuer.
Les politiques d’accompagnement des utilisateurs sont souvent associées aux politiques DLP, où elles peuvent être utilisées pour notifier à l’utilisateur que les données qu’il a postées sur ChatGPT semblent être de nature sensible.
La politique de l’entreprise est généralement rappelée à l’utilisateur et il lui est demandé s’il souhaite ou non continuer.
Par exemple, si la politique de l’entreprise est de ne pas télécharger de code source propriétaire sur ChatGPT, mais que l’utilisateur télécharge un code source ouvert, il peut choisir de poursuivre la soumission après la notification.
Pour les politiques de coaching des utilisateurs de ChatGPT, les utilisateurs cliquent sur Continuer dans 57% des cas.

Politiques DLP

Les politiques DLP permettent aux organisations d’autoriser l’accès à ChatGPT, mais de contrôler la publication de données sensibles dans les messages-guides.
Les politiques DLP sont configurées par l’organisation pour se déclencher à chaque publication sur ChatGPT et inspecter le contenu de la publication avant de l’autoriser.
Les politiques les plus courantes se concentrent sur le code source propriétaire, les mots de passe et les clés, la propriété intellectuelle et les données réglementées.

Politiques de blocage

Le type de politique le plus draconien est celui qui bloque purement et simplement toute utilisation de ChatGPT.
Les utilisateurs ne sont pas autorisés à interagir avec l’application : ils ne peuvent pas se connecter, envoyer des messages-guides ou même parfois visiter la page de connexion elle-même.

Popularité des contrôles ChatGPT

Le graphique suivant montre le pourcentage d’organisations dans chacun des sept secteurs verticaux qui ont mis en œuvre chacun des types de contrôle.
Les services financiers arrivent en tête en termes de politiques de blocage, avec près de 17 % des organisations qui bloquent carrément ChatGPT.
Les politiques DLP contrôlant exactement ce qui peut être publié sur ChatGPT sont également les plus populaires parmi les services financiers et les soins de santé, deux secteurs très réglementés.
Les États, les collectivités locales et les établissements d’enseignement (SLED) sont ceux qui adoptent le moins les contrôles de ChatGPT, ainsi que les politiques d’accompagnement des utilisateurs, les politiques DLP et les politiques de blocage.

Comment se fait-il donc que les entreprises technologiques soient en tête en termes d’utilisation du ChatGPT et en deuxième position en termes de contrôles du ChatGPT ?

Les types de contrôles qu’elles mettent en œuvre sont généralement moins draconiens que ceux des autres organisations.
Les entreprises technologiques sont en tête pour les politiques d’alerte uniquement conçues pour fournir une visibilité, et seul SLED a un pourcentage inférieur d’entreprises qui mettent en œuvre des politiques de blocage.
Les entreprises technologiques utilisent des politiques de DLP et de coaching des utilisateurs dans des proportions similaires à celles des autres secteurs verticaux.
En résumé, cela signifie que les organisations technologiques visent à permettre à leurs utilisateurs d’accéder à ChatGPT, tout en surveillant étroitement son utilisation et en mettant en œuvre des contrôles ciblés le cas échéant.

Permettre l’utilisation de ChatGPT en toute sécurité

Les clients de Netskope peuvent utiliser ChatGPT en toute sécurité grâce au contrôle d’accès aux applications, à l’accompagnement des utilisateurs en temps réel et à la protection des données.

À propos de cet article

Netskope fournit une protection contre les menaces et les données à des millions d’utilisateurs dans le monde entier. Les informations présentées dans ce post sont basées sur des données d’utilisation anonymisées collectées par la plateforme Netskope Security Cloud concernant un sous-ensemble de clients de Netskope avec autorisation préalable. Les statistiques sont basées sur la période allant du 8 mai 2023 au 4 juin 2023. Les statistiques reflètent à la fois le comportement des utilisateurs et la politique de l’organisation.

Pour en savoir plus concernant la solution Netskope, n’hésitez pas à nous contacter ou demander un devis gratuitement

Source : Netskope