Aaron Levie et Rao Surapaneni de Google sur la gouvernance, la sécurité et l’ère agentique

Lors du Box Content+AI Summit à San Francisco, en début de mois, Aaron Levie, CEO de Box, a rencontré Rao Surapaneni, VP and GM of Business Applications chez Google Cloud, pour avoir son point de vue sur la transition des entreprises vers les processus métier orientés IA. Voici une transcription de leur entretien, légèrement révisée par souci de clarté. 

Points essentiels :

• L'adoption de l'IA dépasse la conversation : l'IA est déjà largement utilisée pour la synthèse de connaissances et la productivité individuelle, et les entreprises commencent à découvrir les agents capables de traiter des tâches et des flux de travail plus spécifiques.
• Les entreprises doivent repenser les flux de travail plutôt que simplement les automatiser : Rao est convaincu que les entreprises peuvent améliorer les processus existants avec l'IA, mais au fil du temps, de nombreux processus devront être repensés pour un monde d'IA native.
• La gouvernance et la coordination sont des défis majeurs : la sécurisation du contrôle des accès, l'interopérabilité des systèmes et une meilleure orchestration d'agents multiples sont essentiels à l'adoption par les entreprises.

AARON

Rao, je suis ravi de vous recevoir. Vous êtes au centre des discussions sur la transformation des entreprises grâce aux agents et à l'automatisation des flux de travail. Que voyez-vous ? Sur quoi travaillez-vous actuellement ?

RAO

Merci, Aaron. C'est un plaisir d'être ici.

En règle générale, avec l'évolution de la technologie, je me concentre sur la conception de produits et sur l'avenir : qu'allons-nous faire des agents multiples ? Comment rendre le déploiement de ces solutions plus simple et plus sûr pour une utilisation concrète ?

AARON

Selon vous, où en sommes-nous avec les agents et l'adoption par les entreprises ? Nous sommes ici au cœur de la Silicon Valley. Mais à l'échelle des États-Unis et du monde, où en sommes-nous du parcours entre l'agent conversationnel et l'agent complet ?

L'IA est déjà largement adoptée pour synthétiser les connaissances et pour assister l'humain. Qu'il s'agisse de chatbots ou de recherche approfondie, la quantité de contenu que peuvent traiter et analyser les modèles actuels est colossale. Il faut ensuite conditionner cette expérience, et le faire de façon appropriée pour chaque cas d'utilisation.

Viennent ensuite les solutions agentiques, où l'agent fait davantage de choses de façon autonome. Nous constatons les premiers signes de réussite dans des scénarios à plusieurs agents, où chacun d'eux effectue ne tâche spécifique de façon exceptionnelle, mais dans des domaines très déterministes et réduits.

Le défi suivant consiste à orchestrer ces solutions tout en restant fiable. Nous commençons à en voir les premiers signaux. Cela dit, de nombreuses capacités autonomes sont encore en pleine évolution.

AARON

Vous venez d'évoquer les enjeux des 5 à 10 prochaines années, à savoir le passage d'actions étroites et déterministes à ce qui se passe lorsque l'agent s'exécute sur le long terme ou compte de nombreux sous-agents. Comment s'assurer qu'il fournit une qualité suffisante pour un processus de prêt, l'intégration d'un client ou un processus RH complet ? Qu'est-ce que les entreprises doivent corriger ? Les modèles en sont-ils capables, ou pas encore ?

RAO

Pour les entreprises, l'adoption de l'IA ou de toute autre technologie est une affaire de personnes, de processus et de produits. 
Nous devons former les personnes à l'utilisation de la technologie, mais aussi à l'envoi de commentaires permettant d'améliorer la technologie et les produits. 

 

Pour les entreprises, l'adoption de l'IA ou de toute autre technologie est une affaire de personnes, de processus et de produits.

Rao Surapaneni, VP and GM of Business Applications chez Google Cloud

Il existe déjà tellement de processus. Vous pouvez injecter de l'IA dans les processus existants et gagner 20 % à 30 % de productivité. Mais il faut savoir où en est le modèle aujourd'hui, et ce qu'il va devenir.

Si le processus est entièrement repensé, aurai-je encore besoin du modèle ? Puis-je repenser ce que je fais pour un monde d'IA native ? Puis-je déléguer le processus à un agent ? Quels sont les éventuels obstacles ?

AARON

Petite question piège : projetons-nous dans dix ans, ici même, pour faire le bilan…

RAO

Dix ans dans le monde de l'IA ?

AARON

Oui, en termes d'évolution des modèles, cela représente 400 ans. Quel pourcentage des flux de travail aura été entièrement repensé pour exploiter pleinement les agents, et quel pourcentage fera toujours autant appel à l'humain ?

RAO

Dans un cadre professionnel, je pense qu'il faudra environ 60 % à 70 % de nouveaux processus pour exploiter les capacités de l'IA. Mais dix ans, c'est très loin.

AARON

C'est vrai. Je vous le concède. Mais c'est une question intéressante que tout le monde se pose. Nous avons imaginé l'IA comme le Graal, si intelligent qu'il suffirait de l'injecter dans un flux de travail pour tout automatiser. Pourtant, les contraintes sont partout : fenêtre de contexte, contrôle des accès, planification… Comment aborder la réinvention des processus ? Par où commencer ?

RAO

J'échange avec beaucoup de clients, et je pense qu'il y a deux façons de l'envisager. 
La première consiste à mettre l'IA à disposition de tous les employés et de les laisser déterminer comment elle les aide à gagner en productivité. Ce développement de la capacité de construction d'agents et de la productivité individuelle avec l'IA, que ce soit pour résumer un e-mail ou écrire du contenu de meilleure qualité, c'est ce que l'on voit aujourd'hui.

À l'autre extrémité du spectre, on réfléchit de façon approfondie sur les flux de travail. Prenons l'exemple de l'intégration des employés. C'est un processus de bout en bout : l'employé a besoin d'un ordinateur portable, mais l'achat d'ordinateurs portables peut se faire dans un autre système disposant de son propre agent. Si le nouvel employé est un commercial, il doit disposer dès son arrivée de sa région, de ses comptes et de son manuel. Vous devez donc orchestrer tous les agents qui effectuent ces tâches spécialisées.

AARON

C'est l'un des dilemmes que posent de nombreux flux de travail agentiques : la difficile réalité de donner l'accès à un agent sans qu'il n'y ait de fuite à un autre endroit du processus. Comment envisagez-vous la gouvernance et la sécurité des agents ?

RAO

Pour moi, la gouvernance et la gestion des données sont des catalyseurs essentiels d'une vraie accélération. Les règles professionnelles existent pour une bonne raison. Il faut se demander si toutes ces règles sont réellement nécessaires pour cette technologie et quels compromis il faut faire. On en revient à l'équilibre entre valeur et praticité d'une part, et risque et récompense d'autre part. Vous avez besoin de règles de gouvernance sérieuses, mais donner l'accès à un agent représente une valeur ajoutée considérable. Vous devez effectuer des arbitrages au cas par cas.

 

Pour moi, la gouvernance et la gestion des données sont des catalyseurs essentiels d'une vraie accélération.

Rao Surapaneni, VP and GM of Business Applications chez Google Cloud

AARON

Avez-vous un avis tranché sur les flux de travail pour lesquels l'agent peut disposer des droits et des privilèges de l'utilisateur, et sur ceux qui nécessitent une identité et un jeu d'accès propres ?

RAO

C'est quelque chose que nous étudions dans les déploiements professionnels. Actuellement, nous appliquons les règles en vigueur dans l'entreprise. Si un agent exécute quelque chose en mon nom, il utilise mon authentification et mon autorisation pour cela. Cela fonctionne très bien, car les règles et les modèles en place sont suivis.

Mais imaginons que je demande quelque chose à un employé des People Ops qui a accès à davantage de données que moi. Mon agent peut effectuer la tâche et me fournir un résumé sans partager tous les détails bruts. Dans ce type de cas, vous devez accorder des privilèges élevés à un agent.

C'est sur ces décisions implicites et latentes en matière de privilèges et de règles que nous travaillons actuellement.

AARON

Passons en mode « geek » pour un instant. Je pense qu'un de nos futurs défis majeurs sera, par exemple, demander à un agent le salaire d'un membre de l'équipe. L'agent peut-il savoir de façon déterministe si j'ai le droit de poser cette question ? Puis-je faire de l'ingénierie sociale sur l'agent pour extraire des informations auxquelles je ne devrais pas avoir accès ? Imaginez-vous une couche d'orchestration ou un panneau de contrôle entre le système et l'agent ?

RAO

Oui, dans le monde des agents, le contrôle des accès et l'évaluation du contexte doivent exister à chaque étape du processus. Reprenons notre exemple. Une fois connecté au système de l'entreprise, je suis qui je suis, et toutes mes autorisations s'appliquent. Mais dans un monde agentique, chaque appel d'outil, chaque accès au contenu doit être évalué dans le contexte de ce qui se produit à l'endroit en question. Plutôt qu'une connexion statique unique, il faut implémenter une autorisation à chaque étape dans ces plateformes.

 

Dans le monde des agents, le contrôle des accès et l'évaluation du contexte doivent exister à chaque étape du processus.

Rao Surapaneni, VP and GM of Business Applications chez Google Cloud

AARON

Il n'y aura pas de pénurie d'emploi dans l'IT dans les deux décennies à venir. Il y aura tant de systèmes à configurer, et d'intégrations et de sécurité à mettre en œuvre.

L'interopérabilité est une dépendance qui concerne tout le monde. Si je souhaite déployer des agents dans mon infrastructure, tous mes outils fonctionnent-ils avec cet agent et cette couche d'orchestration ? Selon vous, où en sommes-nous en matière de normes d'interopérabilité ?

RAO

L'une de mes missions secondaires consiste à collaborer avec les organismes normatifs du secteur pour assurer l'interopérabilité de ces plateformes. Mon hypothèse initiale est celle de l'existence de plusieurs plateformes agentiques. Si une entreprise déploie Box, ServiceNow et Workday, ces plateformes doivent pouvoir fonctionner ensemble.

Historiquement, on avait recours à l'accès d'API. Aujourd'hui, les agents nous permettent de découvrir ces interfaces à la volée et de demander le partage de ce point de données. Si l'autorisation est accordée, les données peuvent circuler.

On peut découvrir une plateforme, s'y connecter et effectuer une tâche en pleine exécution. Mais en matière d'adoption, il y a de nombreuses dynamiques sectorielles qui entrent en jeu. Les API sont déjà exploitées. MCP s'impose comme norme pour les outils et les données. Et les agents ne sont pas monolithiques. Nous avons notamment inventé le protocole d'agent à agent. C'est notre trajectoire actuelle : chaque solution d'orchestration multi-agents a besoin de fonctionnalités supplémentaires. Comment découvrir de nouveaux agents ? Comment sélectionner l'agent qui peut faire ce dont vous avez besoin ?

AARON

Si vous regardez dans votre boule de cristal, où en serons-nous dans 12 à 18 mois ? Comment les modèles d'IA et ces systèmes multi-agents vont-ils progresser ?

RAO

Le problème de la compréhension des requêtes et du traitement du langage naturel est résolu. Les capacités de raisonnement ont progressé à pas de géant. Nous pouvons donc traiter de longs documents et les comprendre avec un seul prompt. 
La prochaine étape, c'est la mémoire. Au cours d'une journée, un humain ne mémorise que quelques faits marquants. Les agents devront les mémoriser également pour personnaliser les interactions et s'améliorer au fil du temps. Nous nous penchons donc sur la mémoire. 

Côté ingénierie, nous travaillons également sur les boucles de rétroaction. Je compare les agents à des stagiaires. Lorsqu'un stagiaire intègre une entreprise, il doit gérer beaucoup d'informations, et le faire vite. À la fin de la semaine, son rapport d'étape fait état de ce qu'il a compris, de l'aide dont il a besoin (l'humain dans la boucle) et de ses erreurs. 

C'est une opportunité de recevoir des retours. Mais quand vous donnez ces retours à un agent, les mémorise-t-il pour mieux réagir la prochaine fois que ce scénario se produit ? Nous devons étudier l'utilisation de la mémoire et du stockage pour compléter cette boucle de rétroaction, de sorte que les agents deviennent des stagiaires plus rapides à la carrière bien plus réussie.

AARON

En bref, nous allons faire beaucoup d'entretiens individuels avec les agents.

RAO
Pour moi, chaque employé est un manager d'agents.

 

Pour moi, chaque employé est un manager d'agents.

Rao Surapaneni, VP and GM of Business Applications chez Google Cloud

AARON

Un conseil pour terminer ? Si vous deviez retenir un enseignement pour toutes les personnes qui vont retrouver leurs agents après cet entretien : que devons-nous faire différemment ?

RAO

Utilisez-les. Utilisez-les souvent. Donnez-leur des retours. C'est le seul moyen de les soumettre à des tests de contrainte et de comprendre ce qui fonctionne ou non. La technologie est là. À nous de l'appliquer aux cas d'utilisation appropriés avec le profil de risque approprié. 

AARON

Génial. Rao, merci infiniment. Nous sommes ravis de collaborer avec vous.

RAO

Merci.
 

*Bien que nous maintenions notre engagement indéfectible à offrir des produits et des services de première qualité en matière de protection de la vie privée, de sécurité et de conformité, les informations fournies dans cet article de blog n'ont pas valeur d'avis juridique. Nous encourageons vivement nos clients actuels et potentiels à faire preuve de diligence raisonnable en évaluant la conformité avec les lois applicables.