Le lancement de ChatGPT (aux côtés d'autres modèles tels que Stability et Cohere ) a vraiment mis l'IA sous les feux de la rampe et il est maintenant sûr de dire que l'IA est en train d'être consommée. D'innombrables messages ont émis des hypothèses sur ce qui sera possible dans un avenir très proche avec ces modèles et il semble que la limite supérieure augmente constamment.

L'IA peut générer du contenu mais et si l'IA pouvait générer des actions ? Chez Balderton, nous voyons un avenir dans lequel l'IA non seulement génère des instructions pour un problème, mais continue également à le résoudre (et nous ne pensons pas que ce soit loin !).

La technologie qui sous-tend tous les grands LLM tels que ChatGPT, T5 et RoBERTa est connue sous le nom de transformateur. C'est une itération du réseau neuronal récurrent (RNN), qui a produit des percées dans les problèmes d'analyse séquentielle tels que le traitement du langage naturel et l'analyse des séries chronologiques (c'est-à-dire tout ce qui pourrait être modélisé comme une séquence). Les LLM ont montré comment les transformateurs ont amélioré la PNL et il existe maintenant des preuves pour montrer que les transformateurs sont tout aussi efficaces dans d'autres problèmes de séries chronologiques tels que le trading . Nous avons également vu des exemples de transformateurs utilisés au-delà des problèmes d'analyse séquentielle tels que la vision par ordinateuren utilisant des techniques intelligentes pour convertir l'image en une séquence - le papier porte bien son nom "Une image vaut 16x16 mots" et se traduit par des performances SOTA avec des ressources de calcul nettement inférieures.

Cet article explore un cas d'utilisation des transformateurs et des LLM qui nous passionne particulièrement.

LLM exploitables

Il est clair que les transformateurs et autres percées de l'IA sont parfaits pour générer du contenu (tel que du texte , du code , des images et des vidéos ), mais que se passerait-il si l'IA pouvait générer des décisions et prendre des mesures, sur la base de simples invites en langage clair ?

L'IA a déjà fait la une des journaux en étant très douée pour prendre des décisions (principalement grâce à DeepMind ) et en devenant championne du monde dans des jeux complexes tels que Go. La technologie à la base de ces percées est connue sous le nom d' apprentissage par renforcement (RL), qui est un cadre pour créer des agents décisionnels et apprendre un comportement optimal en interagissant avec l'environnement par essais et erreurs et en recevant des récompenses sous forme de rétroaction unique. RL a conduit à d'énormes progrès dans un large éventail de cas d'utilisation réels basés sur des décisions, tels que l'automatisation industrielle, les soins de santé, le marketing et les voitures autonomes.

Les transformateurs de décision ont été introduits par Facebook AI Research et Google Brain l'année dernière en appliquant des transformateurs à un cadre RL. De la même manière, "Une image vaut 16x16 mots" a résumé une image en une séquence, Decision Transformers abstrait RL en un problème de modélisation de séquence. Un excellent article de blog sur Hugging Face explore cela, si vous voulez creuser plus loin, ici .

ChatGPT nous a montré que la prochaine ère de l'informatique sera définie par des interfaces en langage naturel, qui nous permettront de dire directement aux ordinateurs ce que nous voulons. La vraie beauté est qu'ils peuvent interpréter l'intention . Adept fait passer cela au niveau supérieur en développant le transformateur d'action (ACT-1), qui est un modèle pour agir dans l'espace d'action des éléments de l'interface utilisateur dans une page Web, c'est-à-dire que vous pouvez dire au modèle de faire n'importe quoi dans un navigateur ou application d'entreprise. Si vous n'êtes pas déjà excité par la simple lecture de ceci, cela vaut la peine de regarder quelques démos ici pour vraiment apprécier ce que cela pourrait signifier.

Adept opte pour l'approche OpenAI et construit un large modèle de base avec un "espace d'action" incroyablement grand - cela définit les limites dans lesquelles les actions sont censées être faites. Bien que le concept des transformateurs de décision soit cool, ils ne sont pas triviaux à construire et on ne sait toujours pas comment ils seront utilisés. Cependant, il existe maintenant une opportunité immédiate de tirer parti des LLM pour construire une logique et agir dans des espaces d'action verticalisés tout en se concentrant également sur une excellente UX .

Il y a déjà des signes que cela se produit - par exemple, Glyphic construit un produit pour prendre des mesures dans l'espace d'action des ventes B2B, ShiftLab construit un produit pour prendre des mesures dans l'espace d'action du commerce électronique et Harvey construit pour l'espace d'action d'un avocat.

Il convient de noter qu'il existe de nombreux espaces d'action qui ne sont pas largement perçus comme des espaces d'action, par exemple Jasper.ai a pris l'espace d'action d'une publicité vierge et Copilot a pris l'espace d'action de VSCode. Tout outil sans code est essentiellement un espace d'action , donc ce n'est qu'une question de temps avant que ces outils commencent tous à créer des fonctionnalités d'IA pour que les utilisateurs interagissent avec leurs plateformes via le langage naturel — Glide , Fillout et Qatalog explorent déjà cela.

Il y aura forcément des cas d'utilisation de l'IA dans l'espace d'action ultime, le monde physique, et nous constatons déjà des progrès en robotique via un apprentissage non supervisé.

conclusion

Nous pensons que les modèles les plus utiles seront des « modèles qui agissent » plutôt que de simplement générer et nous nous dirigeons vers un monde de versions spécifiques à un domaine de Copilot pour atteindre de nouveaux niveaux de productivité.

Au cours des 12 derniers mois, nous avons soutenu de nombreuses entreprises natives de l'IA telles que Levity et Photoroom. Si vous construisez dans l'espace, nous serions ravis de vous parler - n'hésitez pas à nous contacter à [email protected]