Fuite de mémoire — #14

Jan 28 2023
Points de vue de VC Astasia Myers sur l'apprentissage automatique, l'infrastructure cloud, les outils de développement, l'open source et la sécurité. Inscrivez-vous ici.

Points de vue de VC Astasia Myers sur l'apprentissage automatique, l'infrastructure cloud, les outils de développement, l'open source et la sécurité. Inscrivez-vous ici .

Produits

LangChain

LangChainest une bibliothèque Python open source visant à aider au développement de LLM en coordonnant les tâches dans un flux de travail LLM. LangChain fournit de nombreux modules qui peuvent être utilisés pour créer des applications de modèle de langage. Les modules peuvent être combinés pour créer des applications plus complexes, ou être utilisés individuellement pour des applications simples. Il existe six types de modules : 1) LLM : obtenez des prédictions à partir d'un modèle de langage, 2) Modèles d'invite : gérez les invites pour les LLM, 3) Chaînes : combinez les LLM et les invites dans des flux de travail en plusieurs étapes, 4) Agents : appelez dynamiquement des chaînes basées sur sur l'intention de l'utilisateur, 5) Mémoire : ajouter un état aux chaînes et aux agents, 6) Utilitaires : actions. LangChain permet aux utilisateurs de créer de nombreux cas d'utilisation avec des LLM, notamment des agents, des chatbots, la génération de données augmentées, la réponse aux questions, la synthèse, la génération d'exemples similaires, la comparaison de modèles et l'évaluation.

Pourquoi est-ce important ? Les grands modèles de langage (LLM) émergent comme une technologie transformatrice illustrée par OpenAI GPT-3, Cohere , RoBERTa , entre autres. Un LLM doit souvent être lié à d'autres processus de pré- et post-traitement ainsi qu'à une infrastructure de base de données ou à des produits SaaS pour que le contexte apporte de la valeur. LangChain aide avec cela. Nous pensons que le monde de l'apprentissage automatique (ML) est divisé en deux camps. Le premier camp est composé de praticiens du ML qui forment et affinent les modèles de ML. Le deuxième camp est celui qui tire parti de l'ingénierie rapide pour obtenir des résultats à partir d'un modèle de base hébergé via une API. LangChain soutient les praticiens du ML dans le camp deux. Nous pouvons imaginer un monde où LangChain s'étend au-delà des LLM aux modèles fondamentaux d'autres modalités comme Stable Diffusion.

Index GPT

GPT Index est un projet consistant en un ensemble de structures de données conçues pour faciliter l'utilisation de grandes bases de connaissances externes avec des LLM. L'index GPT offre les avantages suivants :

  • Supprimez les problèmes liés aux limitations de taille des invites.
  • Résumé des modèles d'utilisation courants pour réduire le code passe-partout dans votre application LLM.
  • Fournissez des connecteurs de données à vos sources de données communes (Google Docs, Slack, etc.).
  • Fournir une transparence des coûts + des outils qui réduisent les coûts tout en augmentant les performances.

MusiqueLM

MusicLM, un modèle générant de la musique haute fidélité à partir de descriptions textuelles telles que « une mélodie de violon apaisante soutenue par un riff de guitare déformé » . MusicLM présente le processus de génération conditionnelle de musique comme une tâche de modélisation séquence à séquence hiérarchique, et il génère de la musique à 24 kHz qui reste cohérente pendant plusieurs minutes. Il y a quelques exemples amusants sur le site Web.

Pourquoi est-ce important ? Les progrès du ML se sont principalement concentrés sur le langage naturel, les images et la vidéo. L'IA générative appliquée à l'audio est encore en émergence. Nous imaginons que la même discussion sur les violations du droit d'auteur de l'IA générative visuelle commencera dans l'industrie de la musique.

Contenu

Un cadre pour hiérarchiser la dette technologique

Max Countryman , directeur principal de l'ingénierie chez Lob , propose un processus étape par étape pour hiérarchiser la dette technique. Il propose de répondre aux questions suivantes :

  1. Si nous choisissons de ne rien faire, ce problème s'aggravera-t-il, restera-t-il le même ou s'améliorera-t-il ?
  2. S'il s'aggrave, à quelle vitesse se dégradera-t-il ?
  3. S'il reste le même, combien de perturbations cause-t-il aujourd'hui ?
  4. Si cela s'améliore, à quel moment cela s'améliorera-t-il au point qu'il ne s'agit plus d'une obstruction ?

Du traitement par lots aux flux : créer de la valeur à partir des données en mouvement

Ricardo Ferreira , Senior Developer Advocate chez AWS, souligne l'essor des systèmes basés sur le streaming. Il déclare que les architectures de données en continu sont très utiles pour fournir des outils permettant aux entreprises de commencer à réagir aux opportunités au fur et à mesure qu'elles se présentent. Ferreira discute du parcours des données en streaming et des pièges à éviter.

Pourquoi est-ce important ? Nous pensons que les pressions commerciales concurrentielles et les attentes des clients continueront de pousser les entreprises à devenir plus proches du temps réel ou en temps réel dans leurs infrastructures de données et de ML.

Après avoir signé son accord OpenAI, Shutterstock déploie une boîte à outils d'IA générative pour créer des images basées sur des invites textuelles

Les clients de la plate-forme de conception en ligne Creative Flow de Shutterstock pourront désormais créer des images basées sur des invites de texte , optimisées par OpenAI et Dall-E 2. La clé de la fonctionnalité est que Shutterstock déclare que les images sont «prêtes pour la licence» juste après leur obtention. fait.

Pourquoi est-ce important ? Nous pensons que les modèles fondamentaux profiteront aux opérateurs historiques et conduiront à une nouvelle génération de produits SaaS/prosommateurs natifs des modèles fondamentaux. Semblable à la transition des logiciels sur site vers le cloud, il y aura un groupe de fournisseurs existants qui innoveront comme Shutterstock et un groupe qui cessera d'être pertinent.

Source : shutterstock.com/generate

Emplois

⭐️Claypot — Ingénieur fondateur (Infra)

⭐️ Grit — Ingénieur ML fondateur

⭐️ Omni — Ingénieur senior en visualisation de données