Speicherleck – Nr. 14

Jan 28 2023
Die Perspektiven von VC Astasia Myers zu maschinellem Lernen, Cloud-Infrastruktur, Entwicklertools, Open Source und Sicherheit. Hier anmelden.

Die Perspektiven von VC Astasia Myers zu maschinellem Lernen, Cloud-Infrastruktur, Entwicklertools, Open Source und Sicherheit. Melden Sie sich hier an .

Produkte

LangChain

LangChainist eine Open-Source-Python-Bibliothek, die die Entwicklung von LLMs durch die Koordinierung von Aufgaben in einem LLM-Workflow unterstützen soll. LangChain bietet viele Module, die zum Erstellen von Sprachmodellanwendungen verwendet werden können. Module können kombiniert werden, um komplexere Anwendungen zu erstellen, oder einzeln für einfache Anwendungen verwendet werden. Es gibt sechs Arten von Modulen: 1) LLMs: Vorhersagen aus einem Sprachmodell abrufen, 2) Eingabeaufforderungsvorlagen: Eingabeaufforderungen für LLMs verwalten, 3) Ketten: LLMs und Eingabeaufforderungen in mehrstufigen Workflows kombinieren, 4) Agenten: dynamisch auf Anrufketten basierend auf Benutzerabsicht, 5) Speicher: Status zu Ketten und Agenten hinzufügen, 6) Dienstprogramme: Aktionen. Mit LangChain können Benutzer viele Anwendungsfälle mit LLMs erstellen, darunter Agenten, Chatbots, datenerweiterte Generierung, Beantwortung von Fragen, Zusammenfassung, Generierung ähnlicher Beispiele, Vergleich von Modellen und Auswertung.

Warum ist das wichtig? Large Language Models (LLMs) entwickeln sich zu einer transformativen Technologie, dieunter anderem durch OpenAI GPT-3, Cohere und RoBERTa veranschaulicht wird. Ein LLM muss oft mit anderen Prozessen zur Vor- und Nachbearbeitung sowie mit der Datenbankinfrastruktur oder SaaS-Produkten verknüpft werden, damit der Kontext einen Mehrwert bietet. LangChain hilft dabei. Wir glauben, dass die Welt des maschinellen Lernens (ML) in zwei Lager gespalten ist. Camp eins besteht aus ML-Praktikern, die ML-Modelle trainieren und verfeinern. Camp zwei ist jenes, das Prompt Engineering nutzt, um über eine API Ergebnisse aus einem gehosteten Basismodell zu erhalten. LangChain unterstützt ML-Praktiker im zweiten Camp. Wir können uns eine Welt vorstellen, in der sich LangChain über LLMs hinaus auf grundlegende Modelle anderer Modalitäten wie Stable Diffusion erstreckt.

GPT-Index

GPT Index ist ein Projekt, das aus einer Reihe von Datenstrukturen besteht, die die Nutzung großer externer Wissensdatenbanken mit LLMs erleichtern sollen. Der GPT-Index bietet die folgenden Vorteile:

  • Beseitigen Sie Bedenken hinsichtlich der Größenbeschränkungen für Eingabeaufforderungen.
  • Abstrahieren Sie gängige Nutzungsmuster, um den Boilerplate-Code in Ihrer LLM-App zu reduzieren.
  • Stellen Sie Datenkonnektoren zu Ihren gängigen Datenquellen (Google Docs, Slack usw.) bereit.
  • Sorgen Sie für Kostentransparenz und Tools, die die Kosten senken und gleichzeitig die Leistung steigern.

MusicLM

MusicLM, ein Modell, das High-Fidelity-Musik aus Textbeschreibungen wie „einer beruhigenden Geigenmelodie, untermalt von einem verzerrten Gitarrenriff“ generiert . MusicLM stellt den Prozess der bedingten Musikgenerierung als hierarchische Sequenz-zu-Sequenz-Modellierungsaufgabe dar und generiert Musik mit 24 kHz, die über mehrere Minuten hinweg konsistent bleibt. Auf der Website gibt es einige lustige Beispiele.

Warum ist das wichtig? Fortschritte im ML konzentrierten sich hauptsächlich auf natürliche Sprache, Bilder und Videos. Die Anwendung generativer KI auf Audio ist noch im Entstehen begriffen. Wir gehen davon aus, dass die gleiche Diskussion über Urheberrechtsverletzungen durch visuelle generative KI in der Musikindustrie beginnen wird.

Inhalt

Ein Rahmen zur Priorisierung von Technologieschulden

Max Countryman , Senior Director of Engineering bei Lob , bietet einen schrittweisen Prozess zur Priorisierung technischer Schulden. Er schlägt vor, die folgenden Fragen zu beantworten:

  1. Wenn wir uns entscheiden, nichts zu tun, wird sich dieses Problem dann verschlimmern, gleich bleiben oder sich verbessern?
  2. Wenn es schlimmer wird, wie schnell wird es sich verschlechtern?
  3. Wenn es so bleibt, wie groß ist die Störung, die es heute verursacht?
  4. Wenn es sich verbessert, ab wann wird es so weit verbessert, dass es kein Hindernis mehr darstellt?

Vom Batch zum Stream: Wertschöpfung aus Daten in Bewegung

Ricardo Ferreira , Senior Developer Advocate bei AWS, unterstreicht den Aufstieg Streaming-basierter Systeme. Er gibt an, dass Streaming-Datenarchitekturen sehr gut dazu geeignet sind, Unternehmen Tools bereitzustellen, mit denen sie auf sich bietende Chancen reagieren können. Ferreira bespricht die Streaming-Datenreise und die zu vermeidenden Fallen.

Warum ist das wichtig? Wir glauben, dass der geschäftliche Wettbewerbsdruck und die Erwartungen der Kunden Unternehmen weiterhin dazu drängen werden, in ihrer Daten- und ML-Infrastruktur immer näher an Echtzeit oder in Echtzeit zu arbeiten.

Nach Unterzeichnung seines OpenAI-Vertrags führt Shutterstock ein generatives KI-Toolkit ein, um Bilder basierend auf Textaufforderungen zu erstellen

Kunden der Online-Designplattform Creative Flow von Shutterstock können jetzt Bilder basierend auf Texteingaben erstellen , unterstützt von OpenAI und Dall-E 2. Der Schlüssel zu dieser Funktion besteht darin, dass Shutterstock angibt, dass die Bilder sofort „bereit für die Lizenzierung“ sind gemacht.

Warum ist das wichtig? Wir glauben, dass grundlegende Modelle den etablierten Unternehmen zugute kommen und zu einer neuen Generation grundlegender modellnativer SaaS-/Prosumer-Produkte führen werden. Ähnlich wie beim Übergang von On-Premises-Software zur Cloud wird es eine Gruppe bestehender Anbieter geben, die wie Shutterstock Innovationen hervorbringen, und eine Gruppe, die nicht mehr relevant sein wird.

Quelle: Shutterstock.com/generate

Jobs

⭐️Claypot – Gründungsingenieur (Infra)

⭐️ Grit – Gründer des ML-Ingenieurs

⭐️ Omni – Leitender Datenvisualisierungsingenieur