Утечка памяти — #14
Взгляд венчурного капитала Асташи Майерс на машинное обучение, облачную инфраструктуру, инструменты для разработчиков, открытый исходный код и безопасность. Зарегистрируйтесь здесь .
Товары
LangChain
LangChain— это библиотека Python с открытым исходным кодом, предназначенная для помощи в разработке LLM путем координации задач в рабочем процессе LLM. LangChain предоставляет множество модулей, которые можно использовать для создания приложений языковой модели. Модули можно комбинировать для создания более сложных приложений или использовать по отдельности для простых приложений. Существует шесть типов модулей: 1) LLM: получение прогнозов из языковой модели, 2) Шаблоны подсказок: управление подсказками для LLM, 3) Цепочки: объединение LLM и подсказок в многоэтапных рабочих процессах, 4) Агенты: динамические цепочки вызовов на основе по намерению пользователя, 5) Память: добавить состояние к цепочкам и агентам, 6) Утилиты: действия. LangChain позволяет пользователям создавать множество вариантов использования с помощью LLM, включая агентов, чат-ботов, генерацию дополненных данных, ответы на вопросы, обобщение, создание аналогичных примеров, сравнение моделей и оценку.
Почему это важно? Большие языковые модели (LLM) появляются как преобразующая технология, примером которой являются OpenAI GPT-3, Cohere , RoBERTa и другие. LLM часто необходимо привязать к другим процессам для предварительной и последующей обработки, а также к инфраструктуре базы данных или продуктам SaaS, чтобы контекст обеспечивал ценность. LangChain помогает в этом. Мы считаем, что мир машинного обучения (ML) разделен на два лагеря. Первый лагерь — это специалисты по машинному обучению, которые обучают и настраивают модели машинного обучения. Второй лагерь — это те, которые используют оперативное проектирование для получения результатов от размещенной базовой модели через API. LangChain поддерживает практиков машинного обучения во втором лагере. Мы можем представить себе мир, в котором LangChain выходит за рамки LLM до базовых моделей других модальностей, таких как стабильная диффузия..
GPT-индекс
GPT Index — это проект, состоящий из набора структур данных, предназначенных для упрощения использования больших внешних баз знаний с LLM. Индекс GPT помогает обеспечить следующие преимущества:
- Устраните опасения по поводу ограничений размера подсказок.
- Абстрагируйте общие шаблоны использования, чтобы сократить шаблонный код в вашем приложении LLM.
- Предоставьте соединители данных для ваших общих источников данных (Google Docs, Slack и т. д.).
- Обеспечить прозрачность затрат + инструменты, которые снижают затраты при одновременном повышении производительности.
МузыкаLM
MusicLM, модель, генерирующая высококачественную музыку из текстовых описаний, таких как «успокаивающая мелодия скрипки, сопровождаемая искаженным гитарным риффом» . MusicLM представляет процесс условной генерации музыки как задачу моделирования иерархической последовательности за последовательностью и генерирует музыку на частоте 24 кГц, которая остается неизменной в течение нескольких минут. На сайте есть несколько забавных примеров.
Почему это важно? Достижения в области машинного обучения в основном сосредоточены на естественном языке, изображениях и видео. Генеративный ИИ, применяемый к аудио, все еще развивается. Мы предполагаем, что такая же дискуссия о нарушении авторских прав на визуальный генеративный ИИ начнется в музыкальной индустрии.
Контент
Схема приоритизации технологического долга
Макс Кантриман , старший технический директор Lob , описывает пошаговый процесс приоритизации технического долга. Он предлагает ответить на следующие вопросы:
- Если мы решим ничего не делать, станет ли эта проблема хуже, останется такой же или улучшится?
- Если станет хуже, как быстро она деградирует?
- Если он останется прежним, сколько нарушений он вызывает сегодня?
- Если она улучшится, то в какой момент она улучшится до такой степени, что перестанет быть препятствием?
От пакетной обработки к потоковой: повышение ценности данных в движении
Рикардо Феррейра (Ricardo Ferreira) , старший советник разработчиков в AWS, подчеркивает рост числа систем на основе потоковой передачи. Он утверждает, что архитектуры потоковых данных очень хороши для предоставления компаниям инструментов, с помощью которых они начинают реагировать на открывающиеся возможности. Феррейра обсуждает путь потоковой передачи данных и ловушки, которых следует избегать.
Почему это важно? Мы считаем, что конкурентное давление со стороны бизнеса и ожидания клиентов будут и впредь подталкивать компании к тому, чтобы все больше приближаться к реальному времени или к реальному времени в своих данных и инфраструктуре машинного обучения.
После заключения сделки с OpenAI Shutterstock выпускает набор инструментов для генеративного ИИ для создания изображений на основе текстовых подсказок.
Клиенты платформы онлайн-дизайна Shutterstock Creative Flow теперь смогут создавать изображения на основе текстовых подсказок на основе OpenAI и Dall-E 2. Суть этой функции заключается в том, что Shutterstock заявляет, что изображения «готовы к лицензированию» сразу после того, как они сделал.
Почему это важно? Мы считаем, что базовые модели принесут пользу действующим операторам и приведут к появлению нового поколения продуктов SaaS/prosumer, ориентированных на базовые модели. Подобно переходу от локального программного обеспечения к облаку, будет группа существующих поставщиков, которые будут внедрять инновации, такие как Shutterstock, и группа, которая перестанет быть актуальной.
Работа
⭐️Claypot — Инженер-основатель (Инфра)
⭐️ Выдержка — инженер-основатель машинного обучения
⭐️ Omni — Старший инженер по визуализации данных

![В любом случае, что такое связанный список? [Часть 1]](https://post.nghiatu.com/assets/images/m/max/724/1*Xokk6XOjWyIGCBujkJsCzQ.jpeg)



































