메모리 누수 — #14
머신 러닝, 클라우드 인프라, 개발자 도구, 오픈 소스 및 보안에 대한 VC Astasia Myers의 관점. 여기에서 가입하세요 .
제품
랭체인
랭체인LLM 워크플로에서 작업을 조정하여 LLM 개발을 지원하는 것을 목표로 하는 오픈 소스 Python 라이브러리입니다. LangChain은 언어 모델 애플리케이션을 구축하는 데 사용할 수 있는 많은 모듈을 제공합니다. 모듈을 결합하여 더 복잡한 애플리케이션을 만들거나 간단한 애플리케이션을 위해 개별적으로 사용할 수 있습니다. 6가지 유형의 모듈이 있습니다. 1) LLM: 언어 모델에서 예측 가져오기, 2) 프롬프트 템플릿: LLM에 대한 프롬프트 관리, 3) 체인: 다단계 워크플로에서 LLM과 프롬프트 결합, 4) 에이전트: 동적으로 호출 체인 기반 사용자 의도, 5) 메모리: 체인 및 에이전트에 상태 추가, 6) 유틸리티: 작업. LangChain은 사용자가 에이전트, 챗봇, 데이터 증강 생성, 질문 응답, 요약, 유사한 예제 생성, 모델 비교 및 평가를 포함하여 LLM을 사용하여 많은 사용 사례를 구축할 수 있도록 합니다.
이것이 왜 중요한가요? LLM(Large Language Models)은 OpenAI GPT-3, Cohere , RoBERTa 등으로 대표되는 혁신적인 기술로 부상하고 있습니다. LLM은 컨텍스트에서 가치를 제공하기 위해 데이터베이스 인프라 또는 SaaS 제품뿐만 아니라 전처리 및 후처리를 위해 다른 프로세스에 연결되어야 하는 경우가 많습니다. LangChain이 이를 도와줍니다. 우리는 기계 학습(ML) 세계가 두 진영으로 나뉜다고 생각합니다. 캠프 1은 ML 모델을 훈련하고 미세 조정하는 ML 실무자입니다. 캠프 2는 즉각적인 엔지니어링을 활용하여 API를 통해 호스팅된 기본 모델에서 결과를 얻는 것입니다. LangChain은 캠프 2에서 ML 실무자를 지원합니다. 우리는 LangChain이 LLM을 넘어 Stable Diffusion 과 같은 다른 양식의 기본 모델로 확장되는 세상을 상상할 수 있습니다..
GPT-지수
GPT 인덱스는 LLM과 함께 대규모 외부 지식 기반을 더 쉽게 사용할 수 있도록 설계된 일련의 데이터 구조로 구성된 프로젝트입니다. GPT 인덱스는 다음과 같은 이점을 제공합니다.
- 프롬프트 크기 제한에 대한 우려를 제거하십시오.
- LLM 앱에서 상용구 코드를 줄이기 위해 일반적인 사용 패턴을 추상화합니다.
- 공통 데이터 소스(Google Docs, Slack 등)에 데이터 커넥터를 제공합니다.
- 성능을 높이면서 비용을 절감하는 비용 투명성 + 도구를 제공합니다.
뮤직LM
MusicLM, "왜곡된 기타 리프로 뒷받침되는 잔잔한 바이올린 선율" 과 같은 텍스트 설명에서 고충실도 음악을 생성하는 모델 . MusicLM은 조건부 음악 생성 프로세스를 계층적 시퀀스 간 모델링 작업으로 캐스팅하고 몇 분 동안 일관되게 유지되는 24kHz에서 음악을 생성합니다. 웹 사이트에 몇 가지 재미있는 예가 있습니다.
이것이 왜 중요한가요? ML의 발전은 주로 자연어, 이미지 및 비디오에 중점을 두었습니다. 오디오에 적용되는 제너레이티브 AI는 여전히 등장하고 있다. 우리는 시각 생성 AI 저작권 위반에 대한 동일한 논의가 음악 산업에서 시작될 것이라고 상상합니다.
콘텐츠
기술 부채의 우선순위를 정하기 위한 프레임워크
Lob 의 엔지니어링 수석 이사인 Max Countryman 은 기술 부채의 우선 순위를 지정하기 위한 단계별 프로세스를 제공합니다. 그는 다음 질문에 답할 것을 제안합니다.
- 아무 조치도 취하지 않으면 이 문제가 더 악화될까요, 동일하게 유지될까요, 개선될까요?
- 더 나빠지면 얼마나 빨리 저하됩니까?
- 동일하게 유지된다면 오늘날 얼마나 많은 혼란을 야기하고 있습니까?
- 개선된다면 어느 시점에서 더 이상 장애가 되지 않을 정도로 개선될까요?
배치에서 스트림으로: 이동 중인 데이터에서 가치 구축
AWS의 Senior Developer Advocate인 Ricardo Ferreira는 스트리밍 기반 시스템의 부상을 강조합니다. 그는 스트리밍 데이터 아키텍처가 기업이 자신을 제시하는 기회에 대응하기 시작할 수 있는 도구를 제공하는 데 매우 유용하다고 말합니다. Ferreira는 스트리밍 데이터 여정과 피해야 할 함정에 대해 설명합니다.
이것이 왜 중요한가요? 우리는 경쟁적인 비즈니스 압력과 고객의 기대로 인해 회사가 데이터 및 ML 인프라에서 거의 실시간 또는 실시간이 되도록 계속 추진할 것이라고 믿습니다.
OpenAI 거래를 체결한 후 Shutterstock은 텍스트 프롬프트를 기반으로 이미지를 생성하는 생성 AI 툴킷을 출시합니다.
Shutterstock의 Creative Flow 온라인 디자인 플랫폼 고객은 이제 OpenAI 및 Dall-E 2로 구동되는 텍스트 프롬프트를 기반으로 이미지를 만들 수 있습니다. 이 기능의 핵심은 Shutterstock에서 이미지가 "라이선스를 받을 준비가 된" 상태라고 말합니다. 만들어진.
이것이 왜 중요한가요? 우리는 기본 모델이 기존 기업에 혜택을 주고 차세대 기본 모델 네이티브 SaaS/프로슈머 제품으로 이어질 것이라고 믿습니다. 온프레미스 소프트웨어에서 클라우드로의 전환과 유사하게 Shutterstock과 같이 혁신하는 기존 벤더 그룹과 더 이상 관련성이 없어질 그룹이 있을 것입니다.
채용 정보
⭐️Claypot — 창립 엔지니어(Infra)
⭐️ Grit — 창립 ML 엔지니어
⭐️ Omni — 수석 데이터 시각화 엔지니어

![연결된 목록이란 무엇입니까? [1 부]](https://post.nghiatu.com/assets/images/m/max/724/1*Xokk6XOjWyIGCBujkJsCzQ.jpeg)



































