Kebocoran Memori — #14
Perspektif VC Astasia Myers tentang pembelajaran mesin, infrastruktur cloud, alat pengembang, sumber terbuka, dan keamanan. Daftar di sini .
Produk
LangChain
LangChainadalah pustaka Python sumber terbuka yang ditujukan untuk membantu pengembangan LLM dengan mengoordinasikan tugas dalam alur kerja LLM. LangChain menyediakan banyak modul yang dapat digunakan untuk membangun aplikasi model bahasa. Modul dapat digabungkan untuk membuat aplikasi yang lebih kompleks, atau digunakan secara terpisah untuk aplikasi sederhana. Ada enam jenis modul: 1) LLM: dapatkan prediksi dari model bahasa, 2) Template prompt: kelola prompt untuk LLM, 3) Rantai: gabungkan LLM dan prompt dalam alur kerja multi-langkah, 4) Agen: berbasis rantai panggilan secara dinamis pada maksud pengguna, 5) Memori: tambahkan status ke rantai dan agen, 6) Utilitas: tindakan. LangChain memungkinkan pengguna untuk membangun banyak kasus penggunaan dengan LLM termasuk agen, chatbots, pembuatan data yang ditambah, menjawab pertanyaan, meringkas, menghasilkan contoh serupa, membandingkan model, dan evaluasi.
Mengapa ini penting? Model Bahasa Besar (LLM) muncul sebagai teknologi transformatif yang dicontohkanantara lain oleh OpenAI GPT-3, Cohere , RoBERTa . LLM seringkali perlu dikaitkan dengan proses lain untuk pra dan pasca pemrosesan serta infrastruktur database atau produk SaaS agar konteks dapat memberikan nilai. LangChain membantu dalam hal ini. Kami yakin dunia Machine Learning (ML) terbagi menjadi dua kubu. Kamp satu adalah praktisi ML yang melatih dan menyempurnakan model ML. Kamp kedua adalah mereka yang memanfaatkan rekayasa cepat untuk mendapatkan hasil dari model dasar yang dihosting melalui API. LangChain mendukung praktisi ML di kubu dua. Kita dapat membayangkan dunia di mana LangChain melampaui LLM ke model dasar modalitas lain seperti Stable Diffusion.
Indeks-GPT
Indeks GPT adalah proyek yang terdiri dari sekumpulan struktur data yang dirancang untuk mempermudah penggunaan basis pengetahuan eksternal yang besar dengan LLM. Indeks GPT membantu memberikan keuntungan berikut:
- Hapus kekhawatiran atas batasan ukuran yang cepat.
- Pola penggunaan umum abstrak untuk mengurangi kode boilerplate di aplikasi LLM Anda.
- Berikan konektor data ke sumber data umum Anda (Google Docs, Slack, dll.).
- Berikan transparansi biaya + alat yang mengurangi biaya sekaligus meningkatkan kinerja.
MusikLM
MusicLM, model yang menghasilkan musik fidelitas tinggi dari deskripsi teks seperti “melodi biola yang menenangkan didukung oleh riff gitar yang terdistorsi” . MusicLM menampilkan proses pembuatan musik bersyarat sebagai tugas pemodelan urutan-ke-urutan hierarkis, dan menghasilkan musik pada 24 kHz yang tetap konsisten selama beberapa menit. Ada beberapa contoh menyenangkan di situs web.
Mengapa ini penting? Kemajuan dalam ML terutama berfokus pada bahasa alami, gambar, dan video. AI generatif yang diterapkan pada audio masih muncul. Kami membayangkan diskusi yang sama seputar pelanggaran hak cipta AI generatif visual akan dimulai di industri musik.
Konten
Kerangka Kerja untuk Memprioritaskan Utang Teknologi
Max Countryman , Senior Director of Engineering di Lob , menyediakan proses langkah demi langkah untuk memprioritaskan utang teknis. Dia menyarankan untuk menjawab pertanyaan-pertanyaan berikut:
- Jika kita memilih untuk tidak melakukan apa-apa, apakah masalah ini akan menjadi lebih buruk, tetap sama, atau membaik?
- Jika akan menjadi lebih buruk, seberapa cepat akan menurun?
- Jika tetap sama, berapa banyak gangguan yang ditimbulkannya hari ini?
- Jika itu akan membaik, pada titik mana itu akan meningkat hingga tidak lagi menjadi penghalang?
Dari Batch ke Streams: Membangun Nilai dari Data In-Motion
Ricardo Ferreira , Senior Developer Advocate di AWS, menggarisbawahi munculnya sistem berbasis streaming. Dia menyatakan bahwa arsitektur data streaming sangat baik untuk menyediakan alat bagi perusahaan untuk mulai bereaksi terhadap peluang yang muncul. Ferreira membahas perjalanan data streaming dan jebakan yang harus dihindari.
Mengapa ini penting? Kami yakin tekanan bisnis yang kompetitif dan ekspektasi pelanggan akan terus mendorong perusahaan untuk menjadi lebih mendekati real-time atau real-time dalam infrastruktur data dan ML mereka.
Setelah Menandatangani Kesepakatan OpenAI-nya, Shutterstock Meluncurkan Toolkit AI Generatif untuk Membuat Gambar Berdasarkan Permintaan Teks
Pelanggan platform desain online Creative Flow Shutterstock sekarang akan dapat membuat gambar berdasarkan permintaan teks , didukung oleh OpenAI dan Dall-E 2. Kunci fitur ini adalah bahwa Shutterstock mengatakan bahwa gambar "siap untuk lisensi" segera setelah mereka dibuat.
Mengapa ini penting? Kami percaya bahwa model dasar akan menguntungkan petahana dan mengarah pada generasi baru produk SaaS/prosumer asli model dasar. Mirip dengan transisi dari perangkat lunak lokal ke cloud, akan ada grup vendor yang berinovasi seperti Shutterstock dan grup yang tidak lagi relevan.
Pekerjaan
⭐️Claypot — Insinyur Pendiri (Infra)
⭐️ Grit — Insinyur Pendiri ML
⭐️ Omni — Insinyur Visualisasi Data Senior

![Apa itu Linked List? [Bagian 1]](https://post.nghiatu.com/assets/images/m/max/724/1*Xokk6XOjWyIGCBujkJsCzQ.jpeg)



































