Cohere Fine-Tuned Large Language Models & Intent Recognition

Dec 19 2022
Artikel ini mempertimbangkan bagaimana Model Bahasa Besar (LLM) yang disetel khusus dapat digunakan untuk deteksi maksud. Dan bagaimana proses peningkatan berkelanjutan dapat diikuti untuk desain dan pengembangan NLU yang digerakkan oleh niat cerdas.

Artikel ini mempertimbangkan bagaimana Model Bahasa Besar (LLM) yang disetel khusus dapat digunakan untuk deteksi maksud. Dan bagaimana proses peningkatan berkelanjutan dapat diikuti untuk desain dan pengembangan NLU yang digerakkan oleh niat cerdas.

Baru-baru ini saya menulis sebuah artikel tentang cara membuat LLM kustom yang disempurnakan menggunakan Cohere dan HumanFirst Studio.

HumanFirst Studio adalah ruang laten yang dipercepat untuk mengonversi data tidak terstruktur menjadi data NLU Design .

Dalam artikel ini saya mendemonstrasikan bagaimana model LLM yang disetel dengan baik digunakan untuk deteksi maksud dari ucapan pengguna. Saya juga mempertimbangkan bagaimana hasilnya dibandingkan dengan HumanFirst NLU.

Baca selengkapnya tentang integrasi langsung antara HumanFirst Studio & Cohere Large Language Models di sini .

Tambahan yang cukup baru untuk antarmuka Cohere adalah Dasbor, yang dapat dilihat sebagai area pementasan. Dan juga berfungsi sebagai langkah selanjutnya , berpindah dari Playground ke lingkungan yang lebih berorientasi pada produksi.

Pada gambar di bawah ini Anda melihat dasbor tempat model dipilih. Daftar Cohere default dan model kustom ditampilkan.

Pada gambar di bawah, model yang disetel khusus dipilih di bawah "Model Anda" dan diakses melalui Cohere Playground.

Di dalam taman bermain, di kanan atas, daftar model ditampilkan.

Anda akan melihat penambahan model multibahasa baru.

Di bawah model Fine Tuned Anda akan melihat model perbankan kustom; penciptaan model ini dijelaskan di sini .

Antarmuka pengguna menampilkan label (maksud) di panel sebelah kiri. Setelah ucapan input dimasukkan, pengguna dapat mengklik mengklasifikasikan untuk menghasilkan hasil.

Output mencantumkan label yang relevan, dengan persentase atau relevansi.

Melakukan tes yang sama terhadap HumanFirst NLU, menghasilkan hasil yang lebih terdistribusi, sesuai dengan temuan sebelumnya .

Baca lebih lanjut tentang Analisis Integrasi Pertama Manusia dan Koheren & mempertimbangkan ucapan yang rumit .

Di bawah ini adalah potongan kode yang mengilustrasikan cara menggunakan model Cohere yang disetel khusus dalam kode python.

# pip install cohere
# In a notebook, you will first have to intall cohere

import cohere
from cohere.classify import Example
co = cohere.Client('API Key')
response = co.classify(
  model='d13388ea-7017-4a62-bcf5-7add7bb024fa-ft',
  inputs=["My card is damaged and I cannot cancel a transfer"])
print('The confidence levels of the labels are: {}'.format(response.classifications))

The confidence levels of the labels are: 

[Classification<prediction: "cancel_transfer", confidence: 0.895705>]

Yang ideal adalah membuat pipa data ini diotomatisasi sebanyak mungkin. Dan mengikuti proses human-in-the-loop selama fase Evaluasi dan Desain NLU.

Untuk pertimbangan dalam menggunakan pendekatan pipa data untuk rekayasa Data NLU dari perspektif HumanFirst, klik di sini .

⭐️ Silakan ikuti saya di LinkedIn untuk pembaruan tentang AI Percakapan ⭐️

Saat ini saya adalah Ketua Penginjil @ HumanFirst . Saya menjelajahi dan menulis tentang semua hal di persimpangan AI dan bahasa; mulai dari LLM , Chatbots , Voicebots , Kerangka Pengembangan, ruang laten Data-Centric dan banyak lagi.

https://www.linkedin.com/in/cobusgreyling
Desain Cobus Quadrant™ NLU Kemampuan Desain Percakapan Cobus Quadrant™