Memahami keumuman masalah NER

Oct 27 2020

Pengenalan entitas-bernama (NER) adalah masalah yang terkenal dalam literatur NLP.

Ini biasanya membahas masalah untuk mencari dan mengklasifikasikan entitas bernama dalam teks, misalnya Organizationsdan Products.

Saya mencoba memecahkan masalah serupa tetapi, dalam pandangan saya, sedikit lebih umum. Dengan adanya teks masukan, saya ingin dapat membuat anotasi teks secara komprehensif; tidak hanya entitas tertentu seperti Actorsdan Organizationstetapi juga konsep tingkat yang lebih tinggi seperti Conditions of Applicabilitydan Temporal Conditions, misalnya:

Kesulitan tambahan adalah kita memiliki "entitas" bersarang, misalnya (dari atas):

<denotic> must, <temporal> within the specified period </temporal>, notify ... </deontic>

Apakah ini masih dapat dirumuskan sebagai masalah NER? Jika demikian, apa jenis model terbaik untuk menyelesaikan tugas ini dengan asumsi kumpulan data dari ~ 50 K contoh?

Jawaban

1 Erwan Oct 27 2020 at 19:49

Masalah yang dijelaskan bukanlah versi yang lebih umum dari Pengenalan Entitas Bernama, ini adalah masalah lain yang disebut penguraian . Penguraian terdiri dari mengekstraksi struktur sintaksis teks, biasanya bertujuan untuk menangkap semantiknya dengan lebih baik. Ada berbagai pendekatan:

  • Penguraian dangkal hanya mengidentifikasi konstituen kalimat (berdasarkan contoh Anda, ini mungkin cukup dalam kasus Anda)
  • Penguraian statistik dan khususnya Penguraian ketergantungan mewakili seluruh struktur kalimat, termasuk tautan di antara konstituennya.

Ada berbagai pustaka dan kumpulan data untuk parsing: salah satu yang paling terkenal mungkin adalah parser Stanford , tetapi ada banyak pustaka lain yang sering disertakan dalam toolkit NLP seperti OpenNLP . The Universal Dependensi proyek adalah kumpulan multibahasa besar teks dijelaskan yang dapat digunakan untuk melatih parser.

Semantic Role Labeling (SRL) adalah tugas terkait erat yang terdiri dalam mengidentifikasi hubungan semantik antara predikat (kata kerja) dan konstituen terkait (misalnya subjek, objek).