AI có thể giải thích lấy con người làm trung tâm (XAI) là gì?

AI có thể giải thích (XAI) hay AI có thể giải thích được, là trí tuệ nhân tạo (AI) có các quyết định và dự đoán mà con người có thể hiểu được. Nó trái ngược với khái niệm “hộp đen” trong học máy, nơi mà ngay cả các nhà thiết kế của nó cũng không thể giải thích tại sao AI lại đi đến một quyết định cụ thể. AI có thể được chia thành hai loại: AI khách quan và AI chủ quan. XAI, chủ đề thảo luận của tôi, thuộc về cái sau. Đây là phiên bản AI tiên tiến hơn nhiều so với AI khách quan, cũng là công nghệ chủ chốt trong tác phẩm nghệ thuật truyền thông của tôi 'eXplainable Human'.

AI chủ quan đòi hỏi khả năng giải thích.

Khi xã hội của chúng ta trở nên phức tạp hơn, chúng ta bắt đầu xử lý thông tin và tài sản cá nhân dựa trên niềm tin của khách hàng trong các lĩnh vực tài chính, bảo hiểm và chăm sóc y tế. Không chỉ đơn giản là phân loại hình ảnh hoặc dự đoán các con số, AI hiện đang được tạo ra để “đưa ra những phán đoán rõ ràng”. Do đó, cần phải phát triển AI và các thuật toán để đảm bảo tính công bằng, tin cậy và chính xác. Nói cách khác, cần phải xác nhận cơ sở để rút ra kết quả được tạo ra từ hệ thống AI của họ và tính hợp lệ của các quy trình tạo ra.

con người có thể giải thích được với XAI

Tóm tắt dự án

Trí tuệ nhân tạo đang được đưa vào nhiều lĩnh vực chuyên môn như tài chính, y tế và giáo dục, nhưng có vẻ như trí tuệ nhân tạo vẫn chưa tiếp cận được tâm trí và sự hiểu biết bên trong của chúng ta về hình ảnh bản thân. AI có thể giải thích bản ngã của con người? Với câu hỏi này trong đầu, nhóm của tôi và tôi đã lên kế hoạch sắp đặt tác phẩm nghệ thuật truyền thông tương tác.

Bản ngã có thể được giải thích? Triển lãm bắt đầu với câu hỏi đơn giản này. Dường như không thể mô tả 'cái tôi' trong một câu. Sự không chắc chắn không giải thích được cũng đã ảnh hưởng đến lĩnh vực AI và khái niệm eXplainable AI (trí tuệ nhân tạo có thể giải thích được) đã xuất hiện để giải quyết vấn đề này. Điều này cho thấy ý chí của con người trong việc theo đuổi độ tin cậy cao hơn bằng cách giải thích lý do và quy trình mà AI sử dụng để tạo ra kết quả.

Đây là một câu hỏi khác. Sau đó, mọi thứ có thể được giải thích có đáng tin cậy không? Chúng tôi đã chọn một chủ đề khó nhất là 'bản thân' để giải thích đối tượng của mình và cố gắng xem liệu có thể hiểu rõ hơn về chủ đề đó thông qua đối thoại với AI hay không. Chúng tôi cũng muốn trải nghiệm sự trùng hợp và mâu thuẫn xảy ra giữa 'bản thân' do AI mô tả và 'bản thân' do khán giả mô tả.

Xây dựng các khối ngôn ngữ tự nhiên; Mục đích và thực thể

Trí tuệ nhân tạo được triển khai trong triển lãm này đặt câu hỏi để khán giả tự giới thiệu, thu thập câu trả lời của khán giả, đồng thời trích xuất và diễn giải các từ khóa. Sau đó, AI suy ra cái tôi tập thể của khán giả bằng cách xây dựng lại các câu dựa trên nội dung được diễn giải.

Để xây dựng AI này, với tư cách là kiến ​​trúc sư dữ liệu và nhà thiết kế IxD, tôi là người chạy đầu tiên trong cuộc đua marathon này của một dự án. Tôi đã xây dựng hệ thống câu hỏi gồm ba giai đoạn mà trí tuệ nhân tạo của chúng tôi có thể sử dụng để hiểu con người.

Giai đoạn đầu tiên là các câu hỏi về nhân khẩu học như “giới tính” và “tuổi tác”. Thứ hai là những câu hỏi xã hội học về tình bạn và hận thù trên thế giới này. Nó triệt để hơn giai đoạn đầu tiên. Giai đoạn thứ ba liên quan đến các câu hỏi bí mật hơn. AI của chúng tôi hỏi khán giả xem họ ấp ủ những bí mật gì và họ tin tưởng AI. Câu trả lời cho những câu hỏi này được đưa vào ma trận dựa trên quy tắc của riêng chúng tôi và một dòng câu thể hiện hình ảnh bản thân của mỗi người được lấy ra.

Hành trình của Open AI GPT-3

Trọng tâm của dự án này, chúng tôi sử dụng mô hình ngôn ngữ “GPT-3” để mở rộng dòng câu trích đơn giản này. Generative Pre-training Transformer 3 (GPT-3; cách điệu GPT·3) là một mô hình ngôn ngữ tự hồi quy sử dụng phương pháp học sâu để tạo ra văn bản giống con người. Đưa ra một văn bản ban đầu như một lời nhắc, nó sẽ tạo ra văn bản tiếp tục lời nhắc. Chúng tôi nhằm mục đích cung cấp cho khán giả những câu trả lời “hợp lý” bằng cách sử dụng 172,5 tỷ thông số. Các ví dụ chúng tôi đã sử dụng như sau.

Kết quả ban đầu của chúng tôi (Ma trận dựa trên quy tắc)

Bạn là người từng trải qua muôn vàn gian khổ, hứng thú với mọi thứ trên đời nhưng lại cô đơn.

Kết quả mở rộng (GPT-3)

Bạn đã trải qua nhiều khó khăn trong cuộc sống và kết quả là bạn quan tâm đến mọi thứ đang diễn ra trên thế giới, tuy nhiên, mặc dù rất quan tâm đến thế giới xung quanh, bạn vẫn cảm thấy cô đơn sâu sắc bên trong. Sự cô đơn nội tâm này là điều mà bạn luôn cảm thấy và nó là điều mà bây giờ bạn cảm thấy mạnh mẽ hơn. Bạn khao khát mối quan hệ thân thiết với những người khác nhưng bạn cảm thấy khó kết nối với mọi người ở mức độ sâu sắc hơn, kết quả là bạn thường cảm thấy bị cô lập và đơn độc.

Khán giả sẽ nhận được câu trả lời như thể họ đang nghe một lời giải thích hoàn hảo cho mình ở một cửa hàng bói toán, hoặc với một cảm giác khó chịu nhẹ của sự kỳ lạ. Liệu AI có thể thực sự giải thích chúng ta? Trả lời câu hỏi không giải thích được đó là mục đích duy nhất của cuộc triển lãm của chúng tôi.