인간 중심 설명 가능 AI(XAI)란 무엇입니까?

설명 가능한 AI(XAI) 또는 해석 가능한 AI는 인간이 의사 결정과 예측을 이해할 수 있는 인공 지능(AI)입니다. 이는 설계자조차 AI가 특정 결정에 도달한 이유를 설명할 수 없는 기계 학습의 "블랙 박스" 개념과 대조됩니다. AI c는 크게 객관적 AI와 주관적 AI의 두 가지 범주로 나눌 수 있습니다. 내 논의 주제인 XAI는 후자에 속합니다. 내 미디어 작품 'eXplainable Human'의 주요 핵심 기술인 Objective AI보다 훨씬 발전된 AI 버전입니다.

주관적인 AI는 설명 가능성을 요구합니다.

우리 사회가 복잡해지면서 금융, 보험, 의료 분야에서도 고객의 신뢰를 바탕으로 개인정보와 자산을 다루기 시작했습니다. 단순히 이미지를 분류하거나 숫자를 예측하는 것을 넘어 이제 "명확한 판단"을 위한 AI가 만들어지고 있습니다. 이에 공정성, 신뢰성, 정확성을 확보하기 위한 AI와 알고리즘 개발이 필요하다. 즉, AI 시스템에서 생성된 결과 도출의 근거와 도출 과정의 타당성을 확인할 필요가 있다.

XAI를 사용한 eXplainable Human

프로젝트 요약

금융, 의료, 교육 등 많은 전문 분야에 인공지능이 도입되고 있지만, 인공지능은 아직 우리의 내면과 자아상에 대한 이해에 도달하지 못한 것 같습니다. AI는 인간의 자아를 설명할 수 있을까? 이 질문을 염두에 두고 우리 팀은 인터랙티브 미디어 아트워크 설치를 계획했습니다.

에고를 설명할 수 있습니까? 전시는 이 단순한 질문에서 시작되었습니다. '나'를 한 문장으로 표현하는 것은 불가능해 보인다. 설명할 수 없는 불확실성은 AI 분야에도 영향을 미쳤고, 이 문제를 해결하기 위해 eXplainable AI(설명할 수 있는 인공 지능)라는 개념이 등장했습니다. 이는 AI가 결과를 내기 위해 사용하는 이유와 과정을 설명함으로써 더 많은 신뢰를 추구하려는 인간의 의지를 보여준다.

여기 또 다른 질문이 있습니다. 그렇다면 설명할 수 있는 것은 모두 믿을 만한 것인가? 객체 설명으로 가장 어려운 '자아' 주제를 선택하고 AI와의 대화를 통해 더 잘 이해할 수 있는지 확인하려고 했습니다. 또한 AI가 묘사하는 '자기'와 관객이 묘사하는 '자기' 사이에서 발생하는 우연과 갈등을 경험해보고자 한다.

자연어 블록 구축 의도 및 엔터티

이번 전시에 구현된 AI는 관객에게 자기소개를 위해 질문을 하고 관객의 답변을 수집하며 키워드를 추출하고 해석한다. 이후 AI는 해석된 내용을 바탕으로 문장을 재구성해 관객의 집단적 자아를 추론한다.

이 AI를 구축하기 위해 데이터 설계자이자 IxD 디자이너로서 저는 이 프로젝트의 마라톤에서 첫 번째 주자가 되었습니다. AI가 사람을 이해하는 데 사용할 수 있는 3단계 질문 시스템을 구성했습니다.

첫 번째 단계는 "성별" 및 "연령"과 같은 인구통계학적 질문입니다. 두 번째는 이 세상의 우정과 증오에 대한 사회학적 질문이다. 첫 번째 단계보다 더 급진적입니다. 세 번째 단계에는 더 많은 기밀 질문이 포함됩니다. AI는 청중에게 어떤 비밀을 소중히 여기고 AI를 신뢰하는지 묻습니다. 이러한 질문에 대한 답은 우리만의 규칙 기반 매트릭스에 통합되어 각 사람의 자아상을 표현하는 한 줄의 문장이 도출됩니다.

Open AI GPT-3의 여정

이 프로젝트의 핵심은 "GPT-3" 언어 모델을 사용하여 이 간단한 추출된 문장 라인을 확장하는 것입니다. Generative Pre-trained Transformer 3(GPT-3; stylized GPT·3)은 인간과 유사한 텍스트를 생성하기 위해 딥 러닝을 사용하는 자동 회귀 언어 모델입니다. 초기 텍스트를 프롬프트로 지정하면 프롬프트를 계속하는 텍스트를 생성합니다. 1,725억 개의 매개 변수를 사용하여 청중에게 "합리적인" 답변을 제공하는 것을 목표로 했습니다. 우리가 사용한 예는 다음과 같습니다.

원래 결과(규칙 기반 매트릭스)

당신은 많은 고난을 겪었고 세상의 모든 것에 관심이 있지만 외로운 사람입니다.

확장된 결과(GPT-3)

당신은 인생에서 많은 어려움을 겪었고 그 결과 세상에서 일어나는 모든 일에 관심이 있지만 주변 세상에 대한 예리한 관심에도 불구하고 깊은 외로움을 느낍니다. 이 내면의 외로움은 당신이 항상 느껴왔던 것이고 지금 당신이 더욱 강하게 느끼는 것입니다. 당신은 다른 사람들과 친밀한 관계를 갈망하지만 종종 고립되고 외롭다고 느끼기 때문에 더 깊은 수준의 사람들과 연결하는 것이 어렵다는 것을 알게 됩니다.

관객은 마치 점쟁이에서 스스로 완벽한 설명을 듣는 것처럼, 혹은 약간의 불쾌함과 함께 답을 듣게 될 것이다. AI가 정말 우리를 설명할 수 있을까요? 그 설명할 수 없는 질문에 답하는 것이 우리 전시의 유일한 목적이었다.