우리는 봇을 이길 것이다

Feb 21 2023

ChatGPT에 대해 어떤 반응을 보셨나요? 조심스럽게 이 새로운 기술에 발을 담그고 있을 때 제가 할 수 있는 최선은 질문을 하는 것입니다. 여기에서는 탐색 프로세스를 부분적으로 문서화하고 있습니다.

DALLE-E를 사용하여 만든 초현실주의 이미지: AI에 대해 걱정하는 인간과 교실에서 음악, 문학, 과학 기술을 과시하는 앵무새를 묘사합니다. (DALL-E는 Salvador Dali와 WALL-E에서 이름을 따왔습니다.)

ChatGPT에 대해 어떤 반응을 보셨나요?

두 팔을 휘두르며 “AI가 여기 있다. AI가 여기 있습니다.”
“인간이 된다는 것은 무엇을 의미합니까? 내가 할 수 있는 일을 기계가 할 수 있다면 무슨 소용이 있겠습니까?”
"사용하자!"
“피하십시오. 사실, 금지하십시오. 아니면 최소한 제어할 수도 있습니다.”
“저는 자존감이 좀 있어요. 나는 그것을 사용하지 않습니다!”
“또 다른 유행일 뿐입니다. 지나갈거야.”

조심스럽게 이 새로운 기술에 발을 담그고 있을 때 제가 할 수 있는 최선은 질문을 하는 것입니다. 여기에서는 탐색 프로세스를 부분적으로 문서화하고 있습니다. 글을 쓰면서 배우고, 배우면서 글을 씁니다.

이 주제에 대한 정보, 아이디어, 생각 및 의견(대부분 인간이 생성한)의 바다가 있으며 더 많은 질문이나 답변을 알려주시면 기쁩니다.

질문 1: AI를 잘 활용할 수 있으려면 어떤 문해력을 개발해야 합니까?

인간 중심 AI 연구자 두리롱에 따르면,

“AI 리터러시는 개인이 AI 기술을 비판적으로 평가하고, AI와 효과적으로 소통하고 협업하며, 온라인, 가정 및 직장에서 AI를 도구로 사용할 수 있게 해주는 일련의 역량입니다.”

그녀는 AI 리터러시를 다섯 가지 높은 수준의 질문으로 나눕니다.

인공 지능이란 무엇입니까?
AI는 무엇을 할 수 있습니까?
AI는 어떻게 작동합니까?
사람들은 AI를 어떻게 인식할까요?

AI 리터러시 개발을 위해 제가 공부하고 있는 내용은 다음과 같습니다.

AI 기술을 최대한 활용하기 위해 프롬프트 엔지니어링은 탐색할 가치가 있는 분야입니다. 사실, 빠른 공유는 곧 일이 될 것이라고 생각합니다.

프롬프트 엔지니어링이 예술입니까? AI 기반 도구와 대화하여 원하는 작업을 수행하도록 하는 과학 입니다 . 프롬프트는 기본에서 고급까지 다양합니다. 고급 프롬프팅을 배우면 도움이 될 것입니다.

기본 프롬프트의 예는 '당신은 커리큘럼 설계자입니다.'와 같은 말을 통해 AI 도구에 역할을 할당하는 역할 프롬프트 입니다. 또는 질문 끝에 '차근차근 생각해보자'를 추가하여 AI에게 단계별로 생각하도록 요청하는 Zero Shot Chain of Thought 프롬프트에서 AI의 생각을 설명합니다.

Prompt Engineering은 제가 한 달 전까지만 해도 눈이 멀었던 분야입니다. 그러나 진화는 우리 인간을 관련성 있게 유지할 것입니다. 그래서 여기 제가 수강하는 과정에 대한 링크가 있습니다.https://learnprompting.org/docs/intro

Prompt Engineering 과정의 스크린샷

정보에 입각한 AI를 사용하려면 작동 방식을 이해하는 것이 중요합니다.

AI의 작동 방식을 알면 AI의 한계를 이해할 수 있습니다. 예를 들어, AI에 대한 어떤 대화에서 "AI는 진실성에 대한 감각이 없다" 또는 "그냥 단어 예측 기계일 뿐"이라는 말을 자주 듣습니다. ChatGPT는 지능적이지 않으며 이를 해석하여 출력에 의미를 부여합니다. 이 정도만 알면 출력을 주의해서 살펴봐야 합니다. 따라서 AI의 기능과 고유한 한계에 대해 배우는 것이 중요합니다.

Dr Long에 따르면 AI는 인지 과학, 기계 학습 및 로봇 공학을 포괄하는 방대한 분야입니다. 저는 현재 NLP(자연어 처리)가 무엇인지, LLM(Large Language Models)이 무엇인지, 어떻게 작동하는지, 그리고 이 모든 일이 발생했을 때 어떤 암석 아래서 살았는지와 같은 질문의 끝에서 이 야수를 파악하고 있습니다. 내 주변에서 발전?

Stephen Wolfram의 기사 "ChatGPT는 무엇을 하고 … 왜 작동합니까?" 아주 기초부터 시작하는 포괄적인 읽기입니다. 노트를 적고 개략도를 그리기 위해 펜과 종이를 손에 들고 이 기사를 읽는 것이 좋습니다. 첫 번째 읽기에서 나는 모호한 아이디어를 수집했습니다.https://writings.stephenwolfram.com/2023/02/what-is-chatgpt-doing-and-why-does-it-work/

AI 기술에 대한 윤리적 우려에 대한 인식은 교육적 사용을 향한 핵심 단계일 수 있습니다.

"확률적 앵무새의 위험: 언어 모델이 너무 클 수 있습니까?" 데이터 편향 , 형평성 , 환경적 영향 등 AI에 대한 윤리적 질문을 제기하는 논문입니다 . ChatGPT(GPT-3까지 포함)에 관한 것은 아니지만 제기된 우려는 ChatGPT 및 기타 AI 도구와 관련이 있습니다.

질문 2: 이러한 언어 모델(LM)은 어떤 종류의 데이터에 대해 교육을 받고 있으며 이 데이터를 어디에서 소싱합니까? 이 데이터의 한계는 무엇입니까?

매우 기본적인 수준에서 저는 ChatGPT가 인터넷에서 사용할 수 있는 사람이 생성한 데이터로 구성된 WebText라는 데이터 모음을 활용한다는 것을 이해합니다. 또한 WebText는 특정 시간에 인터넷에서 사용할 수 있는 데이터의 스냅샷인 정적 데이터베이스입니다. ChatGPT 훈련 데이터가 2021년으로 제한된다는 점은 주목할 가치가 있습니다.

ChatGPT 스크린샷

예를 들어, 저는 ChatGPT에 최근 터키와 시리아에서 일어난 지진에 대해 물었고 그것은 2020년에 발생한 또 다른 지진을 언급하고 있습니다. 뒤따르는 일반적인 응답은 오늘날의 시나리오에서도 그럴듯하며 우리가 콘텐츠에 의미를 부여하는 방법도 보여줍니다.

ChatGPT 스크린샷

"확률적 앵무새의 위험성"에서 저자는 사회적 관점이 변화하는 세상에서 정적 데이터의 피해에 대해 경고합니다. 그들은 ChatGPT와 같은 도구로 생성된 내러티브에 최신 사회 운동이 나타나지 않을 것이라고 말합니다.

질문 3: 언어 모델(LM)에는 어떤 편향이 있습니까? 콘텐츠를 어떻게 필터링합니까?

인터넷은 우리 사회 전체를 대표하지 않습니다. 액세스 불평등, 소셜 미디어 사이트에 의한 적극적인 목소리 억제, 언어 장벽 등으로 어려움을 겪고 있습니다. 이로 인해 ChatGPT와 같은 도구를 교육하는 데 사용되는 데이터 세트에 편향이 생길 수 있습니다. 그리고 "확률적 앵무새의 위험: 언어 모델이 너무 클 수 있습니까?"라는 논문의 저자는 데이터 세트가 잠재적으로 소외된 인구에 대한 편향을 인코딩할 수 있음을 확인합니다.

"데이터 세트가 헤게모니적 관점을 과도하게 나타낼 수 있고 소외된 인구에 잠재적으로 피해를 줄 수 있는 편견을 인코딩할 수 있는 위험이 있습니다..."

그들은 언어 모델이 자연어 이해(NLU)를 수행하지 않고 대부분 언어 형식만 조작한다고 말합니다. 이것은 표면적으로 무해해 보이지만 우리 인간은 필연적으로 합성 텍스트를 의미 있는 것으로 간주하기 때문에 해로울 수 있습니다.

데이터가 우리에게 편향된 콘텐츠를 던진다면 우리가 그것을 어떻게 처리할지 누가 알겠습니까? 우리는 어떤 체크포인트를 놓을 것입니까?

질문 4: AI 엔진이 내 프롬프트의 결과로 생성한 콘텐츠는 합법적으로 채굴된 것인가요 아니면 ChatGPT에 속한 것인가요? 모두가 AI 도구를 사용하여 글을 쓰는 세상에서 저작권 문제는 어떻게 될까요?

질문 5: 반대로, 우리가 생성한 콘텐츠가 AI 데이터 세트에서 사용되는 것을 방지하는 활성 옵션이 있는 다른 유형의 저작권을 생각해 내야 하지 않을까요? 그리고 그러한 규칙이 현장에 어떤 영향을 미칠까요?

이 질문을 ChatGPT에 붙여넣어 내용을 확인했지만 이 질문에 대한 답변의 시작 부분이 없습니다. 이에 대해 더 자세히 읽으면 기쁠 것이므로 모든 리소스를 환영합니다.

질문 6: 무엇? 이러한 딥 러닝 시스템을 실행하는 것이 환경에 상당한 영향을 미칩니까?

분명히 이러한 시스템을 실행하는 것은 환경에 미치는 영향이 있으며 이는 중요합니다. 마가렛 미첼(Margaret Mitchell)*과 그들의 논문에서 다른 연구자들은 이 사실을 언급하고 소외된 사회가 그러한 혁신으로부터 거의 혜택을 받지 못하지만 높은 환경 비용을 지불한다고 말합니다.

확률론적 앵무새의 위험: 언어 모델이 너무 클 수 있습니까?: 평균적인 인간은 연간 약 5t CO2e에 대한 책임이 있지만 저자 Strubell et. 알. 신경 구조 검색으로 Transformer(대형) 모델을 훈련시켰고 훈련 절차가 284t의 CO2e를 배출했다고 추정했습니다.

질문 7: 이러한 AI 기반 도구는 어떤 종류의 형평성 문제로 이어지나요?

ChatGPT와 같은 도구는 이미 페이월 뒤에 있습니다. 문해력 부족, 컴퓨터 장치/인터넷에 대한 불평등한 액세스, 디지털 문해력으로 인한 기존 격차는 이러한 기술에 의해 악화될 뿐입니다.

질문 8: AI 도구는 학습 데이터 생성 및 분석에 어떤 영향을 미칩니까? 질적 데이터 연구는 어떤 종류의 부스트를 얻을 수 있습니까?

학습 분석의 공간을 지켜보고 무엇이 나타나는지 보는 것은 흥미로울 것입니다.

개인적인 차원에서 우리는 직장에서 전통적인 MOOC를 운영하면서 질적 데이터를 코드화하고 응답을 수동으로 분류하여 데이터를 분석합니다. 코드와 예제를 ChatGPT에 제공하고 분류된 데이터를 검색할 수 있습니다. 이러한 도구가 어떻게 이와 같은 프로세스를 변경하고 우리가 묻는 질문도 변경할 수 있는지 궁금할 수 없습니다.

질문 9: 대부분의 교육 설계자, 교사 및 대학이 걱정하는 주제로 이동하여 ChatGPT가 교육에 어떤 영향을 미칠까요?

이것은 신중한 분석이 필요한 방대한 가능성을 가진 광범위한 질문이지만 가장 먼저 염두에 두어야 할 몇 가지 좁은 질문은 다음과 같습니다.

ChatGPT는 평가에 어떤 영향을 미칩니까?
학생들이 "속임수"를 하면 어떻게 합니까? 학생들이 사용하지 못하도록 AI 탐지 소프트웨어를 사용해야 합니까?
보다 개인화된 학습 도움을 위해 AI 기반 도구를 어떻게 활용할 수 있습니까?
AI 기반 도구를 사용하면 처음부터 과정을 생성할 필요가 없습니까?
AI 기반 도구를 사용하면 비판적으로 생각할 필요가 없습니까?

평가 질문

평가를 처리하기 위해 많은 전략이 나타날 것이라고 확신합니다. 여기 내가 특히 좋아하는 것이 있습니다. Aneesha Bakharia 박사는 올바른 콘텐츠를 생성하기 위한 적절한 프롬프트를 제시하려면 지식, 추론 기술 및 프롬프트 기술이 필요하다고 말합니다. 따라서 학생들에게 AI 프롬프트 기록을 공유하도록 요청하는 것이 한 가지 접근 방식입니다. 그녀는 또한 AI 프롬프트 기록을 추적, 저장 및 공유하기 위한 이 도구를 공유했습니다.https://sharegpt.com/

학생들이 이러한 AI 관련 도구 사용을 수락함에 있어 어떤 권리를 포기할지 모르겠습니다. 따라서 다른 기술 도구와 마찬가지로 많은 교육자들이 이러한 기술을 정규 수업에 통합하기 시작하면서 탐구하게 될 질문이 될 것이라고 생각합니다.

부정 행위 질문

몇몇 회의에서 나는 Bakharia 박사가 이 질문에 대해 두 가지 매우 흥미로운 점을 제시하는 것을 들었습니다. 그녀는 부정 행위가 학생들이 AI를 사용하여 답변을 작성하는 것을 의미하는 것이 아니라 미리 생성된 프롬프트를 사용하여 답변을 생성하는 것을 의미한다고 말합니다. 그것은 AI 렌즈에서 부정 행위를보고 있습니다.

그녀가 말하는 또 다른 요점은 기술로 기술을 이길 수 없다는 것입니다. 교사들은 AI가 생성한 텍스트를 식별하는 도구를 사용하는 것에 대해 이야기하고 있습니다. 그러나 학생들은 이미 AI 감지 소프트웨어를 능가하기 위해 AI가 만든 텍스트를 의역하는 도구를 사용하고 있습니다. 따라서 이 쫓고 쫓기는 추격전은 잘 끝나지 않을 것입니다.

아이디어는 학생을 믿고, 본질적인 동기 부여를 위해 가르치고, 교육에 AI 기술을 통합하는 것입니다.

개인화 질문

AI 도구가 궁극적인 업무 지원 가이드가 될 것이라고 생각합니다. Microsoft는 Teams에 AI를 통합하려고 합니다. 우리는 아마도 우리를 촉구하고 지시할 작업 흐름에 AI를 갖게 될 것입니다(비록 오늘날 기업이 기술을 사용하는 데 있어 데이터 보안/개인 정보 보호/저작권 문제가 높을 수 있음).

그러나 문제는 AI가 온라인 학습을 방해하여 기존의 교사 중심 모델에서 벗어나게 할 것인가, 아니면 전통적인 교육 모델에 도움이 될 것인가입니다.

예를 들어, 전통적인 MOOC 공간에서 토론 포럼을 조사하는 동안 강사가 토론 포럼에서 발생하는 채팅에 응답할 필요가 없도록 설계되고 있음을 알았습니다. 학습자는 사전 녹화된 비디오, 사전 작성된 솔루션 또는 일반적인 피드백 형식을 통해 서로 상호 작용하고 "이상적인" 응답을 받습니다. 기존의 선형 MOOC에서 AI를 통해 범위를 확장할 수 있습니까?

중복 질문

AI는 확실히 온라인 과정 설계 프로세스를 지원할 것입니다. 교육 설계자를 중복되게 만들지는 않지만 콘텐츠 생성이 AI의 도움을 받을 것이므로 보다 중요한 학습자 중심 설계를 수행할 시간을 확보할 수 있습니다. 확실하지 않지만 어쨌든 내 추측입니다.

다음은 ChatGPT가 주제 전문가, 학습 설계자 및 프로그래머( Liascript 사용 )의 역할을 수행하여 탐색, 검색 기능 및 상호 작용을 포함하는 과정을 생성하도록 한 Aneesha Bakharia 박사의 놀라운 예입니다. 결과는 다음과 같습니다.https://liascript.github.io/course/?https://raw.githubusercontent.com/aneesha/chatgpt_grammar_course/main/README.md

비판적 사고 질문

검색 엔진은 인간 존재의 역사에서 전례 없는 것을 우리에게 제공했습니다. 그들은 우리에게 데이터 소스를 검색하고, 걸러내고, 신뢰할 수 있는 소스를 식별하고, 전 세계 현장의 동료들과 연결하고, 다양한 사고 과정을 경청하고, 새로운 정보를 동화하거나 새로운 지식을 형성할 수 있는 능력을 제공했습니다. 주제. 표면적으로는 AI 기반 도구가 요리된 음식을 제공하고 이 탐색 프로세스의 필요성을 제거하는 것처럼 보입니다. 어느 정도는 사실일 수 있지만 도구가 인간의 선택 의지 없이는 너무 멀리 가지 않을 것이라고 생각합니다. 우리가 이 기술을 잘 사용하려면 탐구하고, 배우고, 연구하고, 기술과 다시 상호 작용해야 합니다.

임의 검색, 탐색 및 동료와의 대화 — Daniel Pink가 "아이디어의 충돌"이라고 부르는 유형의 연구는 창의적인 결과물에 필수적입니다. 따라서 우리는 AI 기반 도구를 사용하여 이러한 도구가 내뿜는 사고 패턴이나 아이디어의 구조화에 우리 자신을 적극적으로 가두지 않는 방식으로 사용해야 한다고 생각합니다. 우리가 주의 깊게 계속 해야 할 적극적인 연습이 될 것입니다 .

질문 10: Chat GPT, DALL-E는 제가 지금까지 탐색한 두 가지 도구입니다. 탐색을 시작할 수 있는 다른 AI 도구는 무엇입니까?

다음 단계

사람들이 ChatGPT(AI 기반 도구)에 대한 Dunning Kruger 효과 그래프를 만들었는데 , 이 게시물을 통해 무심코 지나쳤나 봅니다.

ChatGPT를 학습 디자인에 사용할 수 있는 방법을 탐색하는 것이 내 목록의 다음 항목이 될 것입니다. 물론 그러기 위해서는 더 고급 프롬프트 기술도 배워야 하며, 아마도 다른 게시물에서 문서화할 것입니다.

대체로 우리는 계속 노력하고 함께 일하는 한 여전히 기계의 주인이 될 것입니다. 따라서 이러한 질문을 수정하고 답변을 찾고 흥미로운 리소스를 공유하여 주제에 대한 추가 질문을 개발할 수 있도록 도와주세요. 함께, 우리는 봇을 이길 것입니다!