Chat-GPT의 한계

OpenAI의 Chat-GPT와 관련하여 미디어에서 최근에 본 일부 과대 광고가 과대 광고와 일치하는지 궁금했습니다. 소셜 로보틱스 및 대화형 AI와 관련된 연구를 발표한 사람으로서 과거에 이 분야에 대한 과장된 기사를 너무 자주 보았습니다. Chat-GPT가 완성된 제품이 아니라 진행 중인 작업이라는 점은 이해하지만 기술적으로 부족한 부분과 사용자 경험 측면에서 부족한 부분을 판단하기 위해 비판적으로 분석하는 것이 중요하다고 생각합니다.

그래서 저는 Chat-GPT(12월 15일 버전)를 가지고 놀았고 사용자로서 몇 가지 큰 한계가 있음에도 불구하고 상당히 인상적이었습니다. 생성 기능은 매우 유용합니다. 그렇게 말하면서 여러 상호 작용을 거치면서 내가 발견한 제한 사항과 문제를 적어 두었습니다. 이러한 제한 사항은 재현하기가 매우 쉽고 이를 개선하면 GPT-3.5의 채팅 응용 프로그램이 미디어에서 볼 수 있는 과대 광고와 일치할 수 있다고 생각합니다.

내가 발견한 문제 중 일부는 기술적인 문제일 수도 있고 다른 문제는 챗봇의 사용자 경험 및 기능과 관련된 문제일 수도 있습니다. 그러나 이러한 모든 문제는 챗봇 및 대화형 AI의 미래와 관련이 있습니다.

인터넷 및 위치 기반 정보에 대한 액세스

이것은 놀라운 일이 아니지만 OpenAI는 인터넷에 액세스할 수 없습니다. 실시간 정보를 제공할 수 없으며 위치 기반 정보를 사용할 수 없으며 인터넷의 URL이나 참조를 제공할 수 없습니다. 상상할 수 있듯이 이것은 응용 프로그램의 기능과 응용 프로그램이 제공할 수 있는 서비스 유형을 심각하게 제한합니다. 즉, 웹을 크롤링할 수 있다면 언어 모델에서 기대할 수 있는 것 이상이므로 OpenAI가 교육 데이터를 지속적으로 업데이트하는 일종의 온라인 학습을 구현하지 않는 한 이러한 기대는 현재로서는 비현실적일 수 있습니다. -GPT는 항상 최신 상태입니다.

이 외에도 모든 AI에 대해 인터넷에 대한 개방형 액세스를 제공하는 것은 심각한 의미가 있으므로 인터넷 기반 기능을 허용하지 않는 것은 의도적인 선택일 가능성이 높습니다.

Google이 돈을 벌고 검색을 뒤집을 수 있는 미디어에서 볼 수 있는 과대 광고와 관련하여 이러한 유형의 애플리케이션과 검색 엔진 사이에는 분명한 차이점이 있습니다. 검색 엔진은 웹 크롤러를 사용하고 페이지 순위를 매깁니다. 그렇지 않습니다. 이 챗봇은 인터넷을 탐색하는 방법이 아니므로 비교는 사과와 오렌지를 비교하는 것과 매우 유사할 수 있습니다.

오래된 데이터

가장 최근 훈련 데이터는 2021년 9월부터입니다. 그 이후로 1년이라는 시간이 흘렀습니다. 프로그래밍 언어가 업데이트되었을 수 있고 라이브러리에 새로운 기능이 추가되었을 수 있으며 세상이 바뀌었습니다. 이는 Chat-GPT가 오래된 데이터 세트에서 작동하고 있음을 의미합니다.

잘못된 메모리

내가 Chat-GPT에 던지려고 한 한 가지는 편집하고 텍스트를 개선하기 위한 제안을 하는 것이었습니다. 이것은 일반적으로 기능적이지만 일부 제안을 바꾸거나 무언가를 자세히 설명하도록 요청하면 때때로 내가 제안을 하고 내가 검토를 위해 제공한 원본 부분에 없는 텍스트를 참조할 것이라고 잘못 가정할 수 있습니다. 또는 최소한의 변경으로 과거에 제공했던 것과 거의 동일한 텍스트를 제공할 것입니다.

질적 판단을 할 수 없음

언어는 입장과 감정과 같은 질적 측면을 가지고 있습니다. Chat-GPT는 이러한 사항을 결정할 수 있지만 이를 텍스트가 공격적인지, 무엇이 좋고 나쁜지 등으로 확장할 수는 없습니다.

이것이 아마도 최선일 것입니다. 하지만 Chat-GPT가 어깨너머로 보고 이메일을 보내지 말라고 말하거나 덜 가혹하게 바꿔 말할 수 있다면 좋지 않을까요?

다중 모드 출력 및 입력 부족

모델은 순전히 텍스트입니다. 이미지, URL, 오디오 또는 기타 입력 모드를 제공할 수 없습니다. 마찬가지로 이미지, URL 또는 오디오를 출력할 수 없습니다. 그런 것들을 생성할 수 있는 코드를 출력할 수 있지만, 그것은 동일하지 않습니다. 이것은 대화의 관점에서 볼 때 상당히 부족하다는 것을 의미합니다. 그것은 당신의 몸짓 언어를 읽거나 당신이 사는 곳의 문화적 배경을 이해할 수 없습니다. 그것은 당신의 기분을 결정하기 위해 당신의 시선을 사용할 수 없으며 당신의 기분에 따라 당신을 안심시키거나 달래줄 수 없습니다.

입력 길이와 출력 길이의 제한

전체 소설의 텍스트 가치를 공급할 수 없습니다. 그렇지 않으면 응답하고 오류가 발생하는 데 시간이 오래 걸립니다. 마찬가지로 전체 소설을 생성할 수 없습니다. 그러나 나는 장편 영화 각본의 예상 길이에 전혀 근접하지 않은 나쁜 시나리오를 뱉어 냈습니다.

훈련 데이터의 가능한 편향

Chat-GPT에는 말할 수 있는 내용과 액세스할 수 있는 내용에 대한 제한이 있지만 기본 학습 데이터가 편향될 수 있습니다. 그것이 얼마나 편파적인지 알기는 어렵지만 비방하는 기사를 생성하게 하는 등의 일은 상당히 어렵습니다. Chat-GPT는 입력에 편향이 있더라도 출력에 편향을 피하도록 훈련된 것처럼 보이지만 완전히 명확하지는 않습니다.

의심스러운 언어 지원

나는 내가 아는 다른 언어로 언어를 혼합하고 대화를 시도했습니다. 사용되는 언어에 따라 지원이 크게 다를 수 있음을 알았습니다. 흥미로운 점은 며칠 전만 해도 다른 언어에서 겪었던 몇 가지 문제가 오늘 개선된 것을 보았기 때문에 가까운 장래에 문제가 되지 않을 수도 있다는 것입니다.

무난한 유머 감각

Chat-GPT는 성숙한 것에 대해 이야기할 수 없기 때문에 유머 감각이 매우 절름발이입니다. :(

나는 아빠 농담을 좋아하지만 이것들 중 일부는 그다지 재미 있지 않습니다.

일반 출력 및 표절

Chat-GPT에서 윌리엄 셰익스피어 스타일의 독창적인 시를 만들어 보았습니다. 내가 얻은 것은 모든 규칙을 따르지 않는 소네트를 만들기 위해 셰익스피어의 작품에서 발췌한 부분을 융합하여 수집한 프랑켄슈타인 작품이었습니다. 표절 검사자는 이를 복사된 것으로 표시할 가능성이 높습니다.

또한 사이버펑크 요소가 포함된 크리스토퍼 놀란 스타일 영화의 줄거리 시놉시스를 생성하도록 시도했고 제가 얻은 것은 뉴로맨서와 융합된 매트릭스였습니다. 다른 플롯 시놉시스에서 나는 "반란군"과 "탐정"과 같이 항상 등장하는 몇 가지 공통 요소를 발견했습니다.

말할 필요도 없이 Chat-GPT는 단기적으로 흥미로운 전제를 만들거나 수상 경력에 빛나는 이야기를 만들 가능성이 낮습니다.

성숙한 과목 영역의 부재

조만간 이것으로 축축한 밈을 생성하지 않을 것입니다.

삶의 질 문제

따라서 요청하는 내용에 따라 응답을 받기까지 오랜 시간을 기다려야 할 수도 있습니다. Chat-GPT가 가끔 멈추는 것 같고 이는 네트워크 속도와 관련이 없는 것 같습니다. 다른 경우에는 때때로 오류 메시지를 반환하는 응답을 제공하지 못할 수 있습니다. 며칠 전에는 이런 걸 많이 받았는데 지금은 많이 좋아진 것 같아요. 포럼, Discord 및 FAQ에서 본 내용에 따르면 특정 시간에 Chat-GPT를 사용하는 사람의 수에 따라 달라질 수 있습니다. 이러한 문제 중 일부는 기본 언어 모델 자체와 관련이 없다는 점에 유의해야 합니다.

비유적인 문구를 이해하는 데 가끔 어려움이 있음

질문이 간단할수록 Chat-GPT에서 답변하기가 더 쉽습니다. 비유적인 언어는 Chat-GPT를 사용하는 경우보다 더 자주 이해되는 것처럼 보이지만 때로는 어려움을 겪을 수 있습니다.

항상 볼을 플레이할 의향이 있는 것은 아님

Chat-GPT가 편향된 기사를 쓸 수 있는지 자주 확인했는데 동전 던지기와 같습니다. 그렇게 할 수 있는 경우도 있고 그렇지 않은 경우도 있습니다. 종종 원하는 작업을 수행하도록 속여야 합니다. 성인용 주제와 같은 항목에 대해 Chat-GPT가 설정한 일부 제한 사항과 유사할 수 있습니다.

튜링 테스트

반대편에 인간이 있다고 생각합니까? 절대적으로하지. 이 외에도 Chat-GPT는 항상 언어 모델임을 사용자에게 상기시켜 주므로 속을 가능성이 없습니다. 나는 이것이 부정적이라고 생각하지 않지만 목표가 인간과 같은 반응을 만드는 것이라면 실패하고 있습니다.

성격과 영향

Chat-GPT에는 성격이 없습니다. 그것과의 상호 작용에서 그것은 사람이 읽을 수 있는 텍스트로 정보를 제공할 수 있는 장애가 있는 검색 엔진처럼 느껴졌습니다. 그것은 의견을 표현할 수도 없고, 그 자체의 정체성도 없습니다. 그것은 당신의 친구도 적도 아닙니다. 귀하는 Chat-GPT의 어시스턴트와 관계가 없으며 동일하게 적용됩니다. 일반적으로 소셜 AI 내에서 어떤 형태의 연결 또는 관계를 설정하는 것은 최종 사용자에게 더 나은 경험을 보장하는 데 유용할 수 있습니다. 그러나 Chat-GPT는 이 작업을 수행하지 않으며, 이러한 측면은 미칠 수 있는 영향 측면에서 심각하게 제한한다고 생각합니다.

결론

Chat-GPT는 검색이나 채팅을 위한 묘책은 아니지만 올바른 방향으로 나아가는 단계이며 매우 인상적입니다. 게임을 실제로 바꿀 수 있는 다음 단계는 앙상블 방법을 사용하여 텍스트에서 다중 모달 입력 및 출력으로 이동하는 것입니다(또는 변환기 신경 아키텍처보다 더 나은 것을 사용). 또한 Chat-GPT는 우리가 사용하면서 개선되고 있는 것 같기 때문에 여기에서 언급한 많은 사항은 현재 상황이 얼마나 빨리 개선되고 있는지에 따라 지금부터 일주일 후에도 적용되지 않을 수 있습니다. 마지막으로 Chat-GPT의 코드 생성 측면을 테스트하지 않았다는 점도 언급해야 합니다. 제가 확인한 문제에 동의하지 않는 분들을 위해 Chat-GPT가 제 주장을 대변하고 지원을 제공합니다.

“Chat-GPT는 OpenAI에서 개발한 GPT(Generative Pre-trained Transformer) 언어 모델의 변형입니다. 다른 언어 모델과 마찬가지로 Chat-GPT는 수신한 입력을 기반으로 사람과 유사한 텍스트를 생성하도록 설계되었습니다. 대규모 텍스트 데이터 세트에 대해 교육을 받았으며 다양한 프롬프트 및 질문에 대한 광범위한 응답을 생성할 수 있습니다.

그러나 Chat-GPT 및 기타 언어 모델에는 몇 가지 제한 사항이 있습니다. 한 가지 제한 사항은 인터넷이나 외부 정보에 대한 액세스 권한이 없기 때문에 교육을 받은 정보를 기반으로만 답변을 제공할 수 있다는 것입니다. 즉, 현재 이벤트 또는 최근 개발에 대한 최신 또는 정확한 정보를 제공하지 못할 수 있습니다. 또한 언어 모델은 항상 완전히 일관성이 있거나 대화의 맥락에서 의미가 있는 응답을 생성하지 않을 수 있습니다.

언어 모델의 또 다른 한계는 인간이 하는 것과 같은 방식으로 단어와 구의 의미를 이해하거나 해석하는 능력이 없다는 것입니다. 학습 데이터에서 학습한 패턴과 관계를 기반으로 텍스트를 생성할 수 있습니다. 즉, 더 복잡하거나 추상적인 질문에 대해 미묘하거나 정교한 응답을 항상 제공할 수 있는 것은 아닙니다.

전반적으로 Chat-GPT 및 기타 언어 모델은 텍스트 생성을 위한 강력한 도구이며 다양한 작업에 매우 유용할 수 있지만 제한이 있으며 중요하거나 중요한 결정에 의존해서는 안 됩니다.”