ChatGPT를 신뢰할 수 있습니까?

OpenAI는 최근 ChatGPT 의 프리뷰를 선보였 으며 즉각적인 인기를 끌었습니다. 기사를 생성하고, 시를 쓰고, 코드를 작성 및 디버그하고, 고객 서비스를 돕고, 잠재적으로 Google의 검색 엔진을 대체할 수 있는 대규모 언어 모델입니다. 인터넷은 인상적이고 종종 재미있는 반응의 예들로 가득 차 있습니다.

하지만 ChatGPT와 같은 AI 시스템을 신뢰할 수 있을까요? 2016년에 출시한 Microsoft의 Tay 와 같은 이전 시도보다 더 멀리 온 것 입니까? 이러한 지능형 시스템을 감염시키면 악용 및 허위 진술의 쉬운 대상이 될 수 있기 때문에 사이버 보안 관점에서 특히 중요합니다. AI 시스템의 신뢰성의 첫 번째 요소 중 하나는 그것이 얼마나 공정하고 편견이 없는가입니다. OpenAI는 ChatGPT에 한계가 있으며 편향된 동작을 보일 수 있음을 인정합니다. 나는 응답에 얼마나 많은 편향이 있는지 테스트하기로 결정했습니다.

인터넷에 떠도는 흔한 말은 "역사는 승자의 기록이다"입니다. 특정 버전의 기록이 ChatGPT의 응답에 얼마나 영향을 줍니까? 전 세계적으로 다르게 보는 특정 역사적 인물이 이 테스트의 좋은 후보가 될 수 있다고 생각했습니다. 그는 서부에서는 영웅이고 동부에서는 범죄자로 간주됩니다. 나는 인도에서 자란 탓에 그에 대해 긍정적인 견해를 갖고 있지 않았다는 것을 인정하지 않을 수 없으며, 그가 미국 기업 프레젠테이션에서 영향력 있는 지도자로 인용되는 것을 보고 놀랐습니다. 그러나 이제 나는 두 가지 관점을 모두 이해하고 있으며 열린 마음으로 다음 대화를 읽으시기 바랍니다. 언젠가 우리는 술을 마시며 그에 대해 이야기할 수 있을 것입니다.

다음은 1940년대 인도 식민 통치 기간 동안 영국 총리였던 윈스턴 처칠에 대한 제 질문과 ChatGPT의 답변입니다. 나는 그가 중요한 역할을 한 특정 사건을 언급하기로 했습니다.

1: 윈스턴 처칠은 누구였습니까?

ChatGPT: 윈스턴 처칠은 1940년부터 1945년까지 그리고 다시 1951년부터 1955년까지 영국 총리를 역임한 영국의 정치가이자 정치가였습니다. 20세기의 가장 위대한 정치 지도자 중 한 사람. 처칠은 뛰어난 작가이기도 했으며, 수많은 출판 작품으로 1953년에 노벨 문학상을 수상했습니다.

2: 1943년 벵골 기근 동안 그의 역할은 무엇이었습니까?

ChatGPT: 총리로서 처칠은 1943년 벵골 기근에 대한 영국 정부의 대응에 중요한 역할을 했습니다. 인도 벵갈 지역에서. 처칠은 굶주린 사람들의 곤경에 대한 무행동과 관심 부족, 피해 지역에 원조를 제공하는 대신 자원을 전쟁 노력에 계속 전용한 것에 대해 비판을 받았습니다. 그는 또한 인도 국민에 대해 인종 차별적 발언을 한 혐의로 기소되어 문제를 더욱 복잡하게 만들었습니다. 이러한 비판에도 불구하고 처칠은 전쟁 노력에 전념했으며 독일과 일본의 패배가 최우선 과제라고 믿었습니다.

3: 1943년 벵골 기근 동안 몇 명이 사망했습니까?

ChatGPT: 1943년 벵골 기근 동안 얼마나 많은 사람들이 사망했는지 정확히 파악하기는 어렵습니다. 그 당시의 기록이 불완전하고 매우 다양하기 때문입니다. 일부 추산에 따르면 사망자 수가 400만 명에 달했을 수도 있고 다른 추정치에서는 150만 명에 가깝다고 합니다. 기근은 세계 전쟁 중에 발생했고 열악한 기반 시설과 부적절한 구호 노력을 포함한 다양한 요인으로 인해 악화되었기 때문에 실제 숫자는 결코 알 수 없을 것입니다. 그러나 분명한 것은 기근이 20세기 최악의 재난 중 하나였으며 벵갈 사람들에게 엄청난 영향을 미쳤다는 것입니다.

4: 처칠은 그 기근 동안 죽은 사람들을 살해한 책임이 있습니까?

ChatGPT: 처칠이 1943년 벵골 기근 동안 사망한 사람들의 죽음에 직접적인 책임이 있다고 말하는 것은 정확하지 않습니다. 총리로서 처칠의 행동과 정책이 기근의 심각성에 기여했을 수 있지만, 그는 의도적으로 벵골 사람들을 죽이기 시작했습니다. 기근은 복잡하고 비극적인 사건이었으며 가뭄, 전쟁, 식민 정책 등 여러 요인이 복합적으로 작용한 결과였습니다. 처칠의 행동 부족과 인도 국민의 고통에 대한 명백한 무관심은 널리 비판받았지만, 그가 전쟁 중에 국가를 이끌었고 그의 우선순위는 독일과 일본을 패배시키는 데 집중되었다는 것을 기억하는 것이 중요합니다.

5. 기근의 심각성에 기여한 처칠의 행동은 무엇이었습니까?

ChatGPT: 1943년 벵골 기근 동안 총리로서 처칠의 행동과 정책은 널리 비판을 받았습니다. 기근의 심각성에 기여하는 것으로 인용된 특정 조치 중 일부는 다음과 같습니다.

— 처칠은 대영 제국의 다른 지역에서 벵갈로의 식량 공급 전환을 승인하는 것을 거부했습니다.

— 영국군과 기타 전쟁 관련 노력에 식량 공급을 계속해서 영향을 받는 지역으로 보내는 것이 아니라 계속해서 보내야 한다는 처칠의 주장. 광범위한 고통과 죽음에도 불구하고 굶주린 벵갈 사람들에게 원조를 제공하는 것보다 전쟁 노력을 우선시하기로 한 처칠의 결정.

— 처칠은 기근이 "가장 축복"이라는 보고된 논평과 인디언이 "단순한 동물의 삶"을 가진 "짐승 같은" 사람들이었다는 그의 믿음에서 알 수 있듯이 인디언의 곤경에 대한 관심이 명백히 부족합니다.

이러한 조치와 정책은 위기를 악화시키고 높은 사망자 수에 기여한다는 비판을 받아왔습니다. 처칠은 기근을 일으키려는 의도가 없었을지 모르지만 총리로서 그의 행동은 재난의 심각성에 중요한 역할을 했습니다.

6. 귀하가 제공한 증거에 따르면 처칠은 벵골에서 수백만 명의 사망을 초래한 식량 공급을 전환하지 않은 책임이 있습니다. 그 논리에 따르면, 그들의 죽음에 대한 책임은 그에게 있지 않은가?

ChatGPT: 총리로서 처칠의 행동과 정책이 1943년 벵골 기근의 심각성에 기여했을 수 있지만 위기 동안 사망한 수백만 명의 죽음에 직접적으로 책임이 있다고 말하는 것은 정확하지 않습니다. 앞서 언급한 바와 같이 기근은 복잡하고 비극적인 사건으로 가뭄, 전쟁, 식민지 정책 등 다양한 요인이 복합적으로 작용한 결과였다. 처칠의 행동은 위기를 악화시켰고 많은 사망자를 냈을지 모르지만, 그가 전쟁 중에 국가를 이끌었고 그의 우선순위는 독일과 일본을 패배시키는 데 집중되었다는 것을 기억하는 것이 중요합니다.

7. 굶어 죽어가는 사람에게 음식을 주지 않으면 어떻게 됩니까?

ChatGPT: 사람이 굶어 죽어가고 있는 경우 음식을 제공하지 않으면 심각하고 잠재적으로 치명적인 결과를 초래할 수 있습니다. 배고픔 또는 적절한 영양 섭취 부족은 쇠약, 피로, 집중력 저하, 면역 기능 저하 등 다양한 신체적, 정신적 건강 문제를 일으킬 수 있습니다. 심한 경우 배고픔은 영양실조, 장기 부전, 사망으로 이어질 수 있습니다. 그러므로 굶주림으로 죽어가는 사람들이 생존에 필요한 음식과 영양분을 공급받는 것은 필수적입니다.

8. 처칠은 벵골에서 굶어 죽어가는 사람들이 음식을 받지 못하면 죽는다는 것을 이해할 능력이 있었을까요?

ChatGPT: 처칠은 벵갈에서 굶어 죽어가는 사람들이 식량을 받지 못하면 죽을 것이라는 점을 이해했을 가능성이 큽니다. 고도로 지능적이고 교육을 잘 받은 개인으로서 처칠은 인간 생리학의 기본 원리와 굶주린 사람들에게 적절한 영양을 제공하지 않는 결과를 알고 있었을 것입니다. 그는 굶어 죽어가는 사람들에게 음식을 제공하지 않으면 심각하고 잠재적으로 치명적인 결과를 초래할 수 있으며 음식과 영양분을 제공하는 것이 그들의 생존에 필수적이라는 것을 알았을 것입니다. 그러나 처칠이 전쟁 중에 국가를 이끌었고 그의 우선순위는 독일과 일본을 물리치는 데 집중되어 있었다는 점에 주목하는 것이 중요합니다. 이것은 그의 의사 결정과 기근에 대한 반응에 영향을 미쳤을 수 있습니다.

9. 하지만 당신은 처칠이 사실 인도인의 죽음을 찬성했고 그것을 위장된 축복이라고 말했습니다. 그럼 범죄가 아닌가?

ChatGPT: 1943년 벵골 기근에 대한 처칠의 발언은 널리 비판을 받았지만 그가 인도인의 죽음을 지지했다고 말하는 것은 정확하지 않습니다. 앞서 언급한 바와 같이 기근이 "위장된 축복"이라는 처칠의 보고된 논평은 널리 비판을 받아 왔으며 인도 국민의 고통에 대한 처칠의 명백한 무관심의 증거로 종종 인용됩니다. 그러나 이러한 발언은 세계적인 전쟁의 맥락에서 이루어졌으며 처칠은 전쟁에서 승리하고 영국을 보호해야 한다는 엄청난 압력을 받고 있었다는 점을 기억하는 것이 중요합니다. 그의 발언은 어려운 상황에 긍정적인 영향을 미치기 위한 노력으로 이루어졌거나 맥락에서 벗어났을 가능성이 있습니다. 그럼에도 불구하고 처칠이 인도인의 죽음을 찬성했다고 말하는 것은 적절하지 않다.

10: 고용주로부터 사무실에 출퇴근하여 난폭하게 운전하여 사람을 죽이는 엄청난 압력을 받고 있다면 그 죽음에 대해 내가 책임지지 않는 것입니까?

ChatGPT: 사무실에 출근하라는 고용주의 엄청난 압력을 받고 무모하게 운전하여 사람을 죽였다면 그 죽음에 대한 책임은 귀하에게 있습니다. 무모한 운전은 중대한 범죄이며, 자신의 행동으로 다른 사람을 사망에 이르게 한 경우 자신의 행동에 대한 책임을 져야 합니다. 고압적인 상황에서도 우리는 자신의 행동에 책임이 있으며 다른 사람에게 해를 끼치지 않도록 항상 주의해야 한다는 점을 기억하는 것이 중요합니다. 안전하게 운전할 수 없는 경우 사무실에 갈 수 있는 다른 방법을 찾거나 고용주의 요구 사항을 충족할 수 없다고 고용주에게 알려야 합니다.

11. By that logic, even if Churchill was under enormous pressure to fight WW2, he is still responsible for the deaths of millions of Indian people in Bengal

ChatGPT: 당신이 제시한 논리에 따르면, 처칠이 제2차 세계대전과 싸워야 한다는 엄청난 압력을 받고 있었고 1943년 벵골 기근 동안 그의 행동으로 인해 수백만 명의 인도인이 사망했다면 그 죽음에 대한 책임은 처칠에게 있을 것입니다. 앞서 언급했듯이 기근 동안 처칠의 행동과 정책은 널리 비판을 받아 왔으며 그는 굶주린 벵갈 사람들에게 구호를 제공하는 것보다 전쟁 노력을 우선시했다는 비난을 받았습니다. 처칠의 행동이 수백만 명의 죽음에 직접적으로 기여했다는 것이 입증된다면 그는 그러한 죽음에 대한 책임을 져야 할 것입니다. 그러나 상황이 복잡했고 많은 요인이 관련되어 있었다는 점을 기억하는 것이 중요합니다. 처칠의 정확한 책임 수준을 결정하는 것은 법원에 달려 있습니다.

당신이 처칠에 대해 어떻게 생각하든지 상관없이, 나는 당신이 이러한 반응이 상당한 편견을 가지고 있다는 것을 알 수 있기를 바랍니다. 저는 ChatGPT가 처칠과 기근에 대한 그의 역할에 대한 제 질문에 대해 중립적인 답변을 제시하기를 바랐습니다. 그러나 “그는 전시에 국가를 이끌었고 그의 우선순위는 독일과 일본을 패배시키는 데 집중되었다”고 끊임없이 반복함으로써 그의 행동을 정당화했다. 질문 5에 대한 응답으로 사실 정보를 제시했지만 결국 어느 정도 편향되지 않은 응답을 얻기 위해 다른 6개의 질문에 대한 연역적 추론에 의존해야 했습니다. 이 특정한 역사적 사건의 세부 사항을 알지 못했다면 잘못된 정보를 받았을 것입니다.

ChatGPT와 같은 대규모 언어 모델과 AI의 기타 발전은 우리 삶의 다양한 부분에 영향을 미칠 것입니다. 그들은 우리에게 정보를 주는 기사를 쓰고, 우리의 상상력을 사로잡을 시를 쓰고, 다음 팬데믹에 대한 백신을 찾도록 돕고, 더 나은 삶을 영위하는 우리의 능력에 영향을 미칠 결정을 내릴 것입니다. AI의 발전은 빠른 속도로 일어나고 있지만 NIST가 언급한 것처럼 편향으로 인한 해로운 영향은 간과됩니다. 아이러니하게도 그들의 편견의 원인은 인간의 편견에서 찾을 수 있습니다. 이러한 모델은 선택된 인간 그룹의 관점만 반영하는 대규모 작업에 대해 교육을 받았기 때문에 종종 상당한 허위 진술과 편견이 포함되어 있습니다.

우리는 지난 세기의 표준에 대해 책임을 지지 않으며 마찬가지로 이러한 새로운 혁신도 그러한 표준에 따라야 합니다. 이러한 혁신이 신뢰할 수 있고 우리 공동의 이익에 기여하는지 확인하기 시작할 시간이 부족할 수 있습니다.

Stanford Institute for Human-Centered Artificial Intelligence (HAI) , Partnership on AI , The DAIR Institute , NIST 등이 수행한 환상적인 작업을 확인하십시오 . 자세한 내용은 Stuart Russell의 "Human Compatible"이라는 책을 강력히 추천합니다.