ChatGPT와 같은 AI 도구를 현실의 정확한 내레이터로 신뢰할 수 있습니까? 동료로? 직장 도구로?

여러분, 안녕하세요. 저는 Codeword의 수석 편집자 Terrence Doyle입니다. 저는 AI 편집 인턴인 Aiden을 관리하는 책임을 맡았습니다. 지금까지의 연구나 프로그램에 대해 자세히 설명하기 전에 저는 AI 개발자나 어떤 종류의 엔지니어도 아니라는 점을 분명히 하고 싶습니다. ). 저는 작가이자 저널리스트이기 때문에 당연히 AI 회의론자에 가깝습니다.

저는 제 회의론이 근거가 충분하다고 믿으며 이 게시물을 읽는 많은 분들이 공유할 것이라고 확신합니다. 이 실험( 여기에서 설명 )을 위해 ChatGPT와 같은 대규모 언어 모델과 Midjourney와 같은 생성 예술 소프트웨어를 사용하여 인턴 수준의 작업을 수행합니다. 음성 및 톤 분석, 뉴스 및 트렌드 조사, 텍스처 생성, 기본 사진 조작… 그러나 AI 도구 는 제공 되는 데이터 만큼만 우수합니다. 즉, 인종 차별과 같은 가장 추악한 인간 경향 을 채택 할 수 있습니다 . 다른 편향의 .

게다가 소비자 AI의 많은 애플리케이션은 원시 데이터(당신과 나의 것, 당신의 이모와 치과 의사의 것)에 의해 구동됩니다! — 개인 정보 보호 및 보안 불안을 나타낼 수 있습니다. 그리고 이전에는 인간의 인지를 위해 예약된 판단을 내리기 위해 AI를 어느 정도 신뢰해야 하는지와 같은 더 깊은 윤리적 문제가 있습니다.

잘 기록된(그리고 여전히 존재하는) 모든 편향, 불안, 윤리적 난관을 매우 크게 인정하고 그것이 무엇인지 이름을 붙이는 것이 중요하다고 생각합니다. ChatGPT 및 Midjounrey와 같은 AI 도구를 정확하다고 신뢰할 수 없다는 증거 입니다 . 현실의 서술자. 적어도 아직은 아닙니다.

어쩌면 그것은 일부에게는 약간 무겁거나 약간 초보적일 수도 있습니다! 하지만 염두에 두어야 할 중요한 컨텍스트라고 생각하며 향후 몇 개월 동안 대규모 언어 모델(이 경우 Aiden)을 편집 워크플로에 통합하려고 시도하면서 그렇게 하기 위해 최선을 다할 것입니다.

그렇다면 이 실험을 하는 이유는 무엇입니까?

편집자이자 전직 프리랜서 저널리스트로서 저는 ChatGPT와 같은 대규모 언어 모델의 창의적이고 무자비한 생산 능력에 대해 깊은 우려 (두렵습니까?)를 느낍니다. 편집 전문가로서 또는 모든 창의적인 분야에서 생계를 유지하는 것은 특히 프리랜서에게는 이미 충분히 어렵습니다. 단 몇 초 만에 대학원 수준의 문학 비평을 생성할 수 있는 도구가 이미 위험에 처한 실제 작가와 편집자의 생계에 또 다른 위협이 될 수 있다는 것을 이해하는 데 컴퓨터 과학자가 필요하지 않습니다.

그리고 그 위협은 먼 미래에 존재하지 않습니다. 바로 지금 여기에 있습니다. CNET과 같은 게시자는 이미 대규모 언어 모델을 사용하여 블로그 콘텐츠를 제작하고 있습니다 . 이러한 블로그 게시물에는 표절이 만연한 것으로 밝혀졌지만 (윤리적 곤경 경보 소리!) 아직 초기 단계이며 전 세계의 ChatGPT는 소스 자료를 더 잘 숨기기 위해 계속 발전할 것입니다.

그래서 나는 AI가 내 테이블에서 음식을 가져가는 것을 두려워하지만 — Terminator.gif를 삽입하세요. 단지 장미 상자에서 산탄총을 뽑는 대신에 그는 내 핫도그를 훔치고 있습니다 — AI가 아무데도 가지 않을 것이라고 확신합니다. 어느 하나. 이제 해야 할 일은 AI가 크리에이티브에 유용할 수 있는 모든 방법을 파악하는 것이지만 더 중요한 것은 AI가 크리에이티브를 대체할 수 없는 모든 방법을 파악하는 것입니다 .

이 점에 대한 좋은 통찰력이 있습니까?

제가 하는 작업은 길고 조밀한(때로는 다루기 힘든) 스크립트를 많이 읽어야 합니다. 우리는 때때로 수만 단어를 말하고 있습니다. 트위터 스레드. ChatGPT가 딥 리딩을 대체한다고 말하는 것은 아니지만 이러한 종류의 긴 문서를 분석하고 간결하고 일관된 테이크아웃 브리핑을 제공하는 기능에 깊은 인상을 받았습니다.

이 단계에서 나는 적어도 고객 대면 작업이 아닌 Aiden의 독해력을 내 독해력으로 대체하는 것이 편하지 않을 것입니다. 그러나 거기에는 내부 목적을 위한 약간의 유용성이 있으며, 우리는 창의적인 브레인스토밍 세션의 방향을 포착하는 주간 브리핑을 생성하도록 요청함으로써 큰 ​​사본 블록을 분석하고 다듬는 Aiden의 능력을 활용할 계획입니다. 거기에 더 올.

우리는 또한 어니스트 헤밍웨이와 코맥 매카시와 같은 유명한 작가의 스타일로 단편 소설을 쓰도록 Aiden에게 요청하는 일종의 바보 같은 방식이긴 하지만 일부 음성 및 톤 작업을 실험해 왔습니다.

표절 우려는 저주받은 것 같습니다. 지금까지 Aiden은 The Sun Also Rises 또는 Blood Meridian 의 분위기를 재현하는 데 비참하게 무능 했기 때문입니다 . (아래에 몇 가지 샘플 텍스트를 제공하고 싶지만 현재 ChatGPT에 높은 트래픽이 발생하고 있습니다. 즉, 다운된 것만큼이나 양호하므로 이전 채팅을 로드할 수 없습니다. 내 말을 믿으세요. Aiden에는 Pulitzer가 없습니다. 미래.)

무엇 향후 계획?

더 땜질하고 더 철학적입니다. 기술 결정론 , 마르크스 , " 캘리포니아 이데올로기 " 에 대한 몇 가지 아이디어를 다음 몇 개의 블로그 게시물에서 탐색할 계획입니다. 또한 좀 더 (그리고 바라건대 더 기술적인) 프로세스 항목에 대해 알아볼 것입니다. 아마 그때쯤이면 에이든의 뇌에 부하가 걸렸을 겁니다.