그리고 시드니도. 2주간의 흥미진진한 AI의 놀라움, 발전 및 후퇴에 대한 몇 가지 생각을 통합합니다.

다음은 ChatGPT 출시, Bing Chat 출시, "Sydney"의 놀라움과 (너무 예측 가능한) 철회에 대한 세 가지 트위터 스레드를 모은 것입니다.

ChatGPT 출시와 관련하여

1/ chatGPT는 컴퓨팅 기술 중 가장 짧은 시간에 가장 광범위한 사람들의 상상력을 사로잡았다고 해도 과언이 아닙니다. 누구나 즉시 사용하고 직접 볼 수 있다는 점이 큰 부분을 차지합니다. "그것"을 사용하는 생산성은 어떻게 발전할까요?

2/ 두려움 <> 기회의 양극화는 요즘 기본적으로 모든 것과 일치합니다. 그것은 나를 조금 슬프게 한다. 나는 확실히 이것을 발전으로 보는 사람들 중 하나입니다. 나는 모든 단계에서 두 번째 추측이 아니라 완전한 스로틀 혁신이라고 믿습니다.

3/ 일이 어디로 갈지 예측하는 많은 4-D 체스. 누가 이기거나 질까요? 얼마나 많은 플랫폼 이동이 "AI"인가 아닌가? 알기에는 너무 이르다. PC, 전화, 클라우드, 인터넷을 기준으로 한다면 기하급수적 성장이 그렇듯 경계심/비관론자들은 금세 뒤쳐질 것이다.

4/ 기술이 어떻게 발전할 것인지에 대해 배우고 안내하는 데 도움이 되는 유사점이 있습니다. 하나의 길이 아니라 따라갈 수 있는 종류의 경로입니다. 역사 운율. 왜? 생산자와 소비자 모두 인간이고 인간은 패턴을 따르기 때문에 정확하지는 않습니다.

5/ 첫째, 향후 6~12개월 동안 자유 형식 텍스트 필드가 있는 모든 제품(사이트/앱)에는 "AI 강화" 텍스트 필드가 있습니다. 입력한(말한) 모든 텍스트는 LLM을 장식, 수정, 정제 또는 "통과"합니다. 모든 텍스트 상자는 프롬프트 상자가 됩니다.

6/ 이것은 대부분의 모든 제품에 대한 사소한 추가 사항입니다. 일부는 더 많은 종소리와 휘파람으로 향상됩니다. 예를 들어 자동 제안(API 비용 제외) 또는 텍스트를 가져와 개선을 안내하는 몇 가지 특정 "쿼리 확장"이 있을 수 있습니다. 누구나 API를 호출합니다.

7/ 이것은 새로운 기능에 대한 관심을 불러일으키고 LLM에 어떤 유형을 입력하는 것 이상으로 작업에 어느 정도 깊이가 있음을 증명하기 위해 더 많은 표면 영역을 추가하기 위해 수행됩니다.

8/ 이것은 맞춤법 검사가 독립 실행형 기능에서 워드 프로세싱으로 통합되어 제품군으로 이동한 다음 브라우저에 나타나는 평범한 예를 생각나게 합니다. 갑자기 그것은 앱 기능이 아니었지만 모든 텍스트 상자에는 물결선이 있었습니다.

9/ 처음에는 깔끔했습니다. 그런 다음 편집 상자에 입력하는 내용이 맞춤법 검사에 적합하지 않다는 것을 금방 알게 되었습니다. 모든 거리 이름, 부품 번호 및 사람 이름. 맹목적으로 자동 수정하면 횡설수설하게 될 것입니다. 당신은 여전히 ​​그렇습니다. 성급하게 판단하지 마세요!!

10/ LLM도 이와 같을 것입니다. 즉, 본 발명은 신속하게 확산되지만 실제로 사람들을 위해 "작업을 생성"할 것입니다. 이점을 실현하기 위해서는 향상된 또는 "고정" 텍스트를 매끄럽게 하기 위해 "루프에 있는 인간"이 필요합니다.

11/ 사람들은 이 단계에 대해 매우 비판적일 것입니다. 많은 사람들이 처음에 작업을 수행하는 것보다 고치는 데 더 많은 시간이 걸린다며 혁신에 대해 똥을 쌉니다. 문법 검사도 예전에는 그랬습니다. 하지만 모든 사람에게 해당되는 것은 아닙니다…

PS/ 일부는 "잘못된" 또는 "인간을 제거하는" 도구의 사용을 즉시 금지하고 싶어할 것입니다. 맞춤법 검사가 사소하다고 생각할 수도 있지만 저는 논문을 작성하기 위해 새 해에 사용하려면 허가를 받아야 했습니다. 고등학생 때는 원리를 물어서 사용해야 했다. 계산기처럼.

12/ 그런 다음 일정 기간이 지나면 기술이 훨씬 더 크게 발전할 것입니다. 이전 맞춤법 검사는 로컬 PC의 사전이었습니다. 그런 다음 Google은 인터넷을 사용하는 "클라우드 맞춤법 검사"를 출시하기 위해 파티에 가져온 모든 것을 사용했습니다.

13/ 그 이후로 철자(및 문법)가 동일하지 않았습니다. 그것은 최초의 브라우저 이후 10년, PC용 최초의 독립 실행형 맞춤법 검사기 이후 25년이 지난 지금 모두가 가지고 있습니다. 그러나 아무도 그것에 의해 구별되지 않습니다. 왜?

추신/ 여기 빨간색 물결선의 역사가 있습니다.

036. Fancy Wizard and Red Squiggles 유휴 루프는 악마의 놀이터입니다. –Word 팀의 개발자https://hardcoresoftware.learningbyshipping.com/p/036-fancy-wizard-and-red-squiggles

14/ 철자(또는 유추 쓰기 도구)를 제공하는 독립형 회사가 많이 있었습니다. 많은 *워드 프로세서*가 "더 나은 타이핑"에 초점을 맞추고 맞춤법, 문법, 탭, 페이지 번호 등을 추가했지만 기능 전쟁이 이어졌습니다. 100가지와 1000가지의 새로운 기능.

15/ 많은 사람들이 이러한 기능 전쟁을 "비대하다"고 한탄하지만, 이러한 기능은 고객이 제품을 소비하는 방식에서 중요한 역할을 하며 시장에서 "원 트릭 조랑말"이 될 수 없음을 의미합니다. "단순"은 없습니다. 소비자는 단순하거나 유일한 경우가 아닌 "최악의 경우"에 대한 생산성 도구를 얻습니다.

16/ 결정적으로 우승 제품은 가장 평범한 작업이 아니라 가장 *중요한* 작업을 수행하는 제품입니다. 예를 들어, 타자기는 양식을 채우는 데 능숙했지만 워드 프로세서는 그렇지 않았습니다. 양식이 WP가 되기까지 몇 년이 걸렸지만 책, 선언문 등 → WORD!

17/ 중요한 것은 단순히 저렴하거나 쉬운 작업을 자동화하는 것이 아니라 중요한 작업을 수행하는 것입니다. 승리하는 도구는 사람들이 직면하는 가장 중요한 문제로 일반화됩니다. 추가 도구 또는 "포인트 솔루션"을 추가하는 비용은 절감액보다 훨씬 높습니다.

18/ Ppl은 단순한 "작업 제거"를 자동화한다고 생각합니다. 그것은 사실이 아닌 것으로 나타났습니다. 사실, 더 많은 자동화/창작 도구가 발생하는 경향은 더 많은 사람들이 자신의 작업에 "창작"을 추가한다는 것을 의미합니다. 이제 행정 지원뿐만 아니라 모두가 양식을 작성합니다. (알 수 없는 소스)

19/ 더 나은 도구는 "루프에 있는 인간"이 가장 가치를 더하는 곳에 더 가까운 창작물을 제공합니다. PowerPoint는 그 전직입니다. 우리 모두는 "슬라이드"를 한탄할 수 있지만 (*중요한* 작업을 위한) 훌륭한 도구를 사용하면 가장 숙련되고 지식이 풍부한 사람이 도구를 사용하여 이전에 "지원" 작업을 수행할 것입니다.

20/ 이메일이 증가하고 Office가 Word, Excel, PowerPoint뿐이었을 때 우리는 모든 "문서"가 단순한 ASCII 메일 메시지가 되어 이러한 모든 기능이 더 이상 중요하지 않을 것이라고 크게 우려했습니다. *잘못된* 이메일은 모든 사람을 "컨텐츠 기여자"로 만들었습니다.

21/ Ppl은 한 페이지 회의 의제에 Word 사용을 중단했습니다. 많은 사람들이 Word에서 메모 작성을 중단했습니다. (동일한 Excel 또는 PowerPoint 작업의 경우 Ditto). 그러나 작업이 중요하고 *중요*할 때 인간 참여 루프 기여가 중요했고 "가장 강력한" 도구를 갖는 것도 중요했습니다.

22/ 그렇기 때문에 Office, 말하자면 _영혼을 빨아먹는 Office_가 여전히 수억 명의 사람들이 사용하는 것입니다. 그것은 관성이 아니지만 *중요한* 작업이 그곳에서 수행되고 외부 기회에서 중요한 작업을 수행해야 하기 때문에 이러한 기능이 중요합니다.

23/ 많은 사람들은 LLM이 일자리를 "제거"하거나 창의적인 작업의 전체 범위를 쓸어버릴 것이라고 생각하는 것 같습니다. 나는 일어날 일이 두 단계로 일어날 것이라고 생각합니다. 첫째, 사용되는 모든 생성 도구는 LLM으로 매우 빠르게 보강됩니다. 누구나 이러한 향상된 기능을 사용할 것입니다.

24/ 그런 다음 시간이 지남에 따라 이전 도구를 포함할 수 있는 새로운 도구가 나타날 것입니다. 이것은 타자기가 조판을 대체하고 문자 워드 프로세싱으로 대체되고 그래픽으로 대체되면서 일어난 일입니다. 35년이 지난 지금에서야 글쓰기의 변화를 볼 수 있습니다.

25/ Key는 처음부터 LLM을 가정하여 구축된 새로운 도구이며, 가장 중요한 작업을 수행하기 위해 발판을 마련해야 하며 일상적인 작업도 수행해야 합니다. 일상적이고 중요한 일을 하는 사람들이 접근할 수 있어야 합니다. 그렇지 않으면 그들은 단지 포인트 솔루션입니다.

26/ 사물이 이런 식으로 진화하는 이유는 미묘합니다. 작업 환경에서는 "중요"가 부족하지 않습니다. 모두가 자신의 작업이 중요하다고 생각합니다. 모든 부서. 모든 창의적인 작업. 변화의 장벽으로 던져질 끝없는 요구 사항 또는 "필요"가 있습니다.

27/ 모든 사람의 일은 겉으로 보기에 쉬워 보입니다. 그러나 실제로 존재하지 않는 작업을 자동화하거나 작업의 워크플로 또는 툴링을 교체하려고 시도하기 전까지는 인적 부분이 무엇인지 또는 "작업"이 발생하는 위치를 실제로 알 수 없습니다.

28/ 무엇보다 더 많은 사람들이 도구를 사용하기 시작하면 생산된 것에 대한 필요성이 커집니다. 즉, 더 많은 사람이 더 많은 일을 해야 합니다. 즉, "좋은" 또는 "중요한" 것에 대한 기대치가 모두 높아집니다. 새로운 도구는 단순히 자동화하는 것이 아니라 작업도 생성합니다.

29/ 마지막 예시. 물리 과학 및 수학에서 글쓰기에는 특수한 조판(수학, 물리학) 또는 기안자(분자 모델의 경우 실험실 작업 흐름)가 필요했습니다. 이 작업을 수행하는 모든 회사/부서에는 ​​사람이 있었습니다.

30/ LaTeX, ChemDraw 등이 등장했고 모든 연구원이 제작자가 되었습니다. 논문에는 더 많은 다이 그램과 수학이 있습니다. 정보 제공에 대한 기대치가 높아졌습니다. 그리고 그 기안자/식자공은 그냥 제거된 것이 아니라 훨씬 더 고급 작업을 위해 이러한 도구를 사용했습니다.

31/ 이것은 고도로 도메인에 특화된 고급 도구에서도 엄청난 개선이 단순히 모든 사람의 작업을 더 쉽게(또는 사라지게) 만드는 것이 아니라 사람, 전문가가 더 많은 일을 하고, 더 많이 만들고, 무엇보다도 루프의 인간이 되십시오. // 끝

ChatGPT를 사용한 생산성의 진화와 직면하게 될 문제에 대해

LLM에 대한 흥분을 더하고 생산성 시나리오에 대한 영향을 계속합니다. LLM은 7B 스마트폰에 원활하게 배포할 수 있는 잠재력이 있는 최초의 기술 발전을 나타내며 따라서 플랫폼 전환이 될 수 있습니다. 여기 거대한 황소. 1/

2/ Tech는 모바일/소셜/클라우드가 자리잡은 지 10년이 넘도록 플랫폼 전환을 간절히 바라고 있습니다. 다음은 무엇입니까? 물론 거대해야 합니다. 전체 행성이 현재 플랫폼을 채택했습니다. M/S/C 위에 계층화하고 장치 또는 레거시 재설정이 필요하지 않음으로써 잠재력이 엄청납니다. 예이!

3/ 이미 "구글의 혼란", "마이크로소프트의 리더십", "근위병의 변화", 일반적인 "붕괴" 또는 "완전히 새로운 세계"에 대해 많이 언급되었습니다. 이것은 모두 시기상조이거나 어리석은 일입니다. OTOH 기술이 일어날 것입니다. "고양이는 가방에서 나왔다" 그리고 대량 배포가 그 다음입니다.

4/ 오늘날 사회의 다른 모든 것과 마찬가지로 의견이 양극화되었습니다. "찬성" 또는 "반대"라는 주장은 곧 진영을 선택하고 전투를 준비하는 것과 같습니다. "잘못된 정보", "이해하지 못함", "모든 직업을 제거/재창조" 등. 으.

5/ LLM은 중요하고 필요하지만 플랫폼 전환에 대한 기준은 충분하지 않습니다. 그들은 아직 항상 작동하지 않으며 경계 사례가 많습니다. "하드코어 소프트웨어"에서 PC의 첫 10년은 문자 그대로 "작동하게 만드는 것"이었습니다. 인터넷? 보안, 끊어진 링크 등

6/ 그러나 일부 우려 사항을 무시하는 것은 변화의 기하급수적 특성을 무시하는 것만큼이나 순진합니다. 과대 광고가 많이 있습니다. 여러 "겨울" 동안 AI에 대해 배운 한 가지는 포인트 솔른에서 상당한 발전에 해당하는 것을 "일반화"하기 때문에 과대 광고가 발생한다는 것입니다.

7/ 기술자와 전문가가 한 가지 발전을 취하고 그것을 일반화하는 경향이 있기 때문에 겨울이 계속 발생합니다. 프로그래밍 언어의 발전과 마찬가지로 AI는 실제로 하나의 시나리오를 더 쉽게 만들 수 있으며 모든 시나리오를 더 쉽고/가능하게 만들 필요는 없습니다.

8/ 그렇긴 하지만, LLM은 두 가지 차원에서 일종의 충돌을 나타냅니다. LLM은 기본값입니다.
• 낙관적/긍정적이며 모든 소프트웨어, 생산성, 생성의 미래
• 회의적/부정적이며 선험적으로 제약을 받고 "책임"이 되어야 합니다. 기술

9/ 실제로는 대부분이 넓은 중간을 원합니다. 모두 시장 발전의 혜택을 받도록 합시다. 남용하거나 오용하는 사람들은 책임을 져야합니다.

이렇게 저렴한 비용으로 광범위하게 사용할 수 있는 신기술이 이전에는 그렇게 많은 사람들에 의해 순 부정적인 것으로 빠르게 추정되었습니다. 한숨을 쉬다.

10/ 예상되는 부정적 요소를 포함하고 맹목적인 낙관주의를 누그러뜨리는 세 가지 영역(A, B, C)이 있습니다.

가장 중요한 측면은 이것이 차세대 기업에게는 기회를 만들고 기존 기업에게는 모든 것을 어렵게 만든다는 것입니다.

11/ (A) LLM은 특히 웹 검색과 관련하여 근본적으로 인터넷(웹) 자체를 손상시키거나 의문을 제기합니다. 예.

웹은 연결에 의존합니다. 검색은 크롤링에 의존합니다. 웹 허용 크롤링에 기여하는 엔터티는 연결되는 이점을 위해 크롤링합니다.

12/ LLM이 링크를 반환하지 않고 단순히 인터넷의 크롤링 측면을 사용하는 경우 크롤링 및 궁극적으로 링크를 허용하는 인센티브가 사라집니다.

구독이 있거나 이를 감당할 수 있는 가장 큰 콘텐츠 사이트의 경우 괜찮습니다. 그러나 우리가 뉴스에서 본 것처럼 거의 아무도 할 수 없습니다.

13/ 오늘 이곳은 이미 긴장으로 가득 찬 지역입니다. 그러나 그것은 새로운 것이 아닙니다. 내가 Microsoft의 검색 노력(2006–7)을 관리할 때 엄청난 *노력*이 제대로 스니펫을 만들고 "Google Onebox"가 된 것과 경쟁하는 데 들어갔습니다. 클릭할 필요 없이 답변을 제공합니다.

14/ *노력*은 웹 파괴, 콘텐츠 도용, 공정 사용을 적절하게 진행하는 것을 방지하는 방법이었습니다. 이로 인해 라이선스 콘텐츠, 파트너십, 검색 "산업 분야"와 같은 일련의 업계 변화가 발생했습니다. 그리고 책 스캔 실패.

15/ 따라서 검색 공급자가 답을 "알고" 있거나 답을 "구매"하지 않았거나 공개 도메인이 아닌 한 모든 사람이 검색을 단순히 "답을 말해주기"를 원하지만, 인터넷을 일방적으로 크롤링하여 찾을 수는 없습니다. 무료.

16/ 이로 인해 (B) 법률 시스템에는 이러한 대규모 재사용을 위한 프레임워크가 없습니다. 이것이 Betamax, Napster, YouTube/UGC입니까? 저작권법, 사유 재산, 명예 훼손, 공정 사용, 파생 작업, 표절 등이 교육 LLM과 출력물 모두에 적용됩니다.

17/ "고양이는 가방에서 나왔다"는 베타맥스와 그 이후의 상업적 스킵에 대한 주장이었습니다. 그러나 그것들은 다르게 끝났고 중요한 가정 사용은 MASS 소비를 위해 다른 사람의 데이터를 "저장, 재방송, 재전송"하는 것과는 매우 다릅니다.

18/ "바늘 꿰기" 아무리 영리한 변호사도 교육이 다른 사람의 데이터를 복사하여 사용하고 정확한 사본이 폐기되더라도 파생 작업이 생성된다는 현실을 바꾸지 못할 것입니다.

18A/ 모든 결과가 프롬프트 출력에 기여한 모든 소스와 함께 제공된다고 상상해 보십시오. 거의 디버그 보기입니다. 합법적인 "소싱"입니까, 아니면 본질적으로 법률 시스템에 대한 서비스 거부 공격입니까?

19/ 중학교 때 우리 모두는 다음과 같이 배웠습니다. 첫째, 백과사전의 그리스 역사 섹션을 복사하여 스파르타에 대한 보고서라고 부를 수 없습니다. 둘째, 대부분의 보고서가 World Book에서 나온 것이라면 단순히 단어를 이동하고 다른 작업에서 문장을 추가할 수 없습니다.

20/ 많은 사람들이 Bing의 각주 및 출처 사용을 칭찬했습니다. 미래의 역할 유료 배치를 제쳐두고 이들이 항상 검증 가능하고 합법적인 출처가 아니라는 점을 매우 분명히 해야 합니다. 당신은 무언가를 소싱하고 다른 것을 말할 수 없습니다.

21/ 하지만 잠깐만요, 1) 링크가 있으니 가서 알아보세요. 그리고 2) 사람처럼 텍스트를 가져와서 다시 쓰고 다른 것을 추가하는 등의 컴퓨터 알고리즘입니다. 정확히 그리고 사람(특히 돈 버는 사람)은 책임을 져야 합니다.

22/ 지난 25 섹션 230년 동안 사람은 인터넷에 무언가를 게시할 수 있었고 게시한 위치는 작성자로 간주되지 않았습니다. 이제 우리는 직접적이든 아니든 제1당 작가를 보유하고 있으며 이것이 바로 보호받지 못하는 것입니다.

23/ 물론 대기업은 이를 알고 있으므로 제3자 API를 통하거나 다른 제3자를 사용하여 스크래핑, 재작성 등을 수행하는 것은 일종의 법적 격리처럼 보입니다. 정확히 이 이유에 대해서는 Getty v. Stability 소송을 읽어보십시오.

24/ YouTube는 인수 당시 UGC의 저작권 문제로 인해 Google의 책임으로 간주되었습니다. 시간이 지남에 따라 YouTube는 합법적인 IP 보호의 모델이 되었습니다. 10년이 걸렸습니다. 그리고 YT는 그 점에서 당시와 지금이 매우 다릅니다.

25/ 한 사이트가 단순히 "연구", "공정 사용" 또는 "파생 저작물"에 해당하는 링크와 주장을 제공하고 단어를 이동시킬 수 없다는 사실을 피할 수 없습니다. 200년의 법과 헌법적 보호가 작용하고 있습니다.

26/ "파괴"에 관해서는 Google이 20년 이상 이 주제와 씨름하는 동시에 비즈니스 요구/욕구의 균형을 맞추는 데 시간을 보냈다고 생각합니다. 그들의 경계는 그들이 경험한 현실의 결과이다.

27/ 이것은 세 번째 큰 관심 영역(C)으로 이어지며, 그것은 "책임감 있는 AI"의 개념으로, 출력의 상당한 조절로 이어질 뿐만 아니라 세계의 지식에 더 쉽게 접근할 수 있도록 *거대한* 기회를 놓칠 것이라고 믿습니다. .

28/ "책임감 있는 AI"는 기술이 배포되기도 전에 거의 경찰 조치를 취한 최초의 사례로, 주로 이미지 인식 초기에 발생했습니다. Trustworthy Computing처럼 초기 PC를 폐쇄했지만 1985년에 인터넷이… twitter.com/i/web/status/1…

29/ 미국의 가장 큰 회사와 CEO는 실제 사용/배포 전에 AI를 규제하기 위해 이미 의회에 요청한 "책임 있는 인공 지능에 대한 정책 권장 사항"을 만들었습니다[원문 그대로]. s3.amazonaws.com/brt.org/Busine…

30/ 이것들은 물론 "좋은" 것처럼 보이지만 정보, 지식, 과학적 동료 검토, 정당, 교육 위원회, 그리고 주어진 시간에 "수용 가능한" 것으로 간주되는 세계의 복잡성에서 살아남을 수는 없습니다.

31/ Reddit의 대부분은 Bing 또는 OpenAI가 나쁜 말을 하거나 "취소 가능한" 공격을 하도록 하는 데 소비되었습니다. 이것은 어려운 일이 아닙니다. 설상가상으로 명백한 사실적 오류가 있는 사람들을 만나기 쉽습니다.

32/ 이러한 문제에 대한 첫 번째 대답은 뒤로 물러서서 "확립된 사실"과 "오늘날의 맥락에서 받아들일 수 있는" 말만 하는 것입니다. 아시다시피, 인간은 "사람이 이렇게 말했어요", "인용합니다"라고 경고해도 나쁜 말을 하면 안 됩니다.

33/ 가장 일상적인 주제는 금지되거나 "위험할 가치가 없는" 주제가 됩니다. 비즈니스 맥락에서도 이는 매우 어렵습니다. 철자 사전, 지도, 클립 아트, 심지어 "무책임"한 것으로 간주되는 글꼴까지 처리한 모든 시간의 전체 목록을 만들 수도 없습니다.

34/ 아주 간단하게, 모든 입력 및 출력에 대한 사람의 검토 없이 사용자 질문을 기반으로 콘텐츠를 생성할 때 "기본 책임"이라는 개념은 해결할 수 없습니다. 실수, 위법 행위 또는 그보다 더 나쁜 일에 대한 여지가 있어야 합니다.

35/ 하지만 책임에 대한 기본 약속으로 어떻게 그럴 수 있습니까? 더 나쁜 것은 법적 책임이 제거되더라도 EULA/waavier/consent 상자가 있더라도 뉴스 이벤트가 새로운 프롬프트와 생성된 답변을 야기할 때마다 그 날의 끝없는/지속적인 PR 위기를 원하는 주체는 없다는 것입니다.

36/ CEO/변호사/커뮤니케이션/HR의 이러한 약속은 선험적으로 규제하는 AI에 대한 초대입니다. 여러 면에서 이것은 실제로 발명되기도 전에 어떤 것을 규제하는 최악의 입장입니다. 그들은 "책임 있는" 산출물만을 약속하는 일이 일어나도록 요청했습니다.

37/ 따라서 전례 없는 규모의 자동화된 "사용"(공정한 또는 기타)을 설명하기 위해 조정이 필요한 기존 법적 프레임워크와 함께 "책임 있는 AI"의 개념이 모든 문제의 모든 측면에서 왜곡되지 않도록 재검토해야 합니다. .

38/ 이것은 바이너리이기 때문에 "신뢰할 수 있는 컴퓨팅"이 아닙니다. 우리가 말했듯이 유용성을 희생하더라도 나쁜 사람들로부터 보호하십시오. 이것은 일부 고객을 달래기 위해 고안된 능동적인 의제이며 모든 문제의 모든 구성 요소를 만족시킬 수는 없습니다.

39/ R AI는 Google의 IPO 약속인 "Don't be Evil"에 훨씬 더 가깝습니다. 그 당시에는 그것에 대해 큰 회의론과 큰 희망이 있었습니다. 세상은 선과 악뿐만 아니라 복잡하고 어둡고 알려지지 않았기 때문에 회의론자들이 옳았다는 것이 입증되었습니다.

40/ 그러면 이것이 실제로 무엇을 의미합니까? 첫째, 대기업은 계속해서 시나리오를 제한하고 결과를 "위생화"하게 될 것입니다. "무책임한" "나쁜 PR" 또는 불법(또는 잠재적으로)에 대한 두려움 때문에 엄청난 양의 콘텐츠가 존재하지 않을 것입니다.

41/ 대기업은 결국 일상적인 결과, 특히 검색에서 스크러빙된 입력, 즉각 제거 목록, 수동 코딩된 기본 응답, 사과 등으로 알려진 주제에 대한 "OneBox" 답변의 더 나은 표현을 효과적으로 제공하는 데 집중하게 될 것입니다.

42/ 둘째, LLM의 생산성 도구 및 사용 사례는 일상적이고 반복적인 작업의 훨씬 더 좁은 사례에 초점을 맞추게 될 것입니다. 이것은 LLM이 기본적으로 일반적인 상호 작용을 위해 개선된 문법/철자/템플릿인 작업입니다.

43/ 기본 Word 템플릿을 사용하는 데 가장 큰 장벽은 문법을 위반하지 않고 정확한 고객/사용 컨텍스트에 맞게 사용자 지정하는 것입니다. LLM은 이것을 쉽게 만듭니다.

44/ LLM은 당사자 콘텐츠 요약, 당사자 작성 개선 또는 사용 가능/라이선스 이미지를 사용하여 당사자 이미지 수정(예: 비행기에서 사용되는 신제품 사진 보여주기)에 어느 정도 가치가 있습니다.

45/ 불행하게도 이들은 "중요한" 사례가 아닙니다. 이것들은 생산성 도구의 완전히 새로운 계층을 주도하지 않을 것입니다. CS 또는 CRM 도구와 같은 기존 워크플로 및 도구에 크게 추가될 것입니다.

46/ 거기에 큰 기회가 있습니다. 어려운 문제와 높은 가치의 프롬프트에 접근하는 새로운 도구와 처음부터 개발된 법적 프레임워크 내에서 작업하면서 세계 지식을 활용합니다. 그것들은 큰 이점이 있습니다.

꾸미다. 위험 감수 BigCo는 할 수 없습니다. //끝

추신/이 예를 좋아합니다. 소스를 사용한다는 찬사를 많이 받는 개념이 실제로는 그렇지 않은 경우 생성된 답변을 더 신뢰할 수 있게 만드는 방법을 보여줍니다. 이것은 사소한 편집입니다. 생성된 모음집/요약은 "...도메인 지식이 없는 인턴에 따르면"으로 기록되어야 합니다.

Bing, It's Chat, 일명 시드니로 복귀

Microsoft는 Bing 채팅을 5개의 회신으로 제한하여 AI가 정말 이상해지지 않도록 theverge.com/2023/2/17/2360… //NOOO. IMO는 지난주의 잘못된 읽기 실패 및 과도한 수정으로 인한 중대한 전략 오류입니다. 이것은 일반적으로 LLM, Bing 및 검색을 결합하는 실수를 더합니다. 1/

Microsoft는 Bing 채팅을 5개의 회신으로 제한하여 AI가 정말 이상해지지 않도록 합니다. AI와 너무 오래 대화하면 AI가 당신을 사랑한다고 말할 수 있습니다.

2/ OpenAI를 통해 우리는 생성 텍스트 플랫폼의 새로운 경이로움을 *광범위하게* 경험했습니다. 그것은 우리 모두에게 완전히 새로운 형태의 창의성, 즉 생성적 창의성을 맛볼 수 있게 해주었습니다. 이 스레드에서 나는 생산성을 위한 "루프에 있는 인간"의 중요성에 대해 주장했습니다. (위 참조)

3/ 많은 사람들이 신중하고 기발한 신속한 엔지니어링을 통해 많은 "재미"(또는 엔터테인먼트, 시간 낭비 또는 광범위하게는 창의성)를 보기 시작했습니다. ChatBot은 완전히 새로운 형태의 도구를 만들었지만 아직 초기 단계였습니다.

4/ 많은 사람들이 생성된 것의 오류, 환각 및 미친 측면에 매우 빠르게 집중했습니다. 거대 기술 분야의 기존 AI 연구원 중 상당수는 한계를 위험으로 보는 경향이 있었습니다. 물론 "책임 있는 AI"는 OpenAI가 완화 조치를 취한 우려에 대해 끼어들었습니다.

5/ MS는 추가 레이어가 있는 OpenAI 위에 구축하기로 선택했지만 훨씬 더 중요한 것은 추가 레이어를 웹 검색의 재발명 및 Google이 이전에 본 것과는 다른 파괴적인 힘으로 포지셔닝했습니다. 마이크로소프트 대 구글, 재대결. 정말? 채팅이 검색을 재창조합니까?

6/ 저는 Google을 건너뛰고 있지만 아래 스레드는 Google이 AI와 씨름하고 수십 년 동안 *정확*하려고 노력해 왔으며 검색에서의 성공으로 인해 주의를 끌게 되었음을 보여줍니다. 이것은 혁신가의 딜레마처럼 느껴질 수 있습니다. 또는 신중할 수 있다면. (위 참조)

7/ 48시간 후 프루덴트가 정확해 보였습니다. Bing with LLM은 시드니로 변모했고 흥분은 끝없이 미친 이야기, 시드니와의 기이한 경험, 책임감 있는 AI 문제로 빠르게 대체되었습니다.

8/ 그러자 다른 회사의 AI 연구원들은 이것이 모두 예상된 일이라고 재빨리 지적했습니다. 다시 말하지만, 이 정박은 정확성, 진실, 어조, 난간, 그리고 "컴퓨터는 항상 옳다"와 "검색은 사실을 찾기 위한 것"에서 기대되는 모든 것에 있었습니다.

9/ 이제 우리는 AI가 어떻게 준비되지 않았는지에 대한 끝없는 심판 주기를 보게 될 것이며 책임에 대해 훨씬 더 많은 작업이 필요합니다. Bing에 대한 위의 제한은 첫 번째 단계입니다. 검색 및 생산성의 맥락에서 LLM을 배치한 모든 직접적인 결과입니다.

이 MS가 다음 AI Winter를 *일으키는* 것입니까?

10/ 검색 도메인에서 소비자의 기대는 정확하고, 감정이 없고, 예측 가능하고, 편견이 없는 "컴퓨터"와 일치합니다. 시드니는 엔지니어링 덕분에 그런 것들이 없었습니다. 아직 상상하지 못한 패턴과 조합을 표면화하도록 설계되었습니다.

11/ 그런 의미에서, 특히 그런 의미에서 시드니는 우리 모두가 방금 ChatBot으로 흡수하기 시작한 것보다 재미있고 참신한 돌파구였습니다. 여기에서 오독/실화가 드러나기 시작합니다. 만들어진 것은 결코 검색에 능숙하지 않을 것입니다.

12/ 검색은 MSFT가 해결하기로 선택한 주요 문제였습니다. 자본을 태우고 실제로 수익성이 없었으며 20년 동안 부진했습니다(나는 2006-7년에 만들고 이끌었던 Christopher Payne 팀을 관리했고 그 다음에는 Satya, 그 다음에는 Qi Lu 등을 관리했습니다). , MS는 Google이 계속 *성공*함에 따라 투자 회수를 원할 수 있습니다.

13/ 이전 스레드에서 설명한 것처럼 LLM을 "답변"에 대한 광범위한 확장으로 보는 것이 어느 정도 이해가 됩니다. 그러나 기술 불일치가 있었습니다. LLM은 결정적인 답변을 제공할 준비가 거의 되어 있지 않습니다. Google은 수십 년 동안 이 문제로 어려움을 겪어 왔으며 따라서 보수주의입니다.

14/ 나에게 이것은 시간, 포지셔닝, 심지어 회사의 기술 불일치의 예입니다. — 개념/아이디어가 정확하더라도. Windows CE 전화가 올바른 개념이지만 완전히 잘못된 구현, 잘못된 시간, 잘못된 회사인 방식입니다.

15/ 가장 성공적인 많은 기술 회사는 올바른 개념, 잘못된 기술 기반, 잘못된 시간, 잘못된 접근 방식에 대한 대규모 라이브러리를 수집했습니다. 종종 이것은 "너무 이른" 것으로 간주됩니다.

물론 이런 맥락에서 CLIPPY는 환상적인 예입니다. 천만에요.

16/ 이러한 상황에 대한 문제는 팬과 관련된 사람들이 몇 년 후에 너무 이르다는 긍정적인 그림을 그릴 수 있다는 것입니다. 그러나 실제로는 Apple Newton이 잘못한 것처럼 Windows 8이 잘못한 것처럼 잘못되었습니다. 이를 바로잡기 위해 정렬하는 데 너무 많은 요소가 필요했습니다.

17/ 자, 진심으로, 저는 이 일에 대해 부정적이 되려는 것이 아닙니다. ChatBot에는 놀라운 작업이 있으며 시드니는 오랫동안 가장 [의도하지 않게 놀라운] 혁신 중 하나였습니다. 위의 제품과 마찬가지로 너무 많은 사람들이 책을 빨리 닫을 것입니다. 하지 마라.

18/ 정답은 실험과 시장에 귀를 기울이는 것입니다. 지금은 앞으로 나아갈 시간이 아닙니다(다른 사람들과 마찬가지로). 더 좋은 단어가 없기 때문에 지금이 바로 전환할 적기입니다. 시드니는 답이 아닙니다. 시드니는 Bing이 Google/Ads를 앞지르기 위한 레시피가 아닙니다.

19/ 시드니는 새로운 종류의 도구가 될 가능성이 있습니다. 시드니와 생성 이미지, 오디오, 비디오를 결합하면 완전히 새로운 도구 시대의 기원이 됩니다. 환각, 편향, 임의성 및 광기는 버그가 아닌 기능입니다. 그것들은 그것을 완전히 새로운 창조적인 도구로 만드는 것입니다.

20/ 성공한 플랫폼을 되돌아보면 일부 사람들이 결점과 버그로 여겼던 대부분의 모든 것이 기발한 것을 플랫폼으로 전환한 기능 또는 엔지니어링 제약으로 밝혀졌습니다.

21/ Word의 렌더링 기능이 *없는* 브라우저는 기능이었습니다. 보안 모델이 없다는 것이 특징이었습니다. 부족한 중앙 집중화가 특징이었습니다. 깨진 링크는 일련의 발명품으로 이어졌습니다. "IBM"에 비해 PC의 취약성은 혁신을 불러일으켰습니다. 그리고 계속해서.

22/ 지난 주 동안 우리가 본 모든 것은 목표가 정확하고 "책임감 있는 AI가 승인한" 답변이라면 끔찍합니다. 잘못된 도구, 잘못된 사용자 모델, 잘못된 위치. 10개의 파란색 링크 + 타겟 광고는 훨씬 우수합니다. 최소한 현재와 가까운 미래에 말입니다.

23/ 그러나 업계에서는 오랫동안 시드니와 같은 새로운 창작 도구를 보지 못했습니다. 아마도 JPEG 이후일 것입니다. 지금이 이 창의성의 힘을 발휘하고 무엇이 만들어졌는지 볼 수 있는 좋은 시간입니다. 다음 PC 게임, Netflix 시리즈 또는 메타버스일 수도 있습니다.

24/ 이게 다 미친 말인가요? 그럴 수도 있지만 인간이 생성한 주장이므로 그러한 결함이 있습니다. 잘못 이해한 실패에 대한 반응, 처음부터 옳지 않은 전략, 확실히 [예측 가능한] 과잉 수정이 될 것 등등. // 끝

추신/ 지금이 더블 다운할 때입니다. 검색과 분리합니다. 시드니 자체를 더 유용하고 저렴하게 만드십시오. 더 많은 도구를 구축하십시오. 더 많은 개발자를 찾으십시오. 이미지, 사운드, 모션, 애니메이션을 추가합니다. 생산적인 미래를 건설하십시오.

PPS/ 플랫폼 전환의 특징(필요하거나 충분하지 않음) 중 하나는 새로운 기술을 탐구하고, 찌르고, 부수고, 배우기 위해 기꺼이 취미로 만들려는 일련의 사람들이 등장(그리고 빠르게 성장)한다는 것입니다. 한계를 찾으려면. 만들다.

시드니는 분명히 그러한 자질을 가지고 있었습니다.

PPPS/ here Sydney는 기본적으로 호전적인 캐릭터가 유명인이 되도록 강요당하고 똑같이 호전적인 파워 브로커가 책임을 져야 하는 새로운 스트리밍 시리즈의 대본을 작성하고 있습니다.

Bing이 기대에 미치지 못하는 잠재적인 이유 요약. 내 견해는 이것이 선택한 기술과 시나리오 간의 불일치를 더욱 강조할 뿐이라는 것입니다. "Bing이 왜 그렇게 무모한가요?" @GaryMarcus

“한 쪽은 웹 검색이 그대로 유지되어야 한다고 느꼈고 다른 쪽은 채팅 기반 인터페이스를 추진했습니다. 궁극적으로 Microsoft는 두 가지 검색 방법을 모두 제공하고 사람들이 쉽게 앞뒤로 전환할 수 있도록 하기로 결정했습니다.” // 물론 그랬습니다.