이 공간을 처음 접하는 사람들에게 우리는 클라우드 컴퓨팅 이후 가장 큰 기술 변화 중 하나를 겪고 있습니다. 많은 훌륭한 요약 과 시장 지도 가 출판되고 있기 때문에 이 변화에 너무 많은 시간을 할애하지는 않겠습니다 . 그러나 여기에 무슨 일이 있었는지 요약하기 위해 만든 슬라이드가 있습니다.

AI 기반 애플리케이션의 최근 캄브리아기 폭발을 탐색할 때 자주 제기되는 한 가지 질문은 방어 가능성 입니다. 이는 투자자와 설립자가 AI 모델이 상품화되어 AI 애플리케이션에서 신경망의 가치가 빠르게 감소하고 있음을 잘 알고 있기 때문입니다.

이러한 모델은 OpenAI 및 Stability.ai 와 같은 회사에서 공개적으로 출시되었습니다 . 아직 GPT-3(OpenAI에서 호스팅하는 모델)을 사용해 본 적이 없다면 기성품 모델 의 거의 마법 같은 힘 을 이해할 수 있도록 강력히 권합니다 . AI 연구가 대차대조표 강도의 함수가 됨에 따라 자신만의 모델을 구축하고 싶어도 점점 어려워지고 있다는 점은 주목할 가치가 있습니다.

NLP는 지난 10년 동안 많이 발전했습니다. LSTM 네트워크는 시퀀스의 다른 부분을 선택적으로 기억하거나 잊는 기능으로 인해 RNN의 성능을 크게 향상시켰습니다. 트랜스포머와 "주의 메커니즘"(스케일링 법칙과 함께)은 이러한 모델이 실제로 언어 를 이해 하기 시작하면서 가능한 것에 단계적 변화를 가져왔습니다 . 이제 확산 모델은 모든 형태의 콘텐츠를 생성할 수 있는 방법을 재구성하고 있습니다. 이전에는 경쟁 우위를 구축하기 위해 딥 러닝의 혁신이 사용되었지만 이러한 사전 훈련된 모델을 공개하는 데 있어 문화 및 기술 변화( Hugging Face 가 큰 역할을 함)가 있었습니다. 개발자는 이제 몇 줄의 코드로 최첨단 AI를 제품에 내장할 수 있습니다.

그러나 모든 사람이 동일한 모델을 사용하고 있을 때 어떻게 경쟁 우위를 구축할 수 있습니까?

UX 소유

우리는 이러한 대형 모델의 잠재 공간 내에 숨겨진 힘을 이제 막 이해하기 시작했습니다. 이러한 모델에 제공할 수 있는 컨텍스트가 많을수록 더 나은 결과를 얻을 수 있으며 이전에는 엄청난 양의 강력한 엔지니어링이 필요했던 작업에 빠르게 능숙 해질 수 있습니다. 한 가지 질문은 " 이 강력한 모델에 대한 유일한 인터페이스는 단순하고 정적인 텍스트 상자가 될 것인가?"입니다. ".

대부분의 소비자는 AI를 잘 인식하지 못하므로 모델 앞에 두는 것만으로는 문제 해결에 거의 도움이 되지 않습니다. UX 디자인은 오늘날 AI 제품에서 큰( 어쩌면 가장 큰 ) 문제입니다.

최적의 프롬프트를 위해 사용자로부터 필요한 컨텍스트를 수집하는 데 도움이 되는 포괄적인 워크플로우에 중점을 두어야 합니다. 해자를 추가로 구축하기 위해 모델을 미세 조정하기 위한 피드백 데이터를 수집하기 위한 직관적인 워크플로우도 있어야 합니다.

생성 모델의 "와우" 순간과 누군가 유료 사용자가 되는 것 사이에는 큰 격차가 있습니다. 이 격차의 대부분은 훌륭한 UX로 채워집니다. Jasper.ai는 이를 실행한 회사의 좋은 예이며 현재 작년에 출시된 후 $80m ARR에 접근하고 있다는 소문 이 있습니다.

신속한 엔지니어링 활용

이제 우리가 AI와 상호 작용 하는 방식을 볼 때 빈 캔버스 가 생겨 통계 모델이 아닌 Prompt Engineering으로 초점이 이동했습니다. 이것은 광범위하게 모델에 입력을 엔지니어링하여 용이성, 정확성 및 비용을 최적화 하는 것을 의미합니다 . 몇 가지 예는 다음과 같습니다.

• Zero-Shot — 마치 유아(Wikipedia 전체의 대부분을 읽음)에게 무언가를 요청하는 것과 같은 자연어 프롬프트입니다. 예를 들어 입력은 "작업 설명":{대상 텍스트}입니다. 이것은 분명히 AI와 상호 작용하는 가장 간단한 방법입니다.
• Few-Shot — 예상 출력에 대한 몇 가지 예와 일부 컨텍스트를 추가합니다(아래 이미지 참조). 이를 위해서는 더 많은 "엔지니어링"이 필요하지만 정확도가 크게 향상될 수 있습니다 . 그러나 각 프롬프트에 컨텍스트를 추가하면 비용이 훨씬 더 많이 들 수 있습니다(자세한 내용은 아래 참조).
• 미세 조정 — 많은(수백 또는 수천) 예제를 취하고 사전 훈련된 모델을 재훈련하여 더 이상 각 프롬프트에 예제를 포함할 필요가 없도록 매개변수를 변경 합니다. 이 프로세스는 비용이 매우 많이 들고 수백만 달러의 비용이 들 수 있지만 일단 완료되면 완료됩니다.

사용 사례에 집중

AI는 클라우드나 모바일처럼 플랫폼이 되어가고 있습니다. 해당 플랫폼을 구축하는 데 주력하는 많은 회사가 있으며 OpenAI의 200억 달러 가치로 입증된 엄청난 양의 가치를 포착할 것이라는 데 의심의 여지가 없습니다. 그러나 AWS가 수직 SaaS 솔루션 구축에 집중하지 않는 이유가 있습니다. 플랫폼 구축과 해당 플랫폼에서 사용 사례 구축 모두에 집중하는 것은 매우 어렵습니다. 이는 Apple의 평범한 앱에서 더욱 입증됩니다. 우리는 Uber 비즈니스 모델이 모바일에 의해 잠금 해제된 방식과 유사하게 특정 AI 사용 사례 및 애플리케이션에 초점을 맞추면 잠금 해제할 수 있는 엄청난 양의 가치가 있다고 믿습니다.

그러나 이 비즈니스 사례는 약간의 소금으로 받아들여야 합니다. 전체 제품이 아닌 "기능" 버킷 내에 있는 AI 사용 사례가 많이 있습니다. 최근 파트너 관계를 맺은 PhotoRoom 은 매우 실용적인 AI 기능을 구축하는 데 Stable Diffusion을 활용한 최초의 회사 중 하나였으며 이제 성장을 가속화했습니다. Notion 및 Microsoft 와 같은 많은 대기업 은 이제 자체 모델을 구축하는 것보다 UI 및 신속한 엔지니어링을 소유하는 전략이 승리하는 것처럼 보이는 제품 향상을 위해 기성품 모델을 활용하고 있습니다.

또한 어떤 상황에서는 모델을 소유하고 처음부터 AI를 구축하는 것이 이치에 맞을 수 있다는 점을 주의해야 합니다. 특히 흥미로운 영역 중 하나는 Decision Transformers 와 혁신적인 모델 아키텍처를 활용하여 단순한 콘텐츠가 아닌 작업을 생성하는 것입니다. Adept.ai 는 바로 이 일을 하는 멋진 회사입니다. 다른 게시물에서 이에 대해 자세히 살펴보겠습니다.

모델노믹스 이해

OpenAI 는 1000개 토큰 (약 750단어)당 $0.02를 청구하며 이는 올 여름 $0.06에서 인하되었습니다. 퓨샷 학습을 사용하면 프롬프트의 최대 90%가 "컨텍스트"가 될 수 있으므로 비용이 제로샷의 10배까지 될 수 있습니다. 영리한 비즈니스는 "문맥" 대 "대상 텍스트" 비율을 최적화하고 "대상 텍스트"에서 출력에 영향을 미치지 않는 단어를 제거하는 등 영리한 작업을 수행하여 우위를 점할 수 있습니다.

클라우드를 기반으로 구축된 비즈니스가 클라우드 공급자에게 가격 책정 위험이 있는 것과 같은 방식으로 제3자 모델을 기반으로 구축된 비즈니스가 잠재적으로 가격 책정 위험에 노출되어 있다는 것은 분명합니다. 우리는 생성된 가치가 OpenAI와 같은 제3자 회사가 제공하는 민첩성과 힘에 대한 비용을 지불하는 것을 정당화한다는 점에서 AI가 클라우드와 동일한 균형을 찾을 것이라고 믿습니다. 우리가 만난 많은 초기 단계 AI 비즈니스는 70~80%의 총 마진으로 운영할 수 있으며 앞으로 가치 제안을 높일 수 있기 때문에 이것이 증가할 것이라고 생각합니다.

또한 대부분의 클라우드 컴퓨팅이 이미 딥 러닝 사용 사례를 위한 것이라는 점은 주목할 가치가 있습니다. 이는 AI 플랫폼에 대한 안정적인 가격 책정 상태가 오늘날 대부분의 기업이 괜찮아 보이는 클라우드 컴퓨팅과 동일한 지역에 있을 수 있음을 나타냅니다.

컴퓨팅 파워가 모델 확장을 따라잡을 현실적인 가능성이 있어 최첨단(또는 최소한 최신에 가까운 ) 모델을 장치에서 실행할 수 있습니다. 이는 AI의 한계 비용이 0이 되는 경향이 있음을 의미합니다. Stability.ai는 이미 일부 모델을 기기에서 실행할 수 있으므로 결국 일부 작업에 대한 한계 비용을 0으로 낮출 수 있습니다. 또한 점점 더 많은 AI 플랫폼( Cohere , AI21 등)이 있으며, 그 중 다수는 모델을 오픈 소스로 선택하고 있습니다. 모델 증류와 같이 비용을 최소화할 수 있는 영리한 방법이 있다는 점도 언급할 가치가 있습니다 .

이로 인해 전반적인 가격 책정 권한이 제한되며 연구에서 수익을 창출하기 위해 API 호출 외에도 더 창의적인 비즈니스 모델을 제시해야 할 수 있습니다.

결론

시장이 충분히 크면 기성품 모델을 핵심으로 하여 처음부터 응용 프로그램을 구축함으로써 스타트업이 혼란에 빠질 가능성이 매우 크다고 생각합니다. 예를 들어, Gong 과 Otter 는 독점적인 전사 모델 위에 제품을 구축한 두 개의 훌륭한 회사입니다.

이제 최첨단 전사 모델이 공개 되고 AI 비용이 0이 되는 경향이 있으므로 공평한 경쟁의 장입니다. 이것은 신생 기업이 UX 및 Prompt Engineering 계층을 소유함으로써 막대한 생산성 시장에서 가치를 포착할 수 있는 엄청난 기회를 열었습니다. 귀하가 AI를 활용하는 설립자라면 귀하와 이야기를 나누고 싶습니다. 언제든지 [email protected] 으로 저에게 연락하십시오.