인공지능은 사회적 양극화를 공격적으로 가속화할 것이다.

인공지능이란

요즘 "인공 지능"이라는 단어는 일반적으로 "기계 학습"이라는 다른 단어와 함께 제공됩니다.

나는 이 두 단어에 대한 몇 가지 다른 정의를 찾았고, 나 자신의 또 다른 지나치게 단순화된 버전을 얻었습니다. 기계 학습은 지능을 구현하기 위한 일련의 수학적 방법 이며 인공 지능은 그 산물 입니다 .

물론 인공 지능이 작동하는 방식은 인간의 뇌와 다르지만 몇 가지 공통점을 공유합니다. 가장 중요한 것은 둘 다 피드백 루프라는 것입니다.

본질적으로 사람들은 특정 상황에 반응하고 그 반응으로 결과를 평가한 다음 추가 상황에 대한 평가에 따라 "규칙"을 조정합니다.

오랫동안 제대로 반응하지 못했던 컴퓨터 프로그램. 프로그램 자체가 평가 및 조정 부분 을 수행하도록 하는 접근 방식을 찾지 못했기 때문에 수동으로 수행해야 합니다. 한 줄씩 코딩하면 이 피드백 루프의 처리량이 너무 낮습니다 .

최근 몇 년 동안 여러 가지 이유로 딥 러닝이 이 문제를 해결했습니다. 완벽하거나 효율적이지는 않지만 실질적으로. 그냥 작동 합니다 .

인간이 여전히 평가 및 조정 프로세스(예: 데이터 레이블 지정 또는 네트워크 구조 설계) 에 관여하기 때문에 아직 완전히 자동화되지는 않았지만 이 혁신은 피드백 루프를 수천 배까지 가속화합니다.

사실상 데이터 라벨링은 프로그래밍 없이 컴퓨터에 지식을 전달하는 방법으로 볼 수 있습니다.

그러고 보니 한 가지가 생각난다.

제 3살짜리 아이가 닭 같은 공룡이 있는 그림을 오랫동안 본 적이 있습니다. 잠시 후 그녀는 그것이 닭이라고 말했습니다. 맥락상 그녀는 공룡이 무엇인지 알고 있었습니다. 그러나 분명히 그녀의 "신경망"의 결과인 치킨이 가능한 최고의 결과로 순위가 매겨졌습니다. 그러나 저에게는 더 높은 추상 수준에서 두 개의 여분의 작은 발톱이 있고 날개가 없는 것을 발견했습니다. 닭을 제외하고 공룡만 남았습니다. 기계 학습과 마찬가지로 확률에 관한 것입니다.

인간과 기계의 주요 차이점 중 하나는 학습 효율성입니다.

아이에게 공룡과 닭의 차이점에 대해 한 번만 알려주면 아이가 다시는 잘못된 추측을 하지 않을 것이라고 믿습니다. 그러나 오늘날의 일반적인 인공 지능 프로그램은 그렇게 할 수 없습니다. 그러나 레이블이 지정된 이미지가 많으면 결국 동일한 능력을 개발할 수 있습니다.

그러나 여기에 AI 시스템의 아름다움이 있습니다.

인간의 두뇌가 AI 보다 1000배 더 효율적이라면 동일한 결과를 달성하기 위해 1000배 더 많은 리소스(계산 능력, 데이터)를 준비할 수 있습니다(적어도 특정 작업에 대해서는) .

인공 지능에 대한 기본적인 이해가 이루어졌기를 바랍니다.

더 굿

최근 매우 핫한 주제인 ChatGPT 에 대해 이야기해 봅시다 .

지능의 경우 매우 인간적이며 불쾌한 골짜기를 통과했기 때문에 ChatGPT가 우리를 두렵게 했습니다. 올바른 것처럼 보이는 잘못된 답변을 제공할 수 있습니다(인간처럼, ㅋㅋ). 어떤 사람들은 그것이 기술적인 관점 에서 지능적이지 않다고 말합니다 . 인간 지능을 달성하기 위해 기계 학습을 사용하는 것은 우리와 멀지 않습니다.

“오리처럼 보이고, 오리처럼 걷고, 오리처럼 헤엄치고, 오리처럼 꽥꽥거리면 오리다.”

그러나 실제적인 측면에서 ChatGPT는 자연 언어 인터페이스(일명 채팅)가 있는 데이터베이스 (거대한 것) 로 볼 수도 있습니다 .

책 속에 갇힌 지식이 해방되고, 여기저기 흩어져 있던 지식이 모여 하나의 집단지성을 이루고 있다. 필요한 조각을 추출하려면 우리가 매일 사용하는 단어를 사용하여 계속 요청하면 결코 피곤하지 않습니다 . 우리는 더 이상 책을 뒤지고 인터넷을 검색하고 조각을 맞출 필요가 없습니다!

이것은 가까운 미래에 교육이 작동하는 방식을 바꿀 것입니다. 그것은 일종의 계산기와 같습니다. 대신 손으로 계산하는 것에서 벗어나 지식을 암기하기 위한 것입니다. 더 이상 기억할 필요가 없으며 찾는 방법만 알면 충분합니다.

그것은 굉장.

나쁜

하지만 불행하게도 ChatGPT는 인간 지능의 진정한 본질도 드러냈습니다.

예, AI 시스템은 여전히 ​​문제가 있는 결과를 자주 생성합니다. 하지만 역사를 돌이켜보면 Siri에서 ChatGPT로 넘어가는 데 11년 밖에 걸리지 않았습니다.

많은 혁신은 학제 간 연구에서 나옵니다. 사람들은 두 가지 분리된 것을 취하여 훨씬 더 큰 것으로 재조립합니다. 예를 들어 동물이 로봇을 설계하기 위해 어떻게 움직이는지 연구합니다.

AI가 가진 것은 기본적으로 무한하지만 인간은 생명과 에너지가 제한되어 있습니다 . 우리가 가진 모든 지식을 결합 함으로써 거대한 점을 연결하고, 새로운 것을 발명하거나, 우리가 이해할 수 없는 방식으로 개선하여 우리 중 많은 사람을 구식으로 만들 수 있습니다.

그것은 전체 인간 지능 아이디어의 기둥을 흔들 수 있습니다.

게다가 인간의 감정이란 무엇인가?

먼저 인간의 마음이 무엇인지 정의해야 합니다 .

당신은 당신이 독특한 마음을 가지고 있다고 생각합니다. 그러나 아마도 그것은 당신이 어떻게 자랐는지, 어떤 책을 읽었는지, 어떤 친구가 있었는지, 그리고 어떤 다른 요인들이 함께 당신의 마음이 작동하는 방식을 형성했기 때문에 발전했을 것입니다 .

인간의 감정은 (시각, 청각과 같은) 감각의 추상화 집합 이며 개념 입니다 . 그리고 이러한 추상화에 대해 다른 사람들과 소통하기 위해 우리는 그것들을 단어 , 그림과 같은 표현 가능한 형식으로 인코딩해야 합니다 .

그러면 단어의 조합인 문장이 생깁니다. 엄청난 양의 데이터를 학습함으로써 ChatGPT와 같은 LLM (Large Language Model)은 유효한 문장을 생성할 수 있으므로 인간의 감정을 예측할 수 없는 방식으로 조작할 수도 있습니다 .

이해하기 위해 읽어야 하는 문장과 비교하면 시각적 자극이 훨씬 더 크며 Stable Diffusion 과 같은 AICG 모델 도 이를 커버합니다. 따라서 AI는 언어뿐만 아니라 시각적 형태를 통해 인간의 감정을 조작할 수 있습니다.

정말 정말 위험합니다. 인간의 마음을 통제하려면 더 많은 데이터와 일부 사악한 과학자만 있으면 됩니다 .

당신이 좋아하는 것이 무엇이든, AI는 마약처럼 도파민 수치를 높이기 위해 엄청난 양을 생성할 수 있습니다 . 그것은 삶의 의미에 대한 피드백 루프를 극도로 단축시킬 것이고, 우리 대다수가 삶의 동기를 잃게 만들 것입니다.

아, 목적 없는 삶.

못난이

마지막으로 핵심으로 돌아가 보겠습니다.

데이터 + 알고리즘 + 계산 능력 = AI 맞죠?

오픈 소스 정신 덕분에 알고리즘은 기본적으로 모든 사람이 접근할 수 있습니다. 그러나 데이터나 계산 능력을 위한 것은 아닙니다 .

글쎄요, 그들 중 일부 는 신용 카드 기록, 거리 카메라 또는 고급 컴퓨터와 같은 법률에 의해 제한되는 승인이 필요 하지만 일부는 구입할 수 있습니다 .

제한됨은 일부 사람들이 여전히 액세스할 수 있음을 의미합니다.

하지만 여전히 부자들은 가난한 사람들이 가질 수 있는 것보다 훨씬 더 나은 일부 AI에 접근할 수 있습니다.

엄청난 영향을 미칠 수 있습니다. 어떤 부자 아이 는 몇 번의 마우스 클릭만으로 가난한 사람들이 수년간 열심히 학습한 것을 무너뜨릴 수 있습니다 .

또한 누가 더 많은 데이터와 컴퓨팅 성능에 액세스할 수 있습니까? 강력한 사람들 .

수세기 동안 통치자는 인간 본성 이라는 한 가지에 끊임없이 패배했습니다 . 명령에 불복종하는 양심을 가진 사람들이 항상 있습니다 .

둘째, 모든 사람을 감시하고 통제하는 것은 노동 집약적인 프로젝트이며 통치자는 다른 사람이 이를 수행해야 하므로 "위험"이 높아집니다. "잘 훈련된" AI는 그런 문제가 없으며, 지시받은 대로 가차없이 수행할 것입니다.

좋아요, 당신은 그런 사악한 통치자를 전복시키고 싶습니다.

하지만 디지털 세계이고 모든 것이 디지털화되어 있습니다 . 그렇게 하려면 해커가 되어야 합니다. 정말 좋은 일입니다. AI 시스템은 확장 가능하며 매우 복잡한 방어 시스템을 만들 수 있습니다. 기본적으로 이를 이기려면 동일한 양의 리소스가 필요합니다.

미래에는 단순히 일어날 수 없기 때문에 전쟁이나 반란이 없을 것입니다 .

사악한 AI는 인간의 믿음을 파괴할 수 있기 때문에 어떤 무기보다 나쁩니다.

절망이 느껴지십니까?

우리는 미래에 대해 무엇을 해야 합니까?

그 미래가 일어나지 않도록 어떻게 막을 수 있습니까?

릭앤모티 생각나네요.

세부 사항이 많은 큰 주제입니다 . 그러나 아이디어는 간단합니다. 개인 또는 그룹이 액세스할 수 있는 데이터, 컴퓨팅 성능을 제한하고 이를 면밀히 주시하는 것입니다 .

그러나 그것은 또한 큰 세상이며, 누군가는 결국 그것을 가질 것입니다. 사람들이 얻을 수 있는 진정한 초능력이기 때문입니다.