“당신은 살아서 당신의 이해를 넘어서는 인간이 만든 공포를 볼 수 있습니다”

예술과 AI 3부

이것은 제가 AI와 예술에 대해 쓴 일련의 게시물 중 세 번째입니다. 이것들은 가볍게 편집되었고 생각의 흐름을 입력했지만, 나는 그들이 부주의하지 않기를 바랍니다.

1부 에서는 시각화 앱이 소위 공개 담론에서 얼마나 많은 즉흥적인 질문을 제기했는지 다루었습니다. 해당 작품과 다른 작품의 사본, 그렇다면 어떻게?” — 실제로 지난 세기 또는 그 이상에 걸쳐 예술과 예술가 사이에서 이미 오랜 질문과 분열이 가속화되었습니다.

2부 에서는 현재 프로세스를 통해 AI를 실제로 시작하려는 방법에 대한 예를 제공하기 위해 현재 작업 흐름을 엿볼 수 있었고 첫 번째에서 제기된 추가 생각과 질문을 추가했습니다.

나의 열정에도 불구하고 저는 AI를 "좋은" 사람만을 위해 세상을 변화시킬 만병통치약으로 보지 않습니다. 현재 상황은 Fantasia의 "Sorcerer's Apprentice" 섹션과 더 유사할 수 있습니다.

이러한 시각화 응용 프로그램과 같은 혁신적인 도구는 최종 용도에 관계없이 AI가 무기, 메타인지(AI 비서), 의학 및 생명 공학, 딥페이크/허위 정보 대 탐지 군비 경쟁 등. 위대하고 끔찍한 일이 일어날 가능성이 높습니다. Tesla는 "당신은 당신의 이해력을 넘어서는 인간이 만든 공포를 보기 위해 살 수도 있습니다."라고 말했습니다.

생성 이미지의 상대적으로 작은 영역에서도 잠재적인 폭풍 구름이 수평선에 모이는 것을 봅니다. 나는 현실적인 단점에 대해 생각하고 그 명확성을 방해할 가능성이 있는 널리 퍼진 오해를 계속 살펴보는 것이 중요하다고 생각합니다. 이 주제에 대한 마지막 글이 되길 바랍니다. 그 공포가 무엇이든, 그들은 다가오고 있습니다. 지금까지 피해자가 없었던 범죄를 선정적으로 만들려고 시도하기보다는 대비하는 것이 더 나을 것입니다.

그게 무슨 뜻이야? 현재 공개적으로 사용할 수 있는 시각화 앱의 대부분은 오픈 소스 프로젝트, 상대적으로 작은 개인 신생 기업 또는 스켈레톤 팀과 함께 실행되는 개발 프로젝트입니다. 그들 모두는 여전히 "출시 전 테스트", 즉 Beta-에 있습니다. Stability.ai가 공개 애플리케이션을 개발하기 위해 1억 1백만 달러 의 VC를 받은 것은 사실이지만 더 큰 Stable Diffusion 프로젝트는 오픈 소스로 남아 있습니다.

Midjourney 는 성장할 만큼 충분히 잘하고 있지만 현재 직원은 11명이며 개발자는 스스로 급여를 설정하고 공모나 판매 없이 다른 방식으로 진행하도록 할 계획입니다. 그들은 스스로를 독립적인 연구실로 정의했으며 앞으로도 그렇게 할 것입니다. 이제 누군가 코 밑에서 10억 달러를 흔든다면 그들이 그것을 고수할지 여부는 또 다른 이야기이지만, 이 시점에서 막대한 매진이 줄을 예상하는 것은 그림자에 뛰어드는 것입니다.

이 모든 것은 Nvidia , Google 및 Adobe 와 같은 회사 가 베타 개발 프로젝트를 공개 영역에 던질 때와 비교할 때 여전히 작은 변화일 가능성이 높습니다 . (물론 그들 중 다수는 이미 "AI"라고 부를 수 있는 것을 사용하는 공모를 가지고 있습니다.)

덧붙여서 Stability.ai와 Adobe는 "아티스트 스타일 훔치기"에 대한 소문을 분명히 보았고 사용자가 여전히 동일한 스타일에 영향을 미칠 수 있지만 아티스트 이름에 키가 지정되지 않은 스타일에 향후 롤아웃에 집중하고 있습니다. 그들의 이름보다 용어. 그것이 사람들을 진정시키는 것이라면 그것은 나에게 꽤 재미있을 것입니다.

1부에서 나는 AI가 성숙하고 기업과 정부가 예산에 맞춰 채택함에 따라 "편향 문제"라는 몇 가지 분명한 결과를 지적했습니다. 편향 문제는 어떤 의미에서 기술보다 우리에 관한 것입니다. 잠시 후에 사실인 다른 방법에 대해 알아보겠습니다.

“AI 편향은 인간이 알고리즘이 사용하는 데이터를 선택하고 해당 알고리즘의 결과가 어떻게 적용될지 결정하기 때문에 발생합니다. 광범위한 테스트와 다양한 팀이 없으면 무의식적인 편견이 기계 학습 모델에 들어가기 쉽습니다. 그런 다음 AI 시스템은 이러한 편향된 모델을 자동화하고 영속화합니다.” Forbes .

그러나 지금까지 내가 본 대부분의 비판은 그들이 주장하는 일종의 대규모 미술품 강탈에 훨씬 더 관심이 있는 것 같습니다. 요점을 말하자면, 내가 계속 듣는 착취를 현재 누가 하고 있는지 명확하지 않습니다. 물질적으로 피해를 입은 사람은 누구입니까?

저자, 위조, 위조, 진정성 대 재현 가능성의 문제는 모두 아티스트와 우리와 연관될 정도로 평판이 좋지 않은 사람들 사이에서 이러한 상시적인 논쟁의 예이지만 어쨌든 "이번에는 다릅니다." 물론이죠, Jan. 누군가가 정말로 "절도" 또는 "모든 예술가의 창의적 노동을 착취"하고 있다면, 그 사람들이 누구인지 상당히 명확해야 합니다. 다른 하나.

예술과 인공지능 주제에 대한 이 게시물은 당시 내 생각을 설명하는 것이었고 불변할 의도가 없었기 때문에 이 "예술 강탈"의 물질적 효과를 놓쳤을 가능성은 항상 있지만 세 가지 중 어떤 것과 관련된 유형의 것도 찾을 수 없었습니다. 시간을 들여 실제로 읽어보면 훈련 세트에 관한 것이 아닙니다. 기존 스타일에서 배우고 모방하는 것이 범죄라면 AI가 등장하기 전에 일하는 예술가들이 무엇을 했는지 모두에게 나쁜 소식이 있습니다. 처음부터 모든 사람이 스스로 작업할 자료를 만들어야 한다는 논쟁이 있다면 언어가 작동하는 방식에 대한 나쁜 소식이 있습니다. 어떤 의미에서 인간의 상상의 영역 전체는 레디메이드의 행렬이다.

현재 이와 관련하여 일어나고 있는 것처럼 보이는 모든 것은 많은 상처받은 감정과 성급한 판단입니다. 소셜 미디어는 분노를 이익으로 바꾸려는 기계로 진화했기 때문에 이것은 놀라운 일이 아니지만 실제 위험이 무엇인지로부터 우리의 주의를 분산시키는 역할을 할 수도 있습니다.

Disney와 같은 회사가 AI 지원 "배우 페르소나"의 가상 캐시에 IP 보유를 집중시키거나 귀하의 신원을 영구적으로 소유할 수 있는 경우 어떤 일이 발생하는지 생각해 보십시오. (또는 어쨌든 사망 후 70년 동안). 전체 프레임워크가 처음부터 다시 고려되지 않을 경우 IP 법률의 엄격함을 강화하는 것보다 실제로 완화하는 것이 좋습니다.

우리가 하는 일을 알지 못하니 우리를 용서하소서.

예술가로서 이 기술이 내 삶을 더 어렵게 만들 수 있다고 예측하는 첫 번째 방법은 상당히 평범하게 시작할 가능성이 높습니다. 예술계에서 잘 알려진 논쟁에 대한 기존의 오해를 악화시키고 현실 세계에 영향을 미칠 것입니다. 이것을 "편견 문제"의 하위 집합으로 간주할 수도 있습니다. 시각화 앱은 예술가의 정체성과 활동("잘 그리는 사람")에 대한 이미 근시안적인 대중의 견해를 과장할 수 있으며, 이러한 근시안이 우리가 사용하는 것에 스며들 수 있습니다. 예술가 가 하는 일에 대한 대중의 감각뿐만 아니라 이러한 다소 개방적인 도구입니다 .

사람들은 빠르고 쉽게 보고, 진정으로 관심 있는 완성 작품을 만드는 데 무엇이 들어가는지 인식하지 못한 채 예술 이 쉽다고 생각하거나, 디자인이나 일러스트레이션은 "예쁜 그림을 만드는 것"이 ​​아니라 문제를 해결하는 것이라고 생각할 것입니다.

이러한 오해 중 두 가지가 나에게 쉽게 명백해 보이며 확실히 더 많은 오해가 나타날 것입니다.

• 이미지는 그 자체로 이미지일 뿐입니다. 특정 감정이나 질문을 불러일으킬 정도로 단순한 일이라도 무언가를 하기 위해 활용되어야 합니다 . 이를 위해서는 의도가 필요하고 의도된 "사용"의 맥락에 대한 이해가 필요합니다. (동시에 예술은 그 관계를 분리하거나 이미 존재하는 것을 다른 맥락에 배치하는 것을 중심으로 진행될 수도 있습니다.)
• 비주얼 아티스트는 사실 단순히 "그림을 잘 그리는 사람"이 아니며, 이러한 믿음이 AI의 존재 속에서 지속되는 한 오해를 가속화할 뿐입니다. 매체를 사용하여 재현하는 기술적 능력인 "그리기 좋은 것"은 그 자체가 목적을 위한 수단입니다. 그 의도에는 또한 선택의지와 분별력이 필요합니다.

“삽화가 30시간 걸린다는 것은 무슨 뜻입니까? 내 사촌/삼촌/형제 친구가 Midjourney에 입력하면 5분 안에 피자 2조각을 할 수 있습니다!”

어쨌든 이 경우에 내 반응은 항상 그랬던 것처럼 될 수 있습니다. 그러면 당신의 사촌을 고용하십시오. 어떻게 되는지 알려주세요. (또는 더 좋은 방법은… 하지 않는 것입니다.) Bowie가 이 기사 시작 부분의 비디오에서 말했듯이 " 갤러리에서 재생하지 마십시오 ."

솔루션이 있다면, 에이전시의 역할, 의도, 그리고 무엇보다도… 프로세스에 대한 더 나은 교육입니다. 20세기에 얼마나 많은 예술가들이 창작자로서 저자/예술가의 역할에 대한 우리의 생각을 혼란스럽게 하기 위해 프로세스에서 의도와 행위자를 제거하려고 시도했는지를 고려할 때 이것은 특히 아이러니합니다.

2부에서 살펴보았듯이 모든 사람이 귀하의 프로세스를 알고 싶어하는 것 같습니다. 실제로 귀하의 프로세스를 듣고 싶어하는 사람은 아무도 없습니다. 특정 이미지가 어떻게 개발되었는지 기꺼이 공유하겠지만, AI가 이미지의 일부가 된 이후로 이렇게 자주 내 프로세스가 무엇인지 물어본 적이 없습니다. 사람들이 실제로 내 작업 흐름을 알고 싶어하지 않고 방법 때문에 결과를 의심할 기회를 찾고 있다는 의심이 듭니다.

여기에서 우리는 널리 퍼져 있는 또 다른 오해에 직면하게 됩니다. 프로세스가 어려울수록 예술은 더 예술적입니다.

Andy Goldsworthy 와 같은 아티스트를 예로 들어 보겠습니다 . 그의 작업은 대부분 자연적인 과정의 결과입니다. 개울에 던져진 나뭇잎, 얼음이 녹는 것 등입니다. 그는 사진을 찍기 위해 적절한 빛의 품질을 얻기 위해 때로는 여러 시간 동안 또는 다른 부적절한 시간 동안 추위 속에서 눈에 띄어야 합니다.

이제 구성에서 I Ching 과 같은 "우연 제어 창조물"을 John Cage가 사용 하거나 이전에 사용한 예인 4'33"을 살펴보겠습니다. 콘서트 홀에 조용히 앉아 있는 것은 Andy Goldsworthy가 하는 일에 비하면 그리 많은 일이 아닙니다.

그것은 Goldsworthy가 더 어렵기 때문에 "더 나은" 예술가라는 것을 의미합니까? 그렇다면 손톱 바닥에 누워서 그림을 그린다면 발 마사지를 받으면서 그림을 그리는 것보다 더 나은 작품이 될까요? 우리 자신을 더 어렵게 만들고 우리의 선택권을 제한하는 등은 특정 의도에 적용될 때 창의적인 행동에서 역할을 할 수 있습니다. 단순히 그 자체를 위해 하는 것은 명백히 바보입니다.

예술 창작의 희소성과 난이도를 의도적으로 높이는 클래스 요소도 있습니다. "모든 사람을 위한 것"입니까, 아니면 자신의 기술에 전념할 가능성이 있지만 근본적으로 게이트키퍼, 학교에 의해 통제되는 소수의 특별한 사람들을 위한 것입니까? , 혈통 등, 특히 취미보다 더 나아가고 싶다면. 역시 평민이면 누구나 예쁜 사진을 찍을 수 있지만 저는 '진정한 예술가'죠?

나는 당신이 문제를 볼 수 있다고 생각하지만 반드시 하나의 정답 이 있다는 것을 의미하지는 않습니다 .

제가 여기서 탐구하고 있는 위험은 우리가 사회의 일부로서 관여할 수 있는 새로운 기술의 위협과 유사할 수 있습니다. 물론 시장 혼란이 있을 수 있습니다. 시각화 앱이 궁극적으로 그 과정에서 더 많은 일자리를 창출하거나 파괴할지 ​​여부를 알기에는 아직 너무 이르다고 생각하지만 더 치명적인 것은 사회적 영향입니다. Stable Diffusion이 인쇄기처럼 유혈 사태를 일으킬 것이라고는 기대하지 않지만 예상치 못한 방식으로 우리의 오해를 더욱 무기화할 수 있습니다.

또 다른 비유는 좀 더 적절할 수 있습니다. 바로 검색 엔진입니다.

인터넷 검색이 실제로 인간 지능에 혁명을 일으키지 않은 것처럼 — (표면적으로는) 손끝에 모든 것을 가지고 있다고 해서 더 나은 질문을 하거나 무엇을 물어봐야 할지 알 수 있는 추가적인 능력이 부여되지 않기 때문에 — 예술에 대한 기계 학습.

시각화 앱 자체는 검색 엔진에 대한 완벽한 아날로그가 아니지만 결과는 이미 존재하는 다양한 IP가 아닌 대규모 교육 세트를 기반으로 하는 생성 생성이므로 더 나쁜 비유가 만들어질 수 있습니다. 최소한 사용자 입장에서는 무언가를 요청하고(“아르데코 물고기 사진을 주세요”) 전달하는 포털처럼 보입니다.

나는 이전 기사에서 이 기술을 정확히 이러한 이유로 도구로 구성했습니다. 의도와 행위자는 도구와 도구를 사용하는 사람을 구분하는 계층 구조를 의미합니다. 언젠가 기계 학습 알고리즘으로 작업하는 것이 관계를 다시 생각해야 하는 진정한 협업에 가까워질 수도 있지만 지금은 그렇지 않습니다.

Google 검색이 예술가에게 유용할 수 있지만 아무도 묻지 않습니다. 현재 상태로는 Midjourney가 아티스트인지 묻는 것도 앞뒤가 맞지 않습니다. 때로는 장난기와 비슷한 것을 나타내더라도 의도성이나 주체성이 없습니다. 기껏해야 결정화와 같은 자연적인 과정에 가깝습니다.

한편으로 Google은 기업으로서 중립적인 존재도 아니고 자비로운 존재도 아닙니다. 그것의 주요 목표는 이익이며 따라서 공공 정보의 좋은 청지기가 아닙니다. 그러나 우리는 여기에 있습니다.

다른 한편으로, Google 검색의 사회적 영향은 우리의 선입견과 편견을 증폭시키는 잠재력과 훨씬 더 관련이 있으며, 소셜 미디어가 자체적으로 "the" 알고리즘을 적용하는 것보다 약간 더 미묘한 "필터 버블"에 우리를 안치합니다. 이 효과의 대부분은 알고리즘의 결과 가 아니라 오히려 우리가 그것에 가져오는 질문과 우리가 묻는 방식의 결과입니다.

당신은 세상의 모든 정보에 접근할 수 있는 권한을 부여받았습니다.* 정보를 더 잘 알고 있다고 느끼십니까? 해당 액세스 권한으로 질문한 내용이 변경되었습니까? (그렇지 않은 경우에도 다른 이유가 있을 수 있지만 있는 것처럼 놀랍습니다.)

따라서 이 비유에 두드러진 점이 있다면 이러한 앱이 제기하는 실제 위협은 대기업이 이익 획득이라는 단일 목표를 위해 앱을 활용하는 방식과 대중이 는 예술가가 사실 물고기 사진을 요청하면 제공하는 장치가 아니라는 것을 이해하는 데 필요한 미학에 대한 참여 수준에 준비가 되어 있지 않습니다.

예술과 인공 지능에 대한 첫 번째 기사를 시작한 것과 동일한 수수께끼로 끝납니다.

"예술이란 무엇입니까?" 끝없는 후렴구입니다. 분노하고 겉보기에 자급 자족하는 Zen koan과 같습니다. 당신이 그것을 진정으로 고려하는 순간, 상자를 둘로 나누는 반례를 즉시 찾을 수 없이는 그것이 어떤 상자에도 들어맞을 수 없다는 것을 알게 됩니다.

그것은 질문이라기보다 생각을 끝내는 진부한 표현이 되었습니다. 특정 스타일이나 접근 방식이 무의미하다고 말할 수 있으며 그 안에서 가장 심오한 의미를 찾은 사람들의 구체적인 예를 끝없이 찾을 수 있습니다. 칸트가 그랬던 것처럼 아름답고 숭고하다고 말할 수 있습니다. 비록 단순히 타이타닉호의 갑판 의자를 재배치하는 그의 초월적 이유의 보편화는 없었습니다.

예술은 갤러리에 걸린 소변기입니다. 음악당의 침묵, 골목길의 펑크 록 쇼, 절대 볼 수 없는 그림이다. 그것은 우리 중 누구보다 크며, 또한 오직 한 마음 안에서만 일어납니다. 우로보로스입니다. 그것은 단지 하나의 매체가 아니며, 하나의 감각에 국한되지 않습니다. 당신의 인생을 바꿀 적절한 순간에 포착한 짧은 이야기입니다. 그것은 당신이 끝내지 못한 채 시작한 소설입니다.

명성, 기술력, 추정 금전적 가치로 평가할 수 있을까? 지금까지 살았던 가장 유명한 예술가 중 일부는 어린이 그림보다 더 복잡해 보이지 않는 그림을 수백만 달러에 팔았고, 고품질 카메라를 돈을 벌 수 있는 제도 기술을 개발하는 데 수십 년을 보낸 무명의 예술가가 있습니다. 그 반대. 어떤 경우든 겉모습은 속일 수 있으며 예술은 참으로 속이는 경우가 많다는 점을 기억하는 것이 현명할 것입니다.

모든 것에 대해 "예술이란 무엇입니까?" 진부한 질문 인 것 같습니다. 간단하고 하나의 답이 있어야 하는 것처럼, 우리가 그 답을 정할 수만 있다면 우리 모두 그림 그리는 것을 멈추고 집에 가서 푹 잘 수 있을 것 같습니다.

끝도 없고 답도 없습니다. 비주얼 아티스트가 드래프트 기술이나 선 작업을 개발하고 싶어하는 이유, 베이시스트가 스케일과 프레이징을 연습하고 싶어하는 이유는 많습니다. 나는 우리가 그런 종류의 공예품에 넣는 것의 가치를 지나치게 가치 있게 여기지 않고, 더 나쁘게는 우리가 처음에 왜 그런 노력을 기울이고 싶은지 망각하지 않고 계속해서 그 가치를 존중하기를 바랍니다. 그 자체로는 끝 이 아니었 습니다. 나는 굳은살을 좋아해서, 또는 내가 "진정한 예술가"임을 증명하고 싶어서 굳은 살을 붙인 것이 아닙니다. 베이스를 치고 싶어서 했어요.

우리는 예술과 삶에 대한 고통스러울 정도로 환원적인 시각에 적극적으로 저항해야 합니다.

세컨드 라이프가 우리와는 전혀 다른 열린 가상 세계를 만들 수 있는 가능성을 처음 제안했을 때, 어떤 사람들은 가상 "공간"이 사용될 수 있는 것을 활용한 가상 공연과 갤러리 쇼를 할 기회에 뛰어들었습니다. 기술은 초보적이지만 성공 여부에 관계없이 창의적인 경계를 넓히려는 시도에 찬사를 보냈습니다. 그러나 훨씬 더 발전하면서 SL은 카지노, 스트립 몰, 스트립 클럽과 비슷해졌습니다. 물론 이것은 어항과 같은 상대적으로 작은 프로젝트에 불과했지만 사람들이 "문자 그대로 무엇이든 상상할 수 있는" 자유 라이선스를 받았을 때 선택하는 경향이 있는 특정 문제를 보여줍니다.

프로그래머, 프린지 아티스트, 이상한 사람들을 위한 모임에서 글로벌 시장으로 "소셜" 인터넷이 변모하는 것을 보면 시각화 앱의 진정한 위험이 희미하게 보일 수 있습니다.

오해하지 마세요. 나는 고양이가 간식으로 약간의 살라미 소시지를 먹는 것을 시각화하기 위해 AI를 사용하려는 사람들을 저격하거나 모든 시각화가 창의적인 경계를 넓혀야 한다고 말하는 것이 아닙니다. 우리는 배트맨이 스파게티 한 그릇을 먹게 할 수 있고 부끄러움 없이 레오나르도 다빈치 스타일의 이상한 나라의 앨리스로 분장한 할리 퀸을 가질 수 있습니다. 시각적 상상에는 단순한 기쁨이 있으며, 이러한 도구가 기본적인 진입 장벽을 낮추는 것이라면 분명히 나쁘지는 않습니다.

그러나 나는 또한 한계가 사라지면 우리가 무엇을 상상하게 될지 궁금합니다. AI는 시각화를 훨씬 쉽게 만드는 동시에 "좋은 예술"을 잠재 고객을 덜 혼란스럽게 만들 것입니다. 어떤 질문에 도달해야 하는지 알려주지 않습니다. 무엇이 의미가 있는지, 왜 우리가 먼저 묻는지 알려주지 않습니다.

예술이란 무엇입니까? 다음으로 만들 수 있는 상상력과 비전은 무엇입니까? 그리고 그 이후, 그리고 그 이후에는... 그 질문을 전혀 하지 않는 것이 좋습니다. 그림을 그리거나 프롬프트를 표시하거나 색을 수정하느라 너무 바빠요.

그것은 만들고자 하는 단순한 충동과 그 결과를 반복하고 개선해야 할 필요성에서 시작됩니다. 그리고 굳은 살을 획득하는 과정과 " 무엇 을 향해 개선 할 것인가?" 시작합니다. 어떤 매체든, 어떤 방법이든. 우리의 답변은 이 기술을 사용하거나 사용하지 않고 미래를 만들 것입니다.

AI 예술에 대한 나의 가장 큰 두려움은 그러한 답변이 얼마나 얕고 폐쇄적인지를 보여주는 것일 수 있습니다. 그렇다면 그 잘못은 여전히 ​​인간적이며 너무도 인간적일 것입니다. 그것이 제기하는 위험에 대해서도 마찬가지입니다.

내가 틀렸으면 좋겠다.

*실제로 Google 검색을 통해 전 세계 정보에 대한 전체 액세스 권한이 부여되지 않았으며 그 신화가 문제의 일부입니다. 그러나 그것은 다른 날을 위한 벌레 통조림입니다.