VALL-E의 사회적 위험

“AI는 새로운 전기입니다.” — 앤드류 응

우리는 이미 DALL·E 2 와 ChatGPT를 통해 AI(인공 지능)의 힘을 목격했습니다 . 이제 Microsoft는 단 3초의 오디오 샘플로 고품질 오디오를 생성할 수 있는 혁신적인 TTS(텍스트 음성 변환) 모델인 새로운 AI 도구 VALL-E를 출시했습니다.

VALL-E, "죽음의 계곡 ☠️" 또는 "VALL-E"의 개념은 고급 AI 기술의 급속한 발전이 우리의 이해 및 제어 능력을 능가할 가능성을 의미합니다.

VALL-E는 무엇입니까?

VALL-E는 기존 시스템보다 수백 배 큰 6만 시간 이상의 영어 음성으로 훈련된 신경 코덱 언어 모델입니다. 이는 화자의 감정 톤과 음향 환경을 보존할 수 있음을 의미하는 상황 내 학습 기능을 나타냅니다. 화자의 3초 등록 녹음만으로 고품질 개인화 음성을 합성할 수 있습니다.

VALL-E의 실험 결과

VALL-E 데모 페이지 에서 결과를 미리 볼 수 있으며 실제와 거의 동일한 음성을 복제할 수 있음을 관찰할 수 있습니다. 음성의 자연스러움과 화자의 유사성 측면에서 최첨단 제로샷 TTS 시스템보다 월등히 뛰어납니다.

VALL-E의 위험

VALL-E의 잠재력과 능력을 간과할 수 없습니다. 가상 비서 개선 또는 보다 현실적인 인간-로봇 상호 작용과 같은 많은 훌륭한 응용 프로그램의 잠금을 해제합니다. 그러나 우리 모두가 알고 있듯이

큰 힘에는 큰 책임이 따른다.

VALL-E는 화자의 신원을 유지하는 음성을 합성할 수 있기 때문에 음성 식별을 스푸핑하거나 특정 화자를 사칭하는 등 모델을 오용할 경우 잠재적인 위험을 수반할 수 있습니다.

당신이 XYZ 회사의 직원이라고 상상해 보십시오. 누군가가 VALL-E를 이용해 회사 CEO의 목소리를 흉내내어 허위 사실을 유포한다면 기업에 막대한 피해를 줄 수 있다. 또한 오디오 증거에 의문을 제기하는 것은 매우 어려울 것입니다.

Dark Readings는 한 사기꾼 그룹이 아랍 에미레이트 회사의 직원이 3,500만 달러를 송금하도록 설득하기 위해 회사 이사의 음성 가짜 오디오를 사용했다고 보고했습니다.

이러한 오디오 합성 도구가 미래의 사이버 범죄 활동의 일부가 될 것이라는 데는 의심의 여지가 없습니다.

VALL-E는 현재 공용으로 사용할 수 없지만 불확실한 미래를 향한 한 걸음입니다.

이 기사가 유익하고 흥미로웠다면 저를 지원하기 위해 저에게 커피를 사주는 것을 고려하십시오 . 귀하의 지원에 감사드리며 귀하를 위한 소중한 콘텐츠를 계속 만드는 데 도움이 될 것입니다.

체크아웃: VALL-E