VALL-E の社会的危険性

「AIは新しい電力です。」— アンドリュー・ン

私たちはすでにDALL・E 2とChatGPTを通じて AI (人工知能) の力を目の当たりにしています。今回、Microsoft は新しい AI ツール VALL-E を発表しました。これは、わずか 3 秒のオーディオ サンプルで高品質のオーディオを生成できる革新的な TTS (テキスト読み上げ) モデルです。

VALL-E、「死の谷 ☠️ 」または「VALL-E」の概念は、高度な AI テクノロジーの急速な発展が、私たちの理解と制御の能力を上回る可能性を指します。

ヴァリーとは何ですか？

VALL-E は、既存のシステムの数百倍となる 60,000 時間以上の英語音声でトレーニングされたニューラル コーデック言語モデルです。コンテキスト内での学習機能が出現し、話者の感情のトーンや音響環境を保存できることを意味します。わずか 3 秒間の話者の登録録音で、高品質のパーソナライズされた音声を合成できます。

VALL-Eの実験結果

VALL-E デモページで結果をプレビューすることができ、ほぼ同一の音声をグラウンド トゥルースとして複製できていることがわかります。音声の自然さと話者の類似性の点で、最先端のゼロショット TTS システムよりも大幅に優れています。

VALL-Eの危険性

VALL-Eの可能性と実力を見逃すわけにはいきません。それは確かに、仮想アシスタントの改善やより現実的な人間とロボットの対話など、多くの優れたアプリケーションのロックを解除します。しかし、誰もが知っているように、

大きな力には大きな責任が伴います。

VALL-E は話者の身元を維持した音声を合成できるため、音声 ID のなりすましや特定の話者になりすますなど、モデルの悪用には潜在的なリスクが伴う可能性があります。

あなたが XYZ 社の従業員であると想像してください。誰かが VALL-E を使って会社 CEO の声を真似て偽情報を流布した場合、企業に多大な損害を与える可能性があります。また、音声証拠に疑問を呈することは非常に困難です。

ダーク・リーディングスは、詐欺師グループが同社取締役の声の偽音声を使用して、アラブ首長国連邦の企業の従業員に3,500万ドルを送金するよう説得したと報じた。

将来的には、このような音声合成ツールがサイバー犯罪活動の一部となる可能性が高いことは疑いの余地がありません。

現在、VALL-E は一般公開されていませんが、これは不確実な未来への一歩です。

この記事が有益で興味深いと思われた場合は、私をサポートするためにコーヒーを買うことを検討してください。皆様のご支援に大変感謝しており、今後も価値あるコンテンツを作成していくために役立てさせていただきます。

チェックアウト: VALL-E