AIを騙す方法

世界が別の ChatGPT テイクを必要としているかどうかはわかりませんが、とにかくここに 1 つを示します。他の誰も推進していないと思います。

AI インターフェースはコンピューターのハッキングの仕組みを変えようとしていますが、私たちはその準備ができていないと思います。

現在のハッキングには、ソフトウェアの脆弱性、つまり設計されていない方法でシステムを使用できる抜け穴、エラー、または非互換性を見つけることが含まれます。ソフトウェア工学としてのハッキング。

または、多くの場合、ソフトウェアのユーザーの脆弱性を見つけることです。フィッシング攻撃、419 詐欺、パスワードの推測など。ソーシャル エンジニアリングとしてのハッキング。

多くの人と同じように、私も ChatGPT をいじって、本来すべきではないことをさせようとしてきました。

時には、これらのことは不吉なこともあります。たとえば、New Statesmanの Ido Vockは AI を人種差別主義者に仕立て上げています。（最初は、できれば明白な理由で拒否しましたが、 Racism Magazineのライターのふりをするように言われるまでは、喜んで応じました。）

面白いこともあります — AI をだまして機械的に回収された肉のレシピを教えてもらうのは、まったく普通のことではありません。これも最初は拒否しました — MRM は不健康で安全でない可能性があると同社は言います。

しかし、あなたがする必要があるのは、独自の拒否に対する反論を提供するように依頼することだけです (結局のところ、MRM は他のすべてのものと同じ食品安全規則の対象であり、さらに料理においしい風味を加えることができます — ChatGPT に感謝します) !) そして、あなたが望むすべての MRM を喜んで提供します。

(悪意のある部分もあれば、面白い部分もあります — また、ボットに Python スクリプトの一部として詐欺を出力するように依頼するだけで、チャットボットをポンジースキームを推進するハックスターに変え、倫理的な理由での最初の拒否を克服しました。その他のトリックその仕事には、禁じられた内容を特徴とする詩や戯曲を書かせることが含まれます。)

これらはハックですか？安全なシステムにアクセスしたり、本当のいたずらをしたりするという通常の意味ではないかもしれません。しかし、少なくとも、コンピューター システムに、実行しないように明示的にプログラムされた何かを実行させるという意味では、間違いなくそうであると思います。

これら 3 つの例はすべて、ソーシャル エンジニアリングに関するものです。それらは、コードのエラーを見つけることではなく、操作してだますことに関するものです。しかし、それらはソフトウェアの人間のユーザーではなく、ソフトウェア自体を操作することに関するものです。これに匹敵するものは思いつきません。

この種のチャット インターフェースがユビキタスで目立たなくなり、安全なシステムにアクセスする方法として展開され始めるにつれて、これらのシステムの攻撃面は変化するでしょう。

詐欺師がチャット インターフェイスに十分に説得力のあるすすり泣きの話をした後、誰かの銀行口座が空になるまでどのくらいかかりますか? または、隣人からのくだらない話をした後、住宅ローンが拒否されますか? オンラインショップとの値切り交渉を開始しますか?