ボットをやっつけよう

Feb 21 2023

ChatGPT に対して次のどのような反応がありましたか? この新しいテクノロジーに慎重に足を踏み入れながら、私にできる最善のことは、たくさんの質問をすることです。ここでは、私の探索プロセスを部分的に文書化します。

DALLE-E を使用して作成されたシュールレアリズムイメージ: AI について心配する人間と、教室で音楽、文学、科学のスキルを披露するオウムを描いています。(DALL-E の名前は、サルバドールダリと WALL-E から取られています。)

ChatGPT に対して次のどのような反応がありましたか?

腕を振り回し、叫びます。「AI がここにあります。AIはここにあります。」
「人間であるとは一体どういう意味なのでしょうか？私にできることを機械ができるとしたら、何の意味があるでしょうか？」
「使ってみよう！」
「避けてください。というか、禁止してください。あるいは、少なくともそれを制御するかもしれません。」
「私にはある程度の自尊心があります。使ってないよ！」
「それは単なる流行のひとつです。それは通りますよ。」

この新しいテクノロジーに慎重に足を踏み入れながら、私にできる最善のことは、たくさんの質問をすることです。ここでは、私の探索プロセスを部分的に文書化します。私は書きながら学び、学びながら書いています。

このトピックに関する情報、アイデア、思考、意見 (ほとんどが人間が生み出したもの) が溢れています。さらなる質問や回答を教えていただければ幸いです。

質問1: AI をうまく活用できるようにするには、どのようなリテラシーを身につける必要がありますか?

人間中心のAI研究者であるドゥリ・ロング氏は次のように述べています。

「AI リテラシーとは、個人が AI テクノロジーを批判的に評価し、AI と効果的に通信および連携し、オンライン、家庭、職場でツールとして AI を使用できるようにする一連の能力です。」

彼女は AI リテラシーを 5 つの高レベルの質問に分けています。

AIとは何ですか?
AIには何ができるのでしょうか？
AIはどのように機能するのでしょうか?
人はAIをどのように認識しているのでしょうか？

AIリテラシーを高めるために私が勉強していることは次のとおりです。

AI テクノロジーを最大限に活用するために、プロンプトエンジニアリングは検討する価値のある分野です。実際、すぐに共有できるようになるのではないかと思います。

プロンプトエンジニアリングは芸術ですか? そして、AI ベースのツールに話しかけて、ユーザーが望んでいることを実行させる科学です。プロンプトは基本的なものから高度なものまで多岐にわたります。そして、高度なプロンプトを学ぶことは私たちにとって有益です。

基本的なプロンプトの例は、役割プロンプトです。これには、「あなたはカリキュラム設計者です」などと言って AI ツールに役割を割り当てることが含まれます。または、質問の最後に「ステップバイステップで考えましょう」と追加することで、AI にステップバイステップで考えるように依頼するゼロショットチェーンオブ思考プロンプトで、AI の考え方が説明されます。

プロンプトエンジニアリングは、私が 1 か月前までまったく知らなかった分野です。しかし、進化することで私たち人間は常に関連性を保つことができるので、私が受講しているコースへのリンクをここに示します。https://learnprompting.org/docs/intro

プロンプトエンジニアリングに関するコースのスクリーンショット

AI を情報に基づいて活用するには、AI がどのように機能するかを理解することが重要です。

AI の仕組みを知ることで、その限界を理解できるようになります。たとえば、AI に関する会話の中で、「AI には真実性がない」「AI は単なる単語予測マシンにすぎない」という言葉をよく聞きます。ChatGPT はインテリジェントではないため、その出力を解釈することで出力に意味を与えます。これだけ知っていると、出力を注意深く見る必要があることがわかります。したがって、AI の機能とその固有の制限について学ぶことが重要です。

ロング博士によると、AI は認知科学、機械学習、ロボット工学を含む広大な分野です。私は現在、自然言語処理 (NLP) とは何なのか、大規模言語モデル (LLM) とは何なのか、それらはどのように機能するのか、そしてこれがすべて起こったとき、私はどの岩の下で生きていたのかなどの疑問の端からこの獣を捕まえています。私の周りで発展していますか？

Stephen Wolfram の記事「ChatGPT は何をしているのか…そしてなぜ機能するのか?」は、非常に基本的なことから始まる包括的な読み物です。紙とペンを手にこの記事を読み、メモをとったり、回路図を描いたりすることをお勧めします。最初に読んだとき、私はいくつかの曖昧なアイデアを集めることになりました。https://writings.stephenwolfram.com/2023/02/what-is-chatgpt-doing-and-why-does-it-work/

AI テクノロジーに関する倫理的懸念を認識することは、教育に基づいて AI を使用するための重要なステップとなる可能性があります。

「確率論的なオウムの危険性について: 言語モデルは大きすぎる可能性がありますか?」は、データ、公平性、環境への影響におけるバイアスなど、AI に関する倫理的な問題を提起する論文です。これは ChatGPT に関するものではありません (GPT-3 までをカバーしています) が、提起された懸念は ChatGPT やその他の AI ツールに関連しています。

質問2:これらの言語モデル (LM) はどのような種類のデータに基づいてトレーニングされていますか?また、このデータはどこから調達されていますか? このデータの限界は何ですか?

非常に基本的なレベルでは、ChatGPT が WebText と呼ばれるデータのコーパスを利用していることを理解しています。このコーパスは、インターネット上で利用可能な人間が生成したデータで構成されています。さらに、WebText は静的データベースであり、特定の時点でインターネット上で利用可能なデータのスナップショットです。ChatGPT トレーニングデータは 2021 年に限定されていることに注意してください。

ChatGPT のスクリーンショット

たとえば、最近トルコとシリアで発生した地震について ChatGPT に尋ねたところ、それは 2020 年に発生した別の地震について言及していました。その後に続く一般的な応答は、今日のシナリオでももっともらしく、また、私たちがコンテンツにどのように意味を割り当てるかを示しています。

ChatGPT のスクリーンショット

「確率論的なオウムの危険性について」の中で、著者らは社会観が変化する世界における静的データの害について警告しています。最新の社会運動は、ChatGPT のようなツールによって生成される物語には現れないと彼らは言います。

質問3:言語モデル (LM) にはどのような種類のバイアスがありますか? そしてコンテンツをどのようにフィルタリングするのでしょうか?

インターネットは私たちの社会全体を代表するものではありません。アクセスの不平等、ソーシャルメディアサイトによる積極的な発言の抑圧、言語の壁などに悩まされています。これにより、ChatGPT などのツールのトレーニングに使用されるデータセットにバイアスが生じる可能性があります。そして論文「確率論的なオウムの危険性について: 言語モデルは大きすぎる可能性がありますか?」の著者たち。データセットが疎外された集団に対するバイアスを潜在的にコード化している可能性があることを確認しています。

「データセットが覇権主義的な観点を過剰に表現し、社会から疎外された人々に損害を与える可能性のあるバイアスをコード化する危険性があります…」

彼らは、言語モデルは自然言語理解 (NLU) を実行しておらず、主に言語形式を操作しているだけであると言います。これは表面的には無害に見えますが、人間は必然的に合成テキストを意味のあるものとして受け取るため、悪である可能性があります。

データが偏ったコンテンツを私たちに投げかけた場合、それをどのように処理するかは誰にも分かりません。どのようなチェックポイントを設けるのでしょうか?

質問4:私のプロンプトの結果として AI エンジンが生成したコンテンツは、法的に私のものですか、それとも ChatGPT に属しますか? 誰もが AI ツールを使用して何かを書く世界では、著作権の問題はどうなるのでしょうか?

質問5:逆に、私たちが生成したコンテンツが AI データセットによって使用されるのを防ぐ積極的なオプションを持つ、別のタイプの著作権を考え出すべきではないでしょうか? そして、そのようなルールは現場にどのような影響を与えるのでしょうか?

これらの質問を ChatGPT に貼り付けて内容を確認しましたが、これらの質問に対する答えはまだ見つかっていません。これについては喜んで読みますので、すべてのリソースを歓迎します。

質問6：何ですか？これらの深層学習システムの実行によって環境に重大な影響はありますか?

明らかに、これらのシステムの稼働には環境への影響があり、それは重大です。マーガレット・ミッチェル*と他の研究者は論文の中でこの事実に言及し、疎外された社会はそのようなイノベーションからほとんど恩恵を受けないものの、高い環境コストを支払っていると述べています。

確率的オウムの危険性について: 言語モデルは大きすぎる可能性がありますか?: 平均的な人間は年間推定 5 トンの CO2e を排出していますが、著者の Strubell らは、アル。ニューラルアーキテクチャ検索を使用して Transformer (大きな) モデルをトレーニングし、トレーニング手順により 284 トンの CO2e が排出されると推定しました。

質問7:これらの AI ベースのツールはどのような種類の株式問題を引き起こしますか?

ChatGPT のようなツールはすでにペイウォールの向こう側にあります。読み書き能力の欠如、コンピュータデバイス/インターネットへのアクセスの不平等、デジタルリテラシーの不足による既存の格差は、これらのテクノロジーによってさらに悪化するだけです。

質問8: AI ツールは学習データの生成と分析にどのような影響を与えますか? 定性データ研究はどのような効果をもたらしますか?

学習分析の分野を観察して、何が明らかになるかを確認するのは興味深いでしょう。

個人レベルでは、私の職場で従来の MOOC を実行する際、定性データを体系化し、回答を手動で分類してデータを分析しています。ChatGPT にコードと例を提供するだけで、分類されたデータを取得できます。これらのツールがどのようにしてこのようなプロセスを変え、おそらく私たちが尋ねる質問さえも変えることができるのか、不思議でなりません。

質問9:ほとんどのインストラクショナルデザイナー、教師、大学が心配している話題に移ります。ChatGPT は教育にどのような影響を与えますか?

これは広大な可能性を秘めた広範な質問であり、慎重な分析が必要ですが、より限定的な質問として次のようなことが念頭に置かれます。

ChatGPT は評価にどのような影響を与えますか?
学生が「カンニング」した場合はどうすればよいでしょうか? AI 検出ソフトウェアを使用して、学生が使用できないようにする必要がありますか?
よりパーソナライズされた学習支援のために AI ベースのツールをどのように活用できるでしょうか?
AI ベースのツールにより、コースを最初から生成する必要がなくなるでしょうか?
AI ベースのツールを使用すると、批判的に考える必要がなくなるのでしょうか?

評価の質問

きっと評価に対処するための戦略がたくさん出てくると思います。特に気に入ったものを紹介します。Aneesha Bakharia 博士は、適切なコンテンツを生成するための適切なプロンプトを考え出すには、知識、推論スキル、プロンプトスキルが必要であると述べています。したがって、生徒に AI プロンプトの履歴を共有してもらうのも 1 つのアプローチです。彼女は、AI プロンプト履歴を追跡、保存、共有するための次のツールも共有しました。https://sharegpt.com/

これらの AI 関連ツールの使用を受け入れることで学生がどのような権利を放棄するかはわかりません。したがって、他のテクノロジーツールと同様に、これは多くの教育者が通常の教室にこれらのテクノロジーを導入し始めるときに検討する問題になると思います。

不正行為の質問

いくつかの会議で、バハリア博士がこの問題に関して 2 つの非常に興味深い点を述べているのを聞きました。彼女によると、不正行為とは、生徒が AI を使用して解答を作成することを意味するのではなく、事前に作成されたプロンプトを使用して解答を生成することを意味するという。それは AI のレンズから不正行為を観察することです。

彼女がもう一つ指摘しているのは、おそらくテクノロジーではテクノロジーに勝つことはできないということだ。教師たちは、AI が作成したテキストを識別するツールの使用について話しています。しかし学生たちはすでに、AI検出ソフトウェアを打ち負かすために、AIが作成したテキストを言い換えるツールを使用している。つまり、このいたちごっこはうまく終わることはないだろう。

そのアイデアは、生徒を信じ、内発的動機づけを目指して指導し、指導に AI テクノロジーを組み込むことです。

パーソナライゼーションの質問

AIツールは究極の現場サポートガイドになると思います。MicrosoftはTeamsにAIを組み込もうとしている。おそらく、仕事の流れの中に AI が導入され、私たちを促し、指示することになるでしょう (ただし、現状では企業でのテクノロジーの使用にはデータセキュリティ、プライバシー、著作権への懸念が高いかもしれません)。

しかし問題は、AI がオンライン学習を破壊し、私たちが従来の教師中心のモデルから離れることになるのか、それとも従来の教育モデルを補助するものになるのかということです。

たとえば、従来の MOOC スペースのディスカッションフォーラムを調査していると、ディスカッションフォーラム内で発生するチャットに講師が応答する必要がないように設計されていることがわかりました。学習者は互いに対話し、事前に録画されたビデオ、事前に作成された解決策、または一般的なフィードバックの形式を通じて「理想的な」応答を受け取ります。従来の直線的な MOOC では、AI によって到達範囲を拡大できるでしょうか?

冗長性の問題

AI は確かにオンラインコースの設計プロセスに役立ちます。教育デザイナーが不要になるわけではありませんが、コンテンツ生成が AI によって支援されるため、より重要な学習者中心の設計を行う時間が解放されます。確かではありませんが、とにかくそれが私の推測です。

これは、ChatGPT に対象分野の専門家、学習デザイナー、およびプログラマー ( Liascriptを使用) の役割を果たしてもらい、ナビゲーション、検索機能、対話機能を含むコースを生成したAneesha Bakharia 博士による驚くべき例です。そしてそれが出力です:https://liascript.github.io/course/?https://raw.githubusercontent.com/aneesha/chatgpt_grammar_course/main/README.md

クリティカルシンキングの質問

検索エンジンは、人類の歴史の中で前例のないものを私たちに与えてくれました。これらは、データソースを検索し、選別し、信頼できると思われるソースを特定し、世界中のその分野の仲間とつながり、さまざまな思考プロセスに耳を傾け、新しい情報を吸収したり、データに関する新しい知識を形成したりする能力を私たちに与えてくれました。トピック。表面的には、AI ベースのツールが調理済みの食品を提供し、この探索プロセスの必要性を排除するかのように見えます。それはある程度は真実かもしれませんが、人間の主体性がなければツールがそこまで機能するとは思えません。このテクノロジーをうまく活用するには、探求し、学習し、研究し、その後テクノロジーと対話する必要があります。

ダニエル・ピンクの言うところの「アイデアの衝突」につながる、ランダムな検索、探索、仲間との対話は、創造的な成果を上げるために不可欠です。したがって、私たちは、AI ベースのツールを、これらのツールが吐き出す思考パターンやアイデアの構造に積極的に囚われないような形で使用する必要があると思います。これは積極的な実践であり、意識して継続する必要があります。

質問10:チャット GPT、DALL-E は私がこれまでに検討した 2 つのツールです。検討を開始できる他の AI ツールは何ですか?

次のステップ

人々は ChatGPT (AI ベースのツール) 用のダニングクルーガー効果グラフを作成しており、私はこの投稿を通じて誤ってそれをたどったと思います。

ChatGPT をデザインの学習に使用できる方法を探ることが、私のリストの次のことです。もちろん、そのためには、より高度なプロンプトスキルも学ぶ必要があります。これについては、おそらく別の投稿で文書化するでしょう。

全体として、私たちが努力し続け、協力し続ける限り、私たちは依然として機械の達人であり続けるでしょう。したがって、これらの質問を修正し、それらに対する答えを見つけ、このトピックに関するさらなる質問を作成するための興味深いリソースを共有するのを手伝ってください。一緒にボットを倒しましょう!