人工知能は教育や社会の他の分野を混乱させるでしょうか? 専門家が検討します

ChatGPT と呼ばれる OpenAI 社によって作成された新しい人工知能システムは、眉をひそめ、新世代の人工知能が社会にどのように影響するかについての懸念を引き起こしています。 新しい AI テクノロジーは、無数のテーマについて信じられないほど知的な反応を生成することで、ユーザーを驚かせています。

TPRのジェリー・クレイトンは最近、博士と話しました. テキサス大学サンアントニオ校の情報システムとサイバーセキュリティの助教授である Anthony Rios 氏は、これらの進歩するテクノロジーが将来どのように変化する可能性があるかについて語っています。

Clayton: チャット GPT が実際にどのようなものか、簡単に説明してください。

リオス: GPT は基本的に言語モデルです。 つまり、言語モデルは、テキストが与えられ、そのテキストに続く次の単語を予測しようとするところです。 したがって、これらの言語モデルを実行しているとき、人々はさまざまな目的でそれらを使用することがよくあります。

したがって、テキストの要約に使用できます。 それらを使用して、ストーリーやジョークを生成できる可能性があります。 しかし、実際には、これらは入力としていくつかの単語が与えられた場合に、次の単語を予測する方法にすぎません。

クレイトン: それは単なるツールであるにもかかわらず、社会の一部の領域を混乱させるだろうと多くの人が言っています. 例として、教育。 学生はこのテクノロジーを使って基本的に自分の仕事をすることができますが、それは氷山の一角に過ぎません。 このテクノロジーをどのように制御できるのか、それともボトルから解放された魔神なのか?

リオス: 現在、特に無料で使用できるようになった今、これは多くの教授の間で大きな懸念事項であり、学生はこれを使用して最終試験の時間に試験問題に答えています. そして、それがそのために使用できることは間違いありません。

先ほども言いましたが、次の単語を予測する方法です。 したがって、入力プロンプト (試験問題など) として与えると、その試験問題に対する潜在的な回答を出力できます。 多くの場合、これは正しくない可能性があります。 しかし、多くの場合、そうなる可能性があります。 そして、学生がこれを使用して試験問題に答えるような試験や解答のシナリオから、特定の質問をする方法を再考することが本当に教授に戻ってくると言うのは非常に困難です.

これは必ずしも新しい言語モデルではありません。たとえば、コンピュータ サイエンスの学生が基本的にコーディングの質問に答えることができる言語モデルが他にもあるからです。 何が起こるかというと、基本的にこの種の質問を、そのモデルに渡したときに正確な正しい答えが得られないように記述しなければならないか、質問をする新しい方法を考え出さなければならないということです。正確な正解を教えてはいけません。

クレイトン: このタイプの AI は、より多くのクエリを取得するたびに常に学習していますか?

リオス: ユーザーのフィードバックから学んでいます。 基本的に、特定の入力に対する応答が正しいか正しくないかをフィードバックする、この強化学習パラダイムがあります。 そして、実際に OpenAI は、これを今すぐ無料で公開することで、多くのデータを取得して、人々が遊べるようにしています。

彼らは、モデルを微調整して改善するために使用できる多くの潜在的なデータを取得できます。 しかし、このモデルを支援している主な要素は、ユーザーが実際にこのモデルを使って遊んでいて、「これは良い反応で、これは悪い反応だ」、「これは良い反応だ、これは悪い反応だ」と言うことができるということです。 これは実際、OpenAI が将来モデルを微調整するのに非常に役立ちます。

クレイトン: では、GPT の能力に関するこれらの最初の主張のいくつかは誇張されている可能性があると思いますか?

リオス: 私が指摘したい主なことは、システムが適用されている多くの異なるアプリケーションに対して、システムがまだ適切に評価されていないということです。 したがって、このシステムをその場しのぎですべてのタスクに適用しただけでは、モデルが必ずしもうまく機能するとは限りません。 モデルがどのように機能するかはよくわかりません。

そのため、太陽の下ですべてのアプリケーションにシステムを適用するだけでは危険な場合があります. 繰り返しますが、それがどのように機能しているのかわかりません。 モデルのトレーニングにどのようなデータが使用されたかは、必ずしもわかりません。 そのすべての情報は OpenAI によって認識されており、現時点では OpenAI のみが認識しています。 繰り返しになりますが、非常に楽しいテクノロジーであり、遊ぶことができる可能性があります.

しかし、現時点で実際にそれを現実世界の状況に適用することは、実際には行われるべきではないと思います。または、それを適用したい人が特定のアプリケーションのために多くの時間と労力を費やして評価する場合にのみ行うべきだと思います.

Leave a Comment

Your email address will not be published. Required fields are marked *