ヒューリスティックは ChatGPT を改善できますか?

心理学は、研究者がコンピューターに「考えさせる」ことができることに気付いて以来、AI の作成にインスピレーションを与える分野の 1 つです。 それ以来、強化学習の否定できない台頭に見られるように、AI 研究者は心理学派の概念を「借用」してきました。 条件付けに加えて、機械学習分野は心理学からもう 1 つの重要なアイデアを借りています。 経験則.

ヒューリスティック ソリューションは 100% 正確ではありませんが、妥当な精度で迅速なソリューションを提供します。 また、ヒューリスティック ルールを使用してアクセスできるデータ マップ構造を作成することで、データの肥大化を抑えるためにも使用できます。 この概念は、AI エージェントの低計算コストを実現するための鍵となる可能性があり、GPT 3.5 のような LLM のサイズにまで拡張される可能性さえあります。 ヒューリスティックスが実際に AI エージェントをより良くすることができるかどうかをさらに掘り下げてみましょう。

ヒューリスティックの説明

コンピュータ サイエンスにおけるヒューリスティックスは、最適解よりも速く問題を解決する幅広いソフトウェア最適化を指すために使用されます。 ヒューリスティックな方法はより高速なソリューションを提供しますが、通常、速度と引き換えに精度、精度、または完全性を犠牲にします。 このため、ヒューリスティックはしばしば効果的ですが、すべての状況で機能するとは限りません。

この概念が導入されて以来、人工知能アルゴリズムは長い間、さまざまな形でヒューリスティックを使用してきました。 ヒューリスティックの最初のアプリケーションの 1 つは検索アルゴリズムで、ファースト ベスト ヒューリスティック検索法などの手法が使用されました。 検索アルゴリズムは、オプションの分岐ツリーから特定の基準セットを満たすノードを選択します。 これに対するヒューリスティックなアプローチは、距離を最適化し、開始ノードからの距離を増やすことによってグラフのノードを拡張します。 目標ノードに到達するまでこれを行うため、ほとんどの場合、迅速なソリューションが得られます。

他のよく知られているヒューリスティック最適化には、「巡回セールスマン問題」を解決するために使用される最も近いヒューリスティック ネイバーが含まれます。 巡回セールスマン問題では、膨大な数の都市間の最短経路を見つけるアルゴリズムが必要です。 最も近いヒューリスティック ネイバーは、まだ訪れていない都市を次の目的地として選ぶことで問題を解決します。 これは最適なソリューションを提供するものではありませんが、適切な数のリソースを使用して問題が解決されることを保証します。

お分かりのように、ヒューリスティックはすでに AI プログラミングの一部としてうまく設計されています。 ただし、人間の脳がヒューリスティックにアプローチする方法は根本的に異なります。 大規模なニューラル ネットワークに革命をもたらすアプローチです。

読む: ChatGPT クローンに注意

未来のヒューリスティックス

心理学では、ヒューリスティックという用語は、人間が認知において取る精神的な近道を指すために使用されます。 これらのヒューリスティックは、何年にもわたる進化の過程で開発された戦略であり、人間が迅速に意思決定を行い、より複雑な問題に対する迅速な解決策を見つけることを可能にします。 この概念は、リソースに制約のある環境でプログラムがタスクを迅速に実行できるようにする方法として、コンピューター サイエンスで採用されました。

人間の心理学には複数の種類のヒューリスティックがありますが、AI アルゴリズムに適用すると成功するものもあります。 これらの 1 つ目は、トレーニング タスクに適用できる「代表的なヒューリスティック」です。 代表性ヒューリスティックにより、人間は状況を最も近い代表的なメンタル プロトタイプと比較することで決定を下すことができます。

このヒューリスティックをニューラル ネットワークに実装すると、AI のバイアスを防ぐのに役立つ可能性があります。 アルゴリズムの理想的な状態を表すモデルの「代表的な状態」を作成することで、エージェントの参照として使用できます。 エージェントは、結果の一部で信頼スコアが低い場合に、代表的な状態を参照するようにコーディングできます。これにより、ニューラル ネットワークによる決定に忍び寄るバイアスの量を減らすことができます。

読む: ChatGPT は素晴らしいですが、Google と競合するにはそれ以上のことが必要です

2 番目のタイプは「ヒューリスティック アベイラビリティ」です。これは、最も簡単に入手できる情報をピックアップすることで、意思決定に必要な時間を短縮します。 これは、特に ChatGPT のようなチャットボットに焦点を当てた LLM で適用された場合、AI で最も多く使用されるヒューリスティックです。

ChatGPT でヒューリスティックな可用性を実装することにより、最小限のリソース使用率で会話メモリをチャット間で保持できます。 情報マップを作成することにより、AI エージェントは、毎回アルゴリズムを実行する必要なく、チャットの会話履歴全体を保存できます。 この情報は、ヒスリスティックな可用性の解釈によってアクセスできます。これは、その可用性に基づいてマップ内で最も関連性の高いキーワードを見つけるために使用できます。

ただし、ヒューリスティックは、人間の思考プロセスに偏りを引き起こすことがよくあります。 これに加えて、コンピューター サイエンスのヒューリスティックも、速度のために完全性や精度を犠牲にするため、不正確なソリューションを提供します。 また、ほとんどのコンピュータ ヒューリスティックは科学的手法に基づくものではなく、大多数のユース ケースでたまたまリソースを節約するための経験則の実装にすぎません。 他のすべての概念と同様に、最新の AI エージェントではヒューリスティックを適度に使用する必要がありますが、効果的な実装により、コンピューティング要件を大幅に削減できます。

読む: ChatGPT の知恵の裏側: 3000 億ワード、570 GB データ

Leave a Comment

Your email address will not be published. Required fields are marked *