ChatGPT はテクノロジーの世界に旋風を巻き起こし、進歩とアップデートが不足することはありません。しかし、高度なテクノロジーを使用しているにもかかわらず、現在のバージョンには制限要因がかなりあります。
そのような要因の 1 つはトークン システムです。トークン システムは進化のサイクルを破壊し続け、アプリの実用性を低下させています。ChatGPT を使用する場合は、ChatGPT のトークンについて、またトークンが不足した場合の対処方法について知っておくとよいでしょう。
少し立ち止まって、アプリの基本的な動作メカニズムについて知っておくべきことをすべて説明しましょう。
ChatGPTトークンとは何ですか?
アプリの外観だけを見ると、ユーザーの指示に従って、求める答えを返すコンピューター言語しか見えません。しかし、バックエンドは大量のコードで構成されており、毎分学習して、回答する質問に追いついていきます。
ChatGPT は、質問するたびに各単語を判読可能なトークンに変換します。さらに詳しく説明すると、トークンはテキストの断片であり、各プログラミング言語は要件を理解するために異なるトークン値のセットを使用します。
コンピュータはテキスト値を直接理解できないため、テキスト値を数値の組み合わせに分解します。これは埋め込みと呼ばれることが多いです。次のような関連する数値のリストに似たPythonリストのような埋め込みも考えられます。 [1.1,2.1,3.1,4.1…n]。
ChatGPT は最初の入力を受け取ると、以前の情報に基づいて次の可能な入力を予測しようとします。以前のトークンのリスト全体を選択し、コーディング合成を使用して、ユーザーによる後続の入力を先取りしようとします。言語が使用法を理解しやすくするために、一度に 1 つのトークンを使用して予測します。
予測を強化して精度を向上させるために、埋め込みのリスト全体をピックアップし、それをトランスフォーマー レイヤーに渡して単語間の関連付けを確立します。たとえば、「トーマス エジソンとは誰ですか?」のような質問をすると、ChatGPT はリストの中で最も価値のある単語をピックアップします。 誰が そして エジソン。
トランスフォーマー レイヤーは、プロセス全体において重要な役割を果たします。これらのレイヤーは、一連の単語から最も関連性の高いキーワードを選択するようにトレーニングされたニューラル ネットワーク アーキテクチャの一種です。ただし、トレーニング プロセスは思ったほど簡単ではありません。ギガバイト単位のデータでトランスフォーマー レイヤーをトレーニングするには長い時間がかかります。
ChatGPT は一度に 1 つのトークンしか予測しませんが、その自己回帰技術は予測してプライマリ モデルにフィードバックし、出力をリリースするようにプログラムされています。モデルはトークンごとに 1 回だけ実行されるように調整されているため、結果は一度に 1 語ずつ出力されます。アプリケーションがトークン停止コマンドに遭遇すると、出力は自動的に停止します。
たとえば、ChatGPT Web サイトのトークン計算機を見ると、質問に基づいてトークンの使用量を計算することができます。
次のようなサンプルテキストを入力してみましょう。
トークンの使用をどのように説明すればよいでしょうか で チャットGPT？
計算機によると、この文字列には 46 文字あり、13 個のトークンを消費します。トークン ID に分解すると、次のようになります。
[2437, 466, 314, 4727, 262, 779, 286, 16326, 287, 24101, 38, 11571, 30]
OpenAI トークン計算機によると:
役に立つ経験則として、一般的な英語のテキストでは、1 つのトークンが約 4 文字のテキストに相当することが挙げられます。これは、約 3/4 単語に相当します (100 トークン = 約 75 単語)。
無料トークンと有料トークン
ChatGPT アプリケーションの内部を体験していただくために、OpenAI では無料の限定トークン サブスクリプションを提供しています。ChatGPT API を試してみたい場合は、3 か月間有効な無料の 5 ドルのクレジットをご利用ください。制限に達したら (または試用期間が終了したら)、従量課金制に切り替えることができ、最大割り当て額が 120 ドルに増加します。
ChatGPT Plus: 有料サブスクリプションは価値がありますか?
さらにレベルアップするには、月額 20 ドルで ChatGPT Plus オファーにサインアップすることもできます。AI モデル全体の広範な使用と人気を考慮して、有料サブスクリプション モデルの主な機能は次のとおりです。
- ユーザーの流入によりウェブサイトがダウンしている場合でも、ChatGPTにアクセスできます。
- 応答率の向上
- 新しい機能やリリースへの直接アクセス
これらの機能が十分に価値があり、あなたの好みに合っていると感じた場合は、有料サブスクリプションに登録して、すぐにそのメリットを享受できます。
ChatGPTトークンの価格体系
いくつかの異なるアプリケーション モデルが用意されており、要件に応じて選択できます。
このモデルのリストの中で、Ada が最も高速で、DaVinci が最も強力なモデルです。プロンプトは質問であり、補完は回答を扱います。
トークンの最大制限
各モデルでは、各クエリ内のトークンの最大数を設定できます。このメソッドは、アプリケーションが 1 回の呼び出しで生成するトークンの最大数を制御し、出力を制限します。max_token 機能は、特にトークンの使用とクレジットの過剰使用を避けながら出力の長さを制御したい場合に非常に便利です。デフォルトの長さは 2,048 トークンに固定されていますが、最大値は 4,096 トークンに設定できます。
トークンの使用を制限すると、回答が短くなり、出力が制限され、使用エクスペリエンスが損なわれる可能性があります。
ChatGPT-3 の上限は 4,096 ですが、ChatGPT-4 の導入により、トークンの制限は次のように増加します。
出力が切り捨てられる場合は、ダッシュボードから指定された最大制限を増やす必要があります。プロンプト トークンと最大トークンの合計は、常にモデルの最大トークン制限以下である必要があります。
例えば、ChatGPTモデルでは、 prompt_tokens + max_tokens <= 4096 トークン。
最良の結果を得るために ChatGPT プロンプトを制御する方法を学ぶ
AI 駆動型アプリケーションをどのように使用するかに関わらず、質問やフレーズを賢く扱う方法を考案する必要があるでしょう。使用パターンによっては、あらゆるタスクで ChatGPT を多用することになるでしょう。
最良の結果を得るには、トークン手法の使い方を習得し、使用制限を維持しながら可能な限り最良の回答が得られるようにスキルを向上させる必要があります。
私たちの活動を応援してください ❤️
この記事を気に入っていただけたら、今後も質の高いコンテンツを発信し続けられるようチップのご支援をご検討ください。
