設問
AI スペシャリストが、多くのレコードで機能するフィールド生成プロンプトテンプレートを作成しましたが、ユーザーからトークン制限エラーによるランダムな失敗が報告されています。このエラーがランダムに発生する原因は何でしょうか?
選択肢
A. プロンプトテンプレートの動的な性質によって生成されるトークンの数は、レコードによって異なります。
B. プロンプトグラウンディングによって生成されるトークンの可変量に対応するには、テンプレートタイプを Flex に切り替える必要があります。
C. LLM で処理できるトークンの数は、ユーザーの総需要によって異なります。
解答
A. プロンプトテンプレートの動的な性質によって生成されるトークンの数は、レコードによって異なります。
解説
A. プロンプトテンプレートの動的な性質によって生成されるトークンの数は、レコードによって異なります。
正解です。フィールド生成プロンプトテンプレートは、各レコードのデータに基づいて動的に調整されます。これにより、生成されるトークンの数がレコードごとに異なり、トークン制限を超える場合があります。これがランダムなエラーの原因となります。
B. プロンプトグラウンディングによって生成されるトークンの可変量に対応するには、テンプレートタイプを Flex に切り替える必要があります。
不正解です。プロンプトグラウンディングは、AI モデルが外部データを参照する際の手法であり、トークン制限エラーの直接的な原因ではありません。また、テンプレートタイプを Flex に切り替えることで解決する問題ではありません。
C. LLM で処理できるトークンの数は、ユーザーの総需要によって異なります。
不正解です。大規模言語モデル（LLM）のトークン制限は、ユーザーの総需要に依存するものではなく、モデル自体の仕様に基づいています。ユーザーの需要が高くても、トークン制限は一定です。
第27問
こちらをクリック
