Getting Started with Structures

Getting Started with Structures#

AI搭載ソフトウェアを構築する場合、LLMと直接プロンプトまたはチャットを行うだけでは、限界があります。アプリケーションロジックとデータフローのプログラムによる制御が必要になります。言い換えれば、コードを実行する必要があります。

次にいくつかの例を示します。

  • エージェントが特定のタスクを一貫して実行することを保証します。

  • 照会する特定のデータセットへのアクセスを提供します。

  • 他のAPI、サービス、およびツールへのアクセス。

  • LLMに渡す前に、ユーザー入力とクエリ応答を処理します。

  • LLMの出力をフォーマットおよび配信する方法を定義します。

  • 一連のタスクを決定論的な順序で処方する。

  • 複数のアプリケーションコンポーネントを接続する。

構造体の作成方法#

Gen AI Builderサンプルは、Structuresを開始するためのすばやく簡単な方法です。 Griptape Samples on GitHub では、いくつかのサンプルを試してみることができます。もちろん、 write your own custom structure and deploy this from GitHub または Griptape Trade School コースに従って、単純なルール駆動のチャットボットを構築することもできます。

前提条件#

この例では、同じ入力を与えて、OpenAI GPT、Google Gemini、またはAnthropic Claudeからの出力を比較できます。続行するには、これらのサービスの少なくとも1つからのAPIキーが必要です。

Gen AI Builder APIキーも必要です。作成するには、次の手順に従ってください。

  1. Gen AI Builderコンソールの[ API Keys ]ページに移動します。

  2. Create API key をクリックします。

  3. 名前「GT_CLOUD_API_KEY 」を入力します。

  4. Create をクリックしてフォームを送信します。

  5. キー値をコピーします。後で貼り付けられるように、どこかに保存します。

  6. クリックしてキーを保存しました 。

ストラクチャーの作成、展開、および実行#

ストラクチャを作成、展開、および実行するには、次の手順に従ってください。同様の手順に従って、別のサンプルまたは独自のカスタム構造を展開できます。

  1. Gen AI BuilderコンソールのStructuresページに移動します。

  2. Create Structure をクリックします。

  3. 構造を選択します。この例では、 OpenAI vs. Google vs. Anthropic Model Comparison を選択します。

  4. オプショナル 構造に名前と説明を付けます。

  5. Key: GT_CLOUD_API_KEY というラベルの行で、鉛筆編集アイコンをクリックします。

  6. ドロップダウンメニューで Create Secret を選択し、Gen AI Builder APIキーを貼り付けます

  7. Save をクリックして、この構造で暗号化され使用されるシークレットとしてキーを保存します。将来のストラクチャでは、 シークレットリファレンス を選択することにより、同じキーを再利用できます。

  8. 対応するAPIキーを使用して、 Key: OPENAI_API_KEY 、Key: ANTHROPIC_API_KEY 、および/またはKey: GOOGLE_API_KEY のラベルが付けられた行に対して、前述の3つの手順5、6、および7を繰り返します。モデルを互いに比較する場合を除き、これらのいずれか1つを提供するだけで済みます。

  9. Create をクリックしてフォームを送信します。

何が起こっているのですか？#

構造を作成すると、Gen AI Builderへの展開が自動的に開始されます。このプロセスには1〜2分程度かかります。デプロイの進行中は、 Structure 詳細ページにリダイレクトされ、展開ステータスや、GitHubリポジトリ、呼び出しURLなどのその他の詳細を観察および追跡できます。

展開が完了すると、ストラクチャを実行する準備が整います。

サンプルの実行#

Gen AI Builder Webコンソールから直接、APIを介して、またはサードパーティソフトウェアアプリケーションを介してストラクチャを実行できます。この例では、上記で展開したサンプルを使用します。

次の手順に従って、ストラクチャを実行します。

  1. Structures画面に移動します。

  2. 作成した構造をリストから選択します。

  3. [ Runs ]タブをクリックします。

  4. Create run をクリックします。

  5. Argumentsフィールドに、次のテキストを入力します。別のモデルを使用する場合は、引数openai をanthropic またはclaude に置き換えます。引数は1行に1つ入力する必要があるため、ここに示されているように改行を維持してください。

-p
openai
-s
software programming
-a
Genghis Khan

  1. Create をクリックしてフォームを送信します。

構造物が実行されます。わずか数秒で完了します。このとき、指定した入力引数と環境変数が表示されます。実行が完了すると、結果の出力が表示され、デバッグの目的で実行ログにアクセスすることもできます。

ストラクチャーの実行の詳細については、 ストラクチャーの作成、展開、および実行 にアクセスして、新しく展開されたストラクチャーを実行する方法を学習します。

目次