AIエージェントが企業内で実際の業務を担う際に課題となるのは、何を読み取れるかということだけではありません。 何を実行できるかということも課題となります。 ユーザーに代わってコンテンツのアップロード、移動、共有を実行できるカスタムエージェントには、どこで実行できるのか、誰が関与できるのかについて明確なルールが必要です。 エージェントガードレールは、管理者とエージェント作成者にBox AIの新たな制御機能を提供し、すべてのカスタムエージェントが組織で定められた境界の範囲内で動作できるようにします。
エージェントガードレールは、AI Studioで作成されたBoxのカスタムエージェントに適用されます。 これにより、エージェントが実行できる操作の境界が設定されます。
新機能
エージェントガードレールは2か所で設定可能で、企業全体のデフォルト設定とエージェントごとの柔軟な設定の両方を実現できます。
- AI Studioの企業全体のデフォルト設定
管理者は、[管理コンソール] > [Box AI] > [セキュリティ] から、すべてのカスタムエージェントに対する既定のガードレールを設定できるようになります。 これらのデフォルト設定は、新しいカスタムエージェントすべてに作成した時点で適用されるため、エージェント作成者は白紙の状態からではなく、安全なベースラインを基に作業を開始できます。
- 現在、ガードレールを構成できるアクションは以下のとおりです。 Boxのカスタムエージェントに新たな機能が追加されるにつれて、リスクの高いアクション向けのガードレールもさらに導入される予定です。
- ファイルのアップロード
- ファイルバージョンのアップロード
- Box Noteの作成
各アクションに対して、管理者は3種類のガードレール制約を設定できます。
- [ターゲットの基準]: アクションを実行できる場所を定義します。
- 制限なし
- 特定の項目のみ (Shieldの分類ラベルによる許可リスト)
例外を除くすべての項目 (分類ラベルによる不許可リスト)
[例外を除くすべての項目] では、管理者はさらに [外部からアクセス可能な項目では許可しない] を有効にできます。これにより、公開共有されている場所、外部コラボレータがアクセスできる場所、外部組織が所有している場所に対するアクションを防ぐこともできます。
注: 企業のデフォルト設定は、今後作成される新しいエージェントに適用されます。 これにより、既存のエージェントのガードレールが遡って変更されることはありません。 分類ベースの基準を使用するには、まず、組織でShieldの分類ラベルを構成しておく必要があります。
- AI Studioのエージェントごとの構成
AI Studioでカスタムエージェントを作成または編集する際は、そのエージェントが実行できるアクションごとにガードレールを構成できます。 ここで、エージェントをその役割に合わせて調整します。
- 計画エージェントが、公開共有リンクが設定されたフォルダ内にBox Noteを作成できないよう制限できます。
- ソーシャルメディアエージェントが、機密の分類ラベルが付いたファイルを編集できないよう制限できます。
- 財務エージェントが、特定のプロジェクトフォルダの外部にファイルを作成できないよう制限できます。
エージェント作成者は、各アクションについて、管理者が設定した企業のデフォルトのガードレールを変更できます。