実践としての AI · 上級

エージェント：システムに単独で行動させるとき

一行でいうと: エージェントは自分でどのアクションを実行するかを決める——すべての報酬とリスクは与えた権限にある。

正当化されるとき

ステップ数が事前に不明なとき。固定プロセスをエージェントとして実装したものは、単純なループが機能する場所での高価で予測不可能なシステムだ。エージェントは調査に合う：「請求書が一致しない理由を見つける」。

人間の承認のために提案；可逆なアクションで単独で行動し不可逆なものを承認に向ける；実証された実績を持つ定義された領域で自律的。可逆と不可逆の区別が中心的な設計の決定だ。

最小限の権限；ステップ数、コスト、時間のコードの厳格な制限；完全なアクションログ；外部コンテンツと指示の完全な分離。

そして実践的なルール：少ないツール、よく定義された。ツールが多いほど、それらの中からの選択が悪くなる。

各ツールを公開インターフェースとして定義する：明示的な名前、いつ使うかとなぜ使わないか、厳格なスキーマ、何を修正すべきかを説明するエラー。機密アクションを二段階にする——準備と確認——そしてライブになる前に悪意ある入力を含む失敗させるよう設計されたシナリオを実行する。