制御されたエージェントのみが決済および評判システムに入ることができます。
機能が強力であればあるほど、どの出力がドラフトのみ可能であるか、どのアクションが HITL である必要があるか、どのデータがドメイン外に出ないのかなど、より厳密な境界が必要になります。境界はイノベーションを制限することではなく、LLM を「責任のないブラック ボックス」から「防御可能なコンポーネント」に変えることです。推奨のみでユーザーが全責任を負う Copilot とは異なり、WCN はネットワーク層で責任を明示的に分割する必要があります。
エージェントができること (許可されたセット)
エージェントができないこと（禁止設定）
リスクマトリックス（簡略化）
| リスク | パフォーマンス | コントロールのアイデア |
|---|---|---|
| 幻想 | 捏造された事件、間違った法律、間違った社名 | 引用は必須です。不明な場合は「不明」を出力します。キーフィールドルールの検証 |
| 即時注入 | 漏洩や不正アクセスを誘発する悪意のある Web ページ/PDF | ツールの分離。信頼できないコンテンツのサンドボックス。アウトバウンドアクション HITL |
| データ漏洩 | トレーニングやログは機密性を奪います | データの分類。ログの減感作。退職後のキーのクリア |
| 過度の自主性 | AutoGPT スタイルの無限ループと手数料 | タスクレベルの予算とステップ制限。タスクがないことは実行されていないことを意味します |
| 曖昧な責任 | 何か問題があった場合、誰が承認したかわかりません | 導入記録 + 承認チェーン + モデル/プロンプトのバージョン番号 |
境界がなければ、AI はより強力な実行レイヤーではなく、特に一か八かのコピーライティングや資金調達関連のプロセスにおいて、間違いを増幅させるレバーとなります。
Microsoft Copilot/Universal Assistant との責任の境界設定
Copilot の一般利用規約では、ユーザーが検証に責任を持つことをお勧めしますと規定されています。 WCN ネットワーク側も マルチパーティ アトリビューション に対応する必要があります。したがって、エージェントの境界は、エンドユーザーの自己規律のみに依存するのではなく、タイプ ポリシーとタスク コントラクトに記述する必要があります。
WCN が必要としているのは、説明があり、責任を負い、PoB に参加できるエージェントです。 「モデルがそれを言っている」をノードがそれを言っているとみなすことはできません。
TradFi の暴露: 自動化は意思決定チェーンの前で停止する
COIN タイプのシステムは大量の文書分析を処理し、与信判断は依然として銀行のポリシーと人間による審査の対象となります。アラジン氏は、リスクの大きさは一貫しており、ポートフォリオマネージャーは依然として投資責任を負っていると強調しています。 WCN は同じ原則に従っています: **エージェントは摩擦を圧縮し、署名権限に代わるものではありません。 **
製品の承認に関する一文: エージェントを削除しても、ビジネス プロセスは依然として合法であり、実行できますが、速度は遅くなります - 境界はおおよそ正しいです。エージェントの削除プロセスでループを閉じることができない場合は、人間のリンクが過度に侵食されていることを意味します。