Coinbaseエンジニアリングチームは、8月28日に内部アシスタント、CEOilを導入しました。 Slack をベースとし、事故、クエリサービスのヘッド、歴史的決定を見直し、エンジニアへの支援を行っています。 同様のツールは新しい音を鳴らしませんが、しばしば無視される問題で Coinbase の取引を本当に興味深い方法です。 チャットロボットは、過去に何が起こったのかを記憶し、データベースにすべての会話を嚥下することができず、承認された境界線を「助けることを試みる」ことだけを横断させることを可能としている。

CEOilは「人間メモリ」でサポートする同僚として知られるが、ソフトウェアシステムのままである。 これは、自発的に参加する明示的に承認されたSlackチャンネルにのみ入力し、プライベートチャンネルや手紙を読んでいないし、アクセス前に歴史に戻ることはありません。 この境界は、削除する方法について議論する前に、できるだけ多くのデータを収集するのではなく、アウトセットからスコープを与えます。 これは、モデルが複数の質問に答えるかどうかの質問よりも、顧客資産とアイデンティティ情報を処理する金融プラットフォームにとってより重要です。

すべてを覚えようとするのではなく、知識を維持するための会話を結露するだけです。

CEOlのメモリプロセスは複数のレベルに分けられます。 許可されたチャンネルからバックステージミッション抽出し、数分間に長期使用の事実と、元の観察は短期間に保持されます。ナイトタイム「dreaming」ミッションは、これらのセグメントを各チャネルの要約に結合し、チーム、サービス、歴史的意思決定の関係を更新します。 そのため、質問が聞かれるたびにチャットレコード全体を再計算しませんが、むしろ統合的な知識を読んでください。

この知識はMarkdownファイルに保存され、Git版で管理されます。 選択肢は単純に聞こえますが、それは非常に実用的です。エンジニアは、レビューコードのような変更を見て、誰が戻ってくるか、メモリを追加するか、エラーが発見されたときに変更またはリトリートを変更することができます。 チームは現在、サブストリング検索を使用しており、ベクターデータベースは、知識ベースが数百ページに成長し、単純な検索が実際のボトルネックになると見なされます。 この決定は、一般的なオーバーエンジニアリングを回避し、間違った回答を検索する難しさを減らします。

リクエストの処理では、CEPilは高価で完全なエージェントにすべての質問を提出しなかった。 API および特定のロジックは、監視シート、サービス管理者などの明示的なクエリに対して優先されます。一般的な知識の質問は検索されます。完全なエージェントは、より困難で複数のステップ分析を必要とするタスクのみで呼び出されます。 コストと遅延をコントロールし、モデルが簡単な事実で自由に使用できるスペースの量を削減する2つの戦略です。 権威あるインターフェイスがある場合、夜間に義務がある人の質問、答えを推測する言語モデルのための必要性はありません。

情報アクセス、ルート、メモリの更新、投稿、緊急スイッチ、および必要な場合にのみ介入するエージェントのGoサービスを使用します。 各 Slack リファレンスは、ステート以外の方法で処理され、現在の行を読み込み、古いセッションから新しい問題を回避します。 パフォーマンスが不適切と判断した場合は、速やかにチームを閉じることができます。 いわゆる「同僚の感覚」は、ロボットがいつでも干渉することを可能にしますが、チームが耐え、監査できる範囲への関与を補うことはできません。

答えよりも断ち切ることは困難です。

記事は、非常に代表的な選択を明らかにしました: チームは、CEOが顧客の識別データを記憶させなかったが、むしろ、クリーンな要約を提供したり、内部リンクだけを維持しました。 この refusal は、機能を減らし、Slack の機密要素を別の管理不可能な影データベースに複製することを避けます。 AIツールがビジネスに入ると、モデルが突然複雑な攻撃をするのではなく、データがよりサイレントに再現される可能性が高まります。

メモリーズも問題ありません。 事件の議論の一時的な判断は、数日で不正確であることを証明することができます。責任ある人は調整します、サービス構造は再配置され、古いプロセスは廃止されます。 システムが蓄積し、更新方法がわからない場合は、より「記憶」、より簡単に自信を持って、古い回答を与えることです。 Gitレコード、チャンネルの要約と夜間の組み合わせは、修正手段を提供しますが、知識所有者、古いルール、マニュアルレビューが必要です。 テクノロジーは歴史を維持でき、組織はどの歴史が有効であるかを決めなければなりません。

CEOlは現在、Coinbaseの内部エンジニアリングの実践であるという事実は、それがすべての企業のための成熟した製品になったという意味ではありません。 その効果は、コインベース、デューティーインターフェイス、Slackの使用とエンジニアリング文化で利用可能なサービスのカタログにも大きく依存しています。 別の会社は構造の同じセットをレプリカし、基本情報が不完全でチャネル特権が混同されている場合は、混乱を繰り返すロボットのみを得ることができます。

しかし、この慣行は、「もう1つのチャットボックス」よりもBAIにとってより価値のある方向性を提供します。 アシスタントは、容易に利用できるスイッチを見直し、停止できる明確なデータ境界、階層の実装パス、記憶を必要とします。 このモデルは、そのレイヤーの1つだけであり、関連する権限、バージョン管理および確実性インターフェイスは、その信頼性を決定します。 CEOlの最もスマートな場所は人間のように行動しませんでしたが、エンジニアリングチームは信頼するために自然だと仮定していませんでした。

この観点から、イントラファームのエージェント間の競争が互いに接続するだけでなく、 実際のしきい値は、明確な証拠を残しながら、仕事が持続できるかどうかです: それが読んでいるもの、なぜそれが答えを与えているのか、そのメモリが修正され、どのような状況下で拒否することを選択します。 Coinbaseのプログラムはまだ進化していますが、それはアーキテクチャに重要な原則を書いています - 長期的なメモリは無制限であり、アクティブなヘルプは無制限です。 これら2つのラインを保持できると、AIのアシスタントは、短時間デモから次の実生産事故に移行する機会を持っています。