AIコンピューティングはメインSoCだけではない！RK3588システムにおけるRK1820の真の役割を明確に

なぜ、ますます多くのエッジデバイスがNPUやコプロセッサについて語るのでしょうか？RK3588はすでに強力な6 TOPS（INT8）SoCですが、マルチタスク推論、モデル並列処理、ビデオAI分析などの複雑なシーンでは、単一チップの計算能力には限界があります。RK1820は、まさにその負荷を引き受け、メインSoCの「計算不安」を解消するために作られました。エッジAI機器では、ホストプロセッサはもはや単独で戦うことはありません。AIタスクが従来のCPU/NPUのスケジューリング能力を超えると、コプロセッサは静かに登場し、インテリジェントなワークロードの一部を引き受けます。

RK1820は、AI推論と計算拡張のために特別に設計されたコプロセッサです。RK3588やRK3576などのホストSoCと柔軟にペアリングし、PCIeまたはUSBインターフェースを介して効率的に通信します。

RK3588 + RK1820システムでは、AIタスクパイプラインは4層アーキテクチャに分解されます。
アプリケーション→ミドルウェア→コプロセッサ実行→制御とプレゼンテーション。
RK3588ホスト：タスクスケジューリング、データ前処理、結果出力を行い、ワークフロー全体を管理します。
RK1820コプロセッサ：高計算AI推論に特化し、PCIe経由でホストに接続し、「軽制御+重計算」の協調モデルを形成します。

アプリケーション層は、すべてのAIタスクが始まる場所です。ユーザーの要件（画像分析、オブジェクト検出、エッジ側のLLM Q&Aなど）をシステム実行可能なタスクコマンドに変換し、標準化されたAPIを介してミドルウェア層に渡します。この層はすべてRK3588ホストによって処理され、ユーザーインタラクション、ビジネスロジック、および周辺データを管理します。

タスク受信：カメラ、タッチパネル、イーサネット、UARTなどを介してユーザーコマンドを取得します。

• スマートセキュリティ：ビデオフレーム内の人物を検出
• 産業検査：製品の表面欠陥を特定
• エッジLLM：音声入力をテキストに変換し、Q&Aタスクを形成

コマンドの標準化：構造化されていない入力を構造化されたタスクパラメータに変換

• ビジョンタスク：入力解像度、モデルバージョン、出力要件
• LLMタスク：入力トークン、モデルバージョン、最大出力長

ミドルウェア層は協調ハブです。各タスクを判断し、リソースを割り当て、データを前処理し、バスのトラフィックを管理します。タスクをホストで実行するか、コプロセッサにオフロードするかを決定します。
RK3588のみ; RK1820はPCIe構成や割り込み管理には関与しません。ホストからディスパッチされた推論ジョブを実行するだけです。

タスクの分類とスケジューリング

• ローカル処理：低計算またはレイテンシクリティカルなタスク（画像スケーリング、軽量AI推論）は、RK3588 CPU/NPU/RGAによって処理されます。
• RK1820へのオフロード：高計算タスク（YOLOv8マルチクラス検出、LLM推論、セマンティックセグメンテーション）はRK1820に送信されます。RK1820が引き継ぐと、ホストCPU/NPUは他の作業のために解放されます。

データの前処理

• ビジョン：トリミング、ノイズ除去、正規化、チャネルの並べ替え。
• テキスト：トークン化、パディング、エンコード。

バス通信制御

• PCIeまたはUSB3経由でリンクを確立。
• データ転送はDMAを使用し、CPUの介入はありません。
• 推論制御コマンドを発行：NPUの起動、精度の設定、完了割り込みの発生。

この層は推論コアであり、RK1820コプロセッサによって独占的に駆動され、高計算AI推論に特化しています。
RK1820アクティブ; RK3588は推論を妨害せず、結果を待つだけです。タイムアウトまたは例外は、PCIeリセットコマンドを介してRK3588によって処理されます。

タスクの受信と準備

RK3588からディスパッチされたデータ、モデルの重み、コマンドを受信し、それらをローカルの高帯域幅DRAMに書き込み、モデルをロードし、NPUを構成します。

NPU推論計算

• オブジェクト検出（YOLOv8n）：conv→BN→activate→pool→ポストプロセスNMS。
• LLM推論（Qwen2.5 3B）：入力トークンのプリフィル→トークンごとの生成のデコード。
• 推論の最適化：オペレーターの融合、重みの圧縮。

結果のリターン

• 検出のバウンディングボックス座標、クラスID、および信頼度スコアを返します。
• LLMのトークン配列を返します。

この層は、すべてのAIタスクの終点です。RK1820からの生の推論結果を視覚的またはビジネス対応の出力に変換し、ループを閉じます。
RK3588アクティブ; RK1820は生の推論データのみを提供します。

結果の後処理

• 座標を元の画像サイズにマッピングします。
• トークンを自然言語にデコードします。
• 産業検査における欠陥をカウントします。

システム制御とフィードバック出力

• スマートセキュリティ：検出オーバーレイ付きのビデオを表示し、アラームをトリガーします。
• 産業検査：不良品を拒否するためのコマンドライン。
• エッジLLM：テキスト+音声アナウンスを表示。

相乗効果の価値：より速いだけでなく、よりスマートに

簡単に言うと、RK3588はショーを運営し、すべてを順調に進め、RK1820は生の計算バーストを提供します。これらが組み合わさることで、エッジAIデバイスは「よりスマートに、より速く、手間なく」なります。
RK1820のニュースとSDKのアップデート、新しいチュートリアル、すぐに実行できるデモについては、フォローしてください。