自動運転車におけるエッジAI：車載コンピューティングが不可欠な理由

かつて私は、自動運転車は接続性の問題だと考えていました。すべての車両にライブマップを供給し、信号機と同期させ、遠隔のサーバーに行き先を決定させる、と。初期の自動運転（AV）のコンセプトはまさにそれを試みましたが、失敗に終わりました。

その後、業界が静かに方針を転換するのを見ました。実際に運転するシステムは、ネットワークにまったく依存していません。車内の後部座席の後ろにボルトで固定された箱の中でAIを実行し、クラウドは頭脳ではなく、バックグラウンドのヘルパーとなるのです。

この方針転換は、自動運転車におけるエッジAIの物語であり、ハードウェアだけでなく、多くのことを変えています。

なぜクラウドはレイテンシーで負けるのか

走行中の車の数値を計算してみましょう。時速120kmでは、毎秒およそ33メートル進みます。サーバーへの往復100ミリ秒を追加すると、応答が返ってくるまでに車両は約3メートル移動しています。3メートルは、スムーズな停止と追突の差です。

自動運転車の知覚ループは、数十ミリ秒で完了する必要があります。カメラを読み取り、物体を検出し、計画を立て、ハンドルを動かす。この予算内にクラウドの往復を収めた人はいません。

テスラのFull Self-Driving（FSD）は、この点を直接示しています。FSD v13は、生のカメラピクセルを入力として受け取り、ステアリング、スロットル、ブレーキを出力する単一のエンドツーエンドニューラルネットワークを実行します。スタック全体は車のオンボードコンピューターに搭載されており、思考するためにLTE接続を必要としません。

オンボードAIの実際の姿

マーケティングを剥ぎ取ると、AVはニューラルネットワークの山に供給するセンサー群です。知覚モデルは車両、歩行者、車線表示を検出します。予測モデルは、それらの物体が次に何をするかを推測します。プランナーが経路を決定し、コントローラーが車輪を動かします。

車載では、スタックは専用に設計された特殊なシリコン上で動作します。NvidiaのDRIVE Orinは最大254 TOPSに達し、その次世代のDRIVE Thorは最大2,000 TOPSを目標としています。QualcommのSnapdragon Rideシリーズも同様の領域に踏み込んでいます。Mobileyeは、量産型ADAS向けに低消費電力のEyeQファミリーを出荷しています。これらのチップがエッジAIの「エッジ」です。

そのパワーには驚かされました。完全な自動運転コンピューターは数百ワットを消費することがあり、その熱は密閉された車室内にしか行き場がありません。オンボードAIは単なるMLの問題ではありません。MLパイプラインがその上にボルトで固定された熱工学の問題なのです。

見過ごされがちなメリット

レイテンシーは注目を集めますが、目立たない利点のほとんどが機能しています。

プライバシー。 最新のAVは1時間あたりギガバイト単位のセンサーデータを生成し、カメラは顔、ナンバープレート、そしてあなたの日常を捉えます。推論がオンボードで行われる場合、その生データは車外に出ることはありません。マップやトレーニングに必要なものだけをアップロードし、見たものすべてをアップロードするわけではありません。

オフライン耐性。 トンネル、駐車場、地方の電波の届かない場所、大試合中の混雑した携帯電話基地局。車はこれらすべてにおいて安全に走行しなければなりません。クラウドに依存する設計は、ネットワークが不安定になったときに正確に失敗します。これは最悪のタイミングです。

規模の経済性。 すべての運転判断のためにセンサーデータをデータセンターにストリーミングすると、1マイルあたりの帯域幅とクラウドコンピューティングを消費します。オンボード推論には固定のハードウェアコストがあり、車両の寿命にわたって償却されます。

フリート学習。 エッジ車両はすべてを送るのではなく、重要なものを送ります。彼らは、予測不能な行動をする歩行者のような稀なイベントを記録し、再トレーニングのためにそれらのスニペットをアップロードします。これが、何千台もの車のフリートがパイプを詰まらせることなく、1つの共有モデルを改善する方法です。

誰も話したがらない困難な部分

エッジへの移行はレイテンシーの問題を解決しますが、別の問題の山をもたらします。

ワットと熱。 TOPSが増えればワット数も増え、車の冷却予算は有限です。フェニックスの暑い日にはチップがスロットリングされ、外気温が45度のときに安全性が低下します。

圧縮のトレードオフ。 モデルを利用可能な計算能力に収めるために、チームはFP32からINT8に量子化し、不要な重みをプルーニングし、より大きな教師モデルから蒸留します。各ステップでわずかな精度が犠牲になり、その損失は一般的なオブジェクトではなく、稀なオブジェクトに現れます。

機能安全認証。 ISO 26262は、推論可能な決定論的システムを中心に構築されています。ニューラルネットワークは証明可能な単位に分解できないため、認証は非常に困難です。これはレベル3以上の静かなボトルネックであり、業界がデモが示唆するよりもゆっくりと動く理由です。

検証の負担。 マウンテンビューで完璧に機能するモデルが、マイアミの雨でつまずくことがあります。新しい都市、季節、道路工事の構成はすべて、潜在的な分布シフトです。Waymoの1億7000万マイル以上の乗客のみの走行距離は、オペレーターが乗客を乗せるモデルを信頼する前に、どれほどの証拠が必要だと感じているかを示しています。

セキュリティ。 ISO/SAE 21434は現在重要です。なぜなら、OTA（Over-The-Air）で更新される車は、OTAで攻撃される可能性があるからです。研究者たちは、カメラモデルを欺くステッカーを示しており、走行中の車両の知覚スタックが侵害されることは、最悪の事態です。

すでに機能している分野

これはもはや理論ではありません。オンボード推論は、現在実際に稼働しているものです。

規制当局と社会の考え

規制はハードウェアに追いつきつつありますが、その進捗は遅く、不均一です。

自動車線維持システムを対象とするUNECE規則157は、レベル3運転に関する初の拘束力のある国際規則でした。2021年1月に発効し、当初は時速60kmまででしたが、後に時速130kmまで許可されました。自動運転のためのデータストレージシステム、自動運転決定のためのイベントレコーダー、そしてシステムが放棄した場合の10秒間の引き継ぎ期間を義務付けています。

EU AI法は異なるアプローチを取っています。自動運転システムは高リスクAIとして扱われ、リスク管理、技術文書、および人間の監視義務が課せられます。車両のような製品の安全コンポーネントについては、これらの義務のほとんどが、セクター別規則の下で2027年8月頃に適用されます。メーカーはゼロから始めるわけではありません。型式承認はすでに多くのことを要求しています。しかし、彼らは現在、重複する2つのフレームワークに対応しています。

米国はパッチワーク状態です。NHTSAが連邦規則を定め、衝突データを収集する一方で、カリフォルニア州、テキサス州、アリゾナ州のような各州は独自のテストプログラムを運営しています。フェニックスで合法なロボタクシーが、ニューヨークではまだ違法である可能性があります。この断片化は、業界にとって一種の税金となっています。

そして、社会的な側面があります。これは、エンジニアが解決するとは思えない部分です。

責任。 車が自動運転しているときに、事故の責任は誰にあるのでしょうか？メーカー、ソフトウェアベンダー、それとも乗客？すべての管轄区域がまだこれを模索しており、保険もまだ定まっていません。

信頼。 一般の人々の受け入れが、展開の真の抑制要因です。一部の都市ではロボタクシーが大規模に利用されていますが、時速110kmでドライバーのいないトラックが追い越していくという考えを嫌う人はまだいます。認識は安全データに遅れています。

雇用。 プロの運転は、地球上で最も大きな雇用カテゴリーの1つです。自動運転がそれを一夜にしてなくすことはないでしょうが、その仕事に依存するコミュニティにとっては、その軌跡は明らかです。

データ所有権。 車は通過するたびにあなたの近所を記録します。そのデータの所有者は誰で、誰がそれを使用できるのでしょうか？エッジ処理によるプライバシーの勝利は、この問題を縮小させますが、答えを与えるものではありません。

こちらもおすすめ

• Ubuntuでの2分間のログイン遅延を修正する（実際のデバッグの旅）
• NVIDIA搭載Ubuntuでの2〜3分間のログイン遅延を修正する（Xorg + nvidia-drmの問題）
• Ubuntu Server Security: 実用的なLinux強化チェックリスト
• LinuxでディレクトリをPATHに追加する方法（永続的な修正）

FAQ

自動運転車はまだクラウドをまったく使用していますか？ はい、しかしリアルタイム制御のためではありません。クラウドは、高精細マップの更新、フリート分析、稀な状況での遠隔支援、そして車にプッシュされるモデルのトレーニングを処理します。運転自体はエッジで行われます。

なぜ難しい決定をデータセンターにオフロードできないのですか？ 物理的な制約です。高速道路での走行では、100ミリ秒の往復で既に3メートル移動してしまい、実際のネットワークレイテンシーとジッターはそれをはるかに超えます。また、トンネル内や携帯電話の障害時にカバレッジを保証することはできず、安全上重要なコントローラーは保証できないものに依存することはできません。

エッジAIと通常のADASの違いは何ですか？ ADASは、より古く、より狭いカテゴリです。車線維持、アダプティブクルーズ、自動ブレーキなど、ルールと小さなモデルによって駆動されます。自律走行のためのエッジAIは、多くのセンサーを融合し、完全な運転判断をオンボードで行うより広範なシステムです。ADASを1つの機能と考えると、エッジ自律走行はドライバー全体と考えることができます。

規制当局はニューラルネットワークが安全であることをどのように検証しますか？ 正直なところ、今のところは不十分です。UNECE R157のような規則は、ネットワーク自体を検査するのではなく、イベントデータレコーダーと引き継ぎ要件に依存しています。EU AI法は、文書化と監視の義務を追加しています。訓練されたネットワークがあらゆる状況で何をするかを検証することは、依然として未解決の研究課題です。

これはいつ私に関係してきますか？ 思っているよりも早くです。同じエッジAIスタックが、配送ロボット、農業機械、倉庫車両にも登場しています。そして、設計の教訓、決定論的レイテンシー、熱予算、オフライン操作は、構築するすべてのリアルタイムシステムに適用されます。

結論

自動運転車業界は、クラウドファーストのバージョンを試みましたが、後退しました。残ったのは、あなたの命を預けるのに十分な速さ、あなたの私道があなたのままであるのに十分なプライバシー、そしてトンネルを怯むことなく通過できるのに十分なオフライン性を備えた、それ自体がエッジデバイスである車です。

自律走行の勝者は、ワット、TOPS、レイテンシー、熱といった物理学を最初に習得したチームです。クラウドにはまだ役割がありますが、それは運転ではなく、トレーニングとテレメトリーです。

これは、リアルタイムAIのあらゆる作業にとって有用な視点だと私は考えています。決定が安全上重要である場合、それはデータが存在する場所に存在しなければならないと仮定してください。それ以外はすべてアーキテクチャです。