AI biên trong xe tự lái: Tại sao xe tự lái tính toán trên xe

Tôi từng nghĩ xe tự lái là một vấn đề về kết nối. Cung cấp cho mỗi chiếc xe một bản đồ trực tiếp, đồng bộ hóa nó với đèn giao thông, để một máy chủ ở xa quyết định đường đi. Các khái niệm xe tự hành ban đầu đã thử chính xác điều đó, và chúng đã thất bại.

Sau đó, tôi chứng kiến ngành công nghiệp này lặng lẽ đảo ngược hướng đi. Các hệ thống thực sự lái xe không hề phụ thuộc vào mạng. Chúng chạy AI bên trong xe, trong một hộp được gắn chặt phía sau ghế sau, và đám mây trở thành một trợ lý nền thay vì bộ não.

Sự đảo ngược đó là câu chuyện về AI biên trong xe tự hành, và nó thay đổi nhiều hơn là chỉ phần cứng.

Tại sao đám mây thua về độ trễ

Hãy tính toán các con số trên một chiếc xe đang chạy. Ở tốc độ 120 km/h, bạn đi được khoảng 33 mét mỗi giây. Thêm 100 mili giây khứ hồi đến máy chủ và chiếc xe đã di chuyển khoảng ba mét trước khi câu trả lời quay trở lại. Ba mét là sự khác biệt giữa một cú dừng êm ái và một vụ va chạm từ phía sau.

Vòng lặp nhận thức trong một chiếc xe tự hành phải hoàn thành trong hàng chục mili giây: đọc camera, phát hiện vật thể, lập kế hoạch, di chuyển vô lăng. Không ai có thể đưa một chuyến khứ hồi đám mây vào ngân sách đó.

Hệ thống Full Self-Driving của Tesla đã chứng minh điều đó một cách trực tiếp. FSD v13 chạy một mạng thần kinh đầu cuối duy nhất nhận các pixel camera thô và xuất ra tín hiệu lái, ga và phanh. Toàn bộ hệ thống nằm trên máy tính tích hợp của xe, và nó không cần kết nối LTE để suy nghĩ.

AI tích hợp thực sự trông như thế nào

Bỏ qua phần tiếp thị, một chiếc xe tự hành là một bộ cảm biến cung cấp dữ liệu cho một loạt các mạng thần kinh. Các mô hình nhận thức phát hiện phương tiện, người đi bộ và vạch kẻ đường. Các mô hình dự đoán đoán xem các vật thể đó sẽ làm gì tiếp theo. Một bộ lập kế hoạch quyết định đường đi, và một bộ điều khiển di chuyển bánh xe.

Trên xe hệ thống chạy trên silicon chuyên dụng được thiết kế cho công việc. Nvidia DRIVE Orin đạt hiệu suất tối đa khoảng 254 TOPS, và phiên bản kế nhiệm DRIVE Thor của họ nhắm đến 2.000 TOPS. Dòng Snapdragon Ride của Qualcomm cũng hướng tới cùng phân khúc. Mobileye cung cấp dòng EyeQ công suất thấp hơn cho ADAS thị trường đại chúng. Những con chip này chính là "biên" trong AI biên.

Sức mạnh đó là phần khiến tôi ngạc nhiên. Một máy tính tự lái hoàn chỉnh có thể tiêu thụ hàng trăm watt, và nhiệt không đi đâu khác ngoài một khoang kín. AI tích hợp không chỉ là một vấn đề về ML. Đó là một vấn đề kỹ thuật nhiệt với một đường ống ML được gắn kèm.

Những lợi ích dễ bị bỏ qua

Độ trễ chiếm ưu thế trên các tiêu đề, nhưng những lợi thế thầm lặng hơn mới là yếu tố chính.

Quyền riêng tư. Một chiếc xe tự hành hiện đại tạo ra hàng gigabyte dữ liệu cảm biến mỗi giờ, và camera ghi lại khuôn mặt, biển số xe và thói quen hàng ngày của bạn. Khi suy luận diễn ra trên xe, những cảnh quay thô đó không bao giờ rời khỏi xe. Nó chỉ tải lên những gì cần thiết cho bản đồ hoặc đào tạo, chứ không phải mọi thứ nó nhìn thấy.

Khả năng phục hồi ngoại tuyến. Đường hầm, bãi đậu xe, vùng chết ở nông thôn, một trạm di động tắc nghẽn trong một trận đấu lớn. Xe phải lái an toàn trong tất cả các trường hợp đó. Các thiết kế phụ thuộc vào đám mây thất bại chính xác khi mạng không ổn định, thời điểm tồi tệ nhất có thể.

Chi phí ở quy mô lớn. Truyền dữ liệu cảm biến đến một trung tâm dữ liệu cho mỗi quyết định lái xe sẽ đốt cháy băng thông và điện toán đám mây trên mỗi dặm. Suy luận trên xe có chi phí phần cứng cố định được khấu hao trong suốt vòng đời của xe.

Học tập theo đội xe. Các phương tiện biên không gửi mọi thứ, chúng gửi những gì quan trọng. Chúng ghi lại các sự kiện hiếm gặp, như một người đi bộ làm điều gì đó thực sự khó đoán, và tải lên các đoạn trích đó để đào tạo lại. Đó là cách một đội xe gồm hàng nghìn chiếc xe cải thiện một mô hình chung mà không làm tắc nghẽn đường truyền.

Những phần khó khăn mà không ai muốn nói đến

Việc chuyển sang biên giải quyết độ trễ, sau đó mang đến cho bạn một loạt các vấn đề khác.

Công suất và nhiệt. Nhiều TOPS hơn có nghĩa là nhiều watt hơn, và ngân sách làm mát của một chiếc xe là hữu hạn. Chip bị giảm hiệu suất vào những ngày nóng ở Phoenix, điều này làm suy yếu trường hợp an toàn ngay khi nhiệt độ bên ngoài là 45 độ C.

Đánh đổi nén. Để phù hợp với một mô hình trong khả năng tính toán có sẵn, các nhóm lượng tử hóa từ FP32 sang INT8, cắt bỏ các trọng số không cần thiết, chắt lọc từ một mô hình lớn hơn. Mỗi bước đều đánh đổi một chút độ chính xác, và sự mất mát rơi vào các đối tượng hiếm gặp, chứ không phải các đối tượng phổ biến.

Chứng nhận an toàn chức năng. ISO 26262 được xây dựng dựa trên các hệ thống xác định mà bạn có thể suy luận. Một mạng thần kinh không phân tách thành các đơn vị có thể chứng minh được, điều này khiến việc chứng nhận thực sự khó khăn. Đây là yếu tố hạn chế thầm lặng đối với Cấp độ 3 trở lên, và đó là lý do tại sao ngành công nghiệp này di chuyển chậm hơn so với các bản demo gợi ý.

Gánh nặng xác thực. Một mô hình hoạt động tốt ở Mountain View có thể gặp khó khăn trong mưa ở Miami. Mỗi thành phố, mùa và cấu hình công trình đường bộ mới là một sự thay đổi phân phối tiềm năng. Hơn 170 triệu dặm chỉ dành cho hành khách của Waymo cho bạn biết các nhà khai thác cảm thấy họ cần bao nhiêu bằng chứng trước khi tin tưởng một mô hình với hành khách.

Bảo mật. ISO/SAE 21434 hiện quan trọng vì một chiếc xe cập nhật qua mạng có thể bị tấn công qua mạng. Các nhà nghiên cứu đã chỉ ra các nhãn dán có thể đánh lừa các mô hình camera, và một hệ thống nhận thức bị xâm phạm trên một chiếc xe đang di chuyển là điều tồi tệ nhất có thể xảy ra.

Nơi nó đã hoạt động

Điều này không còn là lý thuyết nữa. Suy luận trên xe là những gì đang chạy trong sản xuất ngay bây giờ.

Cơ quan quản lý và xã hội nghĩ gì

Quy định đang bắt kịp phần cứng, chậm chạp và không đồng đều.

Quy định 157 của UNECE, bao gồm Hệ thống giữ làn đường tự động, là quy tắc quốc tế ràng buộc đầu tiên cho việc lái xe cấp độ 3. Nó có hiệu lực vào tháng 1 năm 2021, bắt đầu ở tốc độ 60 km/h, và sau đó cho phép lên đến 130 km/h. Nó yêu cầu Hệ thống lưu trữ dữ liệu cho lái xe tự động, một thiết bị ghi sự kiện cho các quyết định tự động, cộng với thời gian chuyển giao 10 giây khi hệ thống từ bỏ.

Đạo luật AI của EU đi theo một con đường khác. Các hệ thống xe tự hành được coi là AI rủi ro cao, có nghĩa là các nghĩa vụ quản lý rủi ro, tài liệu kỹ thuật và giám sát của con người. Đối với các thành phần an toàn của các sản phẩm như xe cộ, hầu hết các nghĩa vụ đó sẽ có hiệu lực vào khoảng tháng 8 năm 2027 theo các quy tắc ngành. Các nhà sản xuất không bắt đầu từ đầu; việc phê duyệt loại đã đòi hỏi rất nhiều. Nhưng giờ đây họ phải tuân thủ hai khuôn khổ chồng chéo.

Hoa Kỳ là một mớ hỗn độn. NHTSA đặt ra các quy tắc liên bang và thu thập dữ liệu tai nạn, trong khi các tiểu bang như California, Texas và Arizona mỗi nơi đều có chương trình thử nghiệm riêng. Một chiếc robotaxi hợp pháp ở Phoenix vẫn có thể là bất hợp pháp ở New York. Sự phân mảnh đó là một loại thuế riêng đối với ngành công nghiệp.

Sau đó là tầng xã hội, đó là phần mà tôi không nghĩ các kỹ sư giải quyết được.

Trách nhiệm pháp lý. Khi một chiếc xe tự lái, ai là người có lỗi trong một vụ tai nạn? Nhà sản xuất, nhà cung cấp phần mềm, hay người lái? Mỗi khu vực pháp lý vẫn đang tìm hiểu điều này, và bảo hiểm vẫn chưa ổn định.

Niềm tin. Sự chấp nhận của công chúng là yếu tố thực sự kìm hãm việc triển khai. Mọi người đi robotaxi ở quy mô lớn ở một vài thành phố và vẫn ghét ý tưởng một chiếc xe tải không người lái vượt qua họ ở tốc độ 110 km/h. Nhận thức chậm hơn dữ liệu an toàn.

Việc làm. Lái xe chuyên nghiệp là một trong những ngành nghề lớn nhất trên thế giới. Tự động hóa sẽ không loại bỏ nó ngay lập tức, nhưng quỹ đạo là rõ ràng đối với các cộng đồng phụ thuộc vào những công việc đó.

Quyền sở hữu dữ liệu. Chiếc xe ghi lại khu phố của bạn mỗi khi nó đi qua. Ai sở hữu dữ liệu đó, và ai được phép sử dụng nó? Lợi ích về quyền riêng tư của việc xử lý biên làm thu hẹp câu hỏi, nhưng nó không trả lời được.

Bạn cũng có thể thích

• Khắc phục độ trễ đăng nhập 2 phút trên Ubuntu (Hành trình gỡ lỗi thực tế)
• Khắc phục độ trễ đăng nhập 2–3 phút trên Ubuntu với NVIDIA (Sự cố Xorg + nvidia-drm)
• Bảo mật máy chủ Ubuntu: Danh sách kiểm tra tăng cường Linux thực dụng
• Cách thêm thư mục vào PATH trong Linux (Khắc phục vĩnh viễn)

Câu hỏi thường gặp

Xe tự hành có còn sử dụng đám mây không? Có, nhưng không phải để điều khiển thời gian thực. Đám mây xử lý cập nhật bản đồ độ nét cao, phân tích đội xe, hỗ trợ từ xa cho các tình huống hiếm gặp và đào tạo các mô hình được đẩy đến xe. Việc lái xe thực tế diễn ra ở biên.

Tại sao họ không thể chuyển các quyết định khó khăn cho một trung tâm dữ liệu? Vật lý. Một chuyến khứ hồi 100 mili giây đã là ba mét di chuyển ở tốc độ đường cao tốc, và độ trễ mạng thực tế và jitter vượt xa con số đó. Bạn cũng không thể đảm bảo vùng phủ sóng trong đường hầm hoặc trong thời gian mất sóng di động, và một bộ điều khiển quan trọng về an toàn không thể phụ thuộc vào thứ mà nó không thể đảm bảo.

Sự khác biệt giữa AI biên và ADAS thông thường là gì? ADAS là danh mục cũ hơn, hẹp hơn: giữ làn đường, kiểm soát hành trình thích ứng, phanh tự động, được điều khiển bởi các quy tắc và các mô hình nhỏ. AI biên cho tự hành là hệ thống rộng hơn kết hợp nhiều cảm biến và đưa ra quyết định lái xe hoàn chỉnh trên xe. Hãy nghĩ ADAS là một tính năng và tự hành biên là toàn bộ người lái.

Các cơ quan quản lý xác minh mạng thần kinh an toàn như thế nào? Cho đến nay là tệ, và đó là câu trả lời trung thực. Các quy tắc như UNECE R157 dựa vào các thiết bị ghi dữ liệu sự kiện và yêu cầu chuyển giao hơn là kiểm tra chính mạng. Đạo luật AI của EU bổ sung các nghĩa vụ tài liệu và giám sát. Việc xác minh những gì một mạng đã được đào tạo sẽ làm trong mọi tình huống vẫn là một vấn đề nghiên cứu mở.

Khi nào điều này quan trọng đối với tôi? Sớm hơn bạn nghĩ. Cùng một ngăn xếp AI biên đang xuất hiện trong robot giao hàng, thiết bị nông nghiệp và phương tiện kho bãi. Và các bài học thiết kế, độ trễ xác định, ngân sách nhiệt, hoạt động ngoại tuyến, áp dụng cho bất kỳ hệ thống thời gian thực nào bạn xây dựng.

Điểm mấu chốt

Ngành công nghiệp xe tự hành đã thử phiên bản ưu tiên đám mây và đã rút lui. Những gì còn lại là một chiếc xe tự nó là một thiết bị biên, đủ nhanh để tin tưởng tính mạng của bạn, đủ riêng tư để lối vào nhà bạn vẫn là của bạn, và đủ ngoại tuyến để lái qua đường hầm mà không hề nao núng.

Những người chiến thắng trong lĩnh vực tự hành là những đội đã nắm vững vật lý trước tiên: watt, TOPS, độ trễ và nhiệt. Đám mây vẫn có một công việc, nhưng đó là đào tạo và đo từ xa, không phải lái xe.

Tôi thấy đó là một lăng kính hữu ích cho bất kỳ công việc AI thời gian thực nào. Khi quyết định quan trọng về an toàn, hãy giả định nó phải tồn tại ở nơi dữ liệu tồn tại. Mọi thứ khác là kiến trúc.