Máy tính AI là gì?

Máy tính AI (AI Computer) là dòng máy tính được thiết kế chuyên biệt để xử lý trí tuệ nhân tạo (AI) và học máy (ML) ngay tại thiết bị (Edge AI), thay vì phải gửi toàn bộ dữ liệu lên máy chủ hoặc cloud. Điểm khác biệt cốt lõi của máy tính AI so với máy tính công nghiệp truyền thống nằm ở bộ xử lý tăng tốc AI (AI accelerator) và khả năng xử lý song song khối lượng lớn dữ liệu hình ảnh, video, cảm biến...trong thời gian thực. 

Trong năm chuyển đổi số này, việc ứng dụng Trí tuệ Nhân tạo (AI) đã tăng tốc trên khắp các ngành công nghiệp, định hình lại cách thức các doanh nghiệp tối ưu hóa hoạt động, trích xuất thông tin chi tiết và phản hồi trong thời gian thực. Từ học máy (ML) và học sâu đến thị giác máy tính và xử lý ngôn ngữ tự nhiên (NLP), các công ty đang khám phá cách AI có thể nâng cao khả năng ra quyết định và mở khóa các cơ hội tăng trưởng mới. Khi các tổ chức chuyển từ giai đoạn thử nghiệm sang triển khai thực tế, NEXCOM đang giới thiệu lại AIEdge-X®80 — nay được nâng cấp đặc biệt cho khối lượng công việc suy luận AI nặng — để mang lại khả năng xử lý thông minh tại biên nhanh hơn, mạnh mẽ hơn và có khả năng mở rộng hơn.

• TOPS là gì với máy tính AI?

TOPS (Tera Operations Per Second) là đơn vị đo năng lực xử lý trí tuệ nhân tạo của máy tính AI, phản ánh số lượng phép toán mà hệ thống có thể thực hiện trong một giây, thường dựa trên các định dạng tính toán phổ biến như INT8 hoặc FP16. Theo đó, 1 TOPS tương đương với 1 nghìn tỷ phép toán mỗi giây. Chỉ số TOPS càng cao thì khả năng suy luận AI (AI inference) càng mạnh, cho phép hệ thống xử lý dữ liệu nhanh hơn, chính xác hơn và đáp ứng tốt các tác vụ thời gian thực. Đây là yếu tố đặc biệt quan trọng trong nhiều ứng dụng AI hiện đại như nhận diện hình ảnh và video, phân tích video AI (Video Analytics), nhận diện khuôn mặt và biển số, phát hiện hành vi bất thường, điều hướng robot tự hành (AMR/AGV), cũng như các hệ thống xe thông minh và giao thông thông minh (ITS).

Hiệu năng TOPS của các bộ xử lý NVIDIA® Jetson™ phổ biến

• Máy tính AI sử dụng NVIDIA® Jetson™ là gì?

NVIDIA® Jetson™ là nền tảng SoC (System on Module) tích hợp CPU + GPU + AI Engine, được NVIDIA phát triển chuyên biệt cho Edge AI. Các máy tính AI tích hợp Jetson cho phép xử lý AI trực tiếp tại biên mạng, không phụ thuộc vào cloud.

Máy tính AI - AIEdge-X®80 tăng cường hiệu năng TOPS với chế độ siêu tốc NVIDIA® Jetson™

• Tốc độ và hiệu quả đạt đến cấp độ mới với Chế Độ Siêu Tốc NVIDIA® Jetson™

AIEdge-X®80 được nâng cấp là một máy tính AI biên được xây dựng trên nền tảng NVIDIA Jetson Orin Nano™ (AIEdge-X®80-NA) hoặc Orin™ NX (AIEdge-X®80-NX-S) tùy chọn, cả hai đều được tăng cường bởi Chế độ Siêu Tốc mới của Jetson, một tối ưu hóa phần mềm được giới thiệu thông qua JetPack™ 6.2. Sau khi được kích hoạt, Chế độ Siêu Tốc có thể tăng gấp đôi hiệu năng suy luận AI, nhờ tần số CPU, GPU và DLA cao hơn.

Khi kích hoạt Chế độ Siêu tốc (Super Mode), AIEdge-X®80-NA với SoM NVIDIA Jetson Orin Nano™ 8GB tăng tốc từ 33 lên 67 TOPS, trong khi AIEdge-X®80-NX-S với SoM NVIDIA Jetson Orin™ NX 16GB còn đẩy hiệu năng lên cao hơn nữa: từ 100 lên con số đáng kinh ngạc 157 TOPS. Tốc độ tăng mạnh này cho phép các hệ thống được trang bị công nghệ NVIDIA® xử lý các mô hình AI phức tạp hơn – đặc biệt là AI tạo sinh, mô hình ngôn ngữ thị giác (VLM) và mô hình ngôn ngữ lớn (LLM) – trực tiếp tại biên mà không cần dựa vào điện toán đám mây.

Vì NVIDIA Jetson Orin™ NX hiện hỗ trợ công suất cao hơn (lên đến 45W), bộ quạt tùy chọn đảm bảo nhiệt độ ổn định trong quá trình xử lý các tác vụ suy luận cường độ cao, như trong AIEdge-X®80-NX-S. Tùy chọn không quạt, chẳng hạn như AIEdge-X®80, vẫn có sẵn cho các triển khai công suất thấp hơn.

• Được xây dựng cho các tác vụ AI thực tế: AI tạo sinh, AI thị giác máy tính, Robot...

Cho dù bạn vẫn đang thận trọng khám phá AI hay đã sẵn sàng mở rộng quy mô, AIEdge-X®80 đều cung cấp hiệu năng đủ mạnh để chạy các tác vụ suy luận AI tiên tiến trực tiếp tại biên mạng. Với Chế độ Siêu cấp được kích hoạt, AIEdge-X®80-NA không quạt hỗ trợ các tác vụ như AI tạo sinh, thị giác máy tính, LLM và VLM cho robot, thành phố thông minh, tự động hóa công nghiệp và các ứng dụng hình ảnh y tế. Khi việc ứng dụng AI của bạn phát triển, AIEdge-X®80-NX-S sẽ mở rộng quy mô cùng bạn, dễ dàng xử lý phân tích dự đoán, phát hiện bất thường và xử lý cảm biến đa phương thức thời gian thực. Mật độ tính toán mở rộng cho phép chạy các mô hình lớn hơn, chính xác hơn cục bộ, giảm sự phụ thuộc vào đám mây và đảm bảo kết quả nhanh hơn, đáng tin cậy hơn trong cả các tác vụ quan trọng và các tác vụ vận hành hàng ngày.

• Độ bền công nghiệp cho các triển khai AI 

Được thiết kế để hoạt động 24/7 trong môi trường bán ngoài trời hoặc công nghiệp, AIEdge-X®80 duy trì các tiêu chuẩn kỹ thuật bền bỉ của NEXCOM. Kiến trúc không quạt, không dây của nó chịu được nhiệt độ khắc nghiệt (-20°C đến 60°C), rung động, bụi và độ ẩm.

Để hỗ trợ các giải pháp AI biên đa dạng, máy tính AI biên cung cấp khả năng kết nối và mở rộng mạnh mẽ:

• M.2 Key B cho 5G/LTE
• Mini PCIe cho Wi-Fi/BT (tùy chọn Wi-Fi 6E/LTE)
• 4 cổng LAN (tùy chọn PoE) cho camera IP và cảm biến
• 2 cổng COM cho thiết bị công nghiệp
• HDMI®, nhiều cổng USB và điều khiển nguồn từ xa
• Các giao diện này cho phép tích hợp liền mạch trong môi trường sản xuất, y tế, bán lẻ thông minh, robot và IoT.