Edge AI mô tả một lớp kiến trúc ML trong đó các thuật toán AI được xử lý cục bộ trên các thiết bị (ở rìa mạng). Một thiết bị sử dụng Edge AI không cần kết nối để hoạt động bình thường và có thể xử lý dữ liệu và đưa ra quyết định một cách độc lập mà không cần kết nối. Ý tưởng của Edge AI là để mô hình thay vì sống trên các thiết bị ở rìa (do đó có tên) của mạng. Các thuật toán AI sau đó được xử lý cục bộ trên thiết bị, loại bỏ yêu cầu kết nối internet để xử lý dữ liệu và tạo ra các kết quả hữu ích.

Edge AI cung cấp rất nhiều cải tiến so với các kiến trúc ML thông thường. Điện toán biên là một mô hình điện toán phân tán mang tính toán và lưu trữ dữ liệu đến gần vị trí của thiết bị hơn. Điện toán biên bắt nguồn từ các mạng phân phối nội dung. Giờ đây, các công ty sử dụng ảo hóa để mở rộng khả năng. Trước hết, độ trễ liên quan đến bất kỳ quá trình truyền mạng nào sẽ bị loại bỏ, điều này có thể rất quan trọng trong một số trường hợp sử dụng. Việc tiêu hao pin liên quan đến dữ liệu truyền trực tuyến không còn là vấn đề, cho phép tuổi thọ pin tốt hơn và chi phí liên quan cho truyền dữ liệu được giảm đáng kể.

Điều này rất có lợi cho một số trường hợp sử dụng. Các cảm biến ở những vị trí xa xôi như trang trại gió ngoài khơi có thể được tải sẵn các thuật toán cho phép chúng đưa ra quyết định mà không cần cơ sở hạ tầng phức tạp để kết nối internet.

Trong vài năm gần đây, việc triển khai trí tuệ nhân tạo trong các công ty khác nhau đã thay đổi trên khắp thế giới. Khi nhiều nỗ lực toàn doanh nghiệp chiếm ưu thế, Điện toán đám mây đã trở thành một thành phần thiết yếu của sự phát triển AI. Khi khách hàng dành nhiều thời gian hơn trên thiết bị của họ, các doanh nghiệp ngày càng nhận ra nhu cầu đưa tính toán thiết yếu lên thiết bị để phục vụ nhiều khách hàng hơn. Đây là lý do mà thị trường Edge Computing sẽ tiếp tục tăng tốc trong vài năm tới. Edge Computing được dự báo sẽ đạt 1,12 nghìn tỷ lượt tiếp thị vào năm 2023.

Các nhà khoa học dữ liệu, kỹ sư học máy, nhà phát triển front end, network ops, Dev ops, IoT developer và back end developer đều đã hiểu một phần kiến thức cần thiết để hoạt động trong nền kinh tế Edge AI mới này.

Các khái niệm hữu ích để học cách vận hành trong Thế giới Dữ liệu lớn hoặc Điện toán đám mây có thể dễ dàng áp dụng trong nền kinh tế Edge AI. Sự hội tụ giữa lập trình trên thiết bị trong thế giới IoT và lập trình trên Đám mây của thế giới Dữ liệu lớn / AI sẽ cho phép mọi người thỏa sức sáng tạo.