JEPA
08 - 08 - 2026
AI tạo sinh đang khiến cả thế giới trầm trồ — chatbot trò chuyện mượt như người thật, ảnh chân thực dựng lên chỉ từ vài dòng chữ, code tự viết chính mình. Nhưng nếu nhìn kỹ hơn một chút, phần lớn các mô hình này vẫn đang làm một việc rất "thợ": đoán từ tiếp theo, đoán pixel tiếp theo, mà chưa chắc đã thực sự "hiểu" cái mình đang tạo ra. Yann LeCun, Giám đốc Khoa học AI của Meta, đã nhắc đi nhắc lại suốt nhiều năm rằng: muốn máy móc thông minh thật sự, chúng cần học cách dự đoán trong không gian biểu diễn (representation space), chứ không phải dự đoán trực tiếp trên dữ liệu thô. Ý tưởng đó giờ đã có tên gọi chính thức: JEPA — Joint Embedding Predictive Architecture. Bài viết này sẽ giải thích JEPA là gì, vì sao nó đi ngược lại lối mòn cũ, và vì sao nó có thể là mảnh ghép quan trọng cho thế hệ AI tiếp theo. 2. Ý tưởng lõi: dự đoán biểu diễn, không dự đoán pixelJEPA không phải một mô hình cụ thể, mà là một bản thiết kế để xây các hệ thống học tự giám sát. Ba mảnh ghép chính: • Bộ mã hóa ngữ cảnh — chỉ nhìn thấy một phần của thế giới (ví dụ: các mảng ảnh chưa bị che). • Bộ mã hóa mục tiêu — nhìn thấy toàn bộ quan sát gốc (hoặc một góc nhìn khác của cùng cảnh đó). • Bộ dự đoán — lấy biểu diễn từ bộ mã hóa ngữ cảnh, cộng với gợi ý về vị trí/thời điểm cần đoán, rồi cố đoán ra biểu diễn mà bộ mã hóa mục tiêu sẽ tạo ra cho phần bị ẩn. Điểm then chốt nằm ở chỗ: hàm mất mát được tính giữa đầu ra của bộ dự đoán và biểu diễn mục tiêu — một vector tiềm ẩn, chứ không phải pixel thật. Không có bước "vẽ lại" nào cả. Nhờ vậy mô hình buộc phải bỏ qua nhiễu ở mức pixel và tập trung vào bản chất ngữ nghĩa của phần bị thiếu. Ví dụ dễ hình dung: nếu một mô hình tạo sinh phải đoán một mảng trời bị che, nó sẽ cố vẽ ra những đám mây trông hợp lý. JEPA thì khác — nó chỉ cần đoán ra đặc trưng trừu tượng khiến mảng đó "giống bầu trời": tông màu, loại kết cấu, vai trò trong bố cục — mà chẳng quan tâm từng pixel xếp ở đâu. Kết quả là một biểu diễn gọn hơn, hiệu quả hơn, và dễ tái sử dụng cho các tác vụ khác. Sơ đồ dưới đây tóm tắt luồng hoạt động này: 4. I-JEPA: nhìn ra bức tranh lớn mà không cần từng pixelI-JEPA, ra mắt năm 2023, áp dụng công thức trên vào hình ảnh. Mô hình dùng nền tảng Vision Transformer (ViT): phần lớn ảnh (khoảng 70–80% số mảng) bị che ngẫu nhiên, chỉ chừa lại vài khối làm ngữ cảnh. Bộ mã hóa ngữ cảnh chỉ xử lý những mảng còn nhìn thấy. Bộ mã hóa mục tiêu xử lý cùng bức ảnh đó, nhưng chỉ lấy biểu diễn ở đúng những mảng bị che. Bộ dự đoán sau đó nhận đầu ra của bộ mã hóa ngữ cảnh cùng các token đánh dấu vị trí mục tiêu, và phải đoán ra biểu diễn tương ứng. Điều đáng chú ý không chỉ là I-JEPA hoạt động tốt, mà nó làm được điều đó với ít tài nguyên hơn hẳn. Trên ImageNet, khi đóng băng phần thân mô hình và chỉ huấn luyện một lớp phân loại tuyến tính (linear probing), I-JEPA cho kết quả ngang ngửa hoặc vượt qua các phương pháp tái tạo pixel như MAE, dù tốn ít thời gian tiền huấn luyện hơn nhiều. Nó cũng học tốt với rất ít dữ liệu gán nhãn — chỉ cần vài mẫu mỗi lớp là đã đạt độ chính xác gần bằng huấn luyện có giám sát đầy đủ. Thú vị nhất là khi soi vào bản đồ chú ý (attention map) của một I-JEPA đã huấn luyện xong: mô hình tự khoanh được ranh giới vật thể, các bộ phận, thậm chí cả các nhóm ngữ nghĩa — dù chưa từng được dạy thế nào là "con chó" hay "bánh xe". Chỉ bằng việc cố đoán đặc trưng ẩn của những mảng bị che, nó buộc phải tự hình thành một cách hiểu nhất quán về thế giới. 6. Vì sao JEPA đáng chú ýJEPA không đơn thuần là một cải tiến nhỏ, mà mang theo một sự thay đổi tư duy khá rõ ràng: • Tiết kiệm tính toán — không phải "vẽ lại" ở mức pixel, JEPA dồn toàn bộ năng lực vào việc hiểu ngữ nghĩa. I-JEPA đạt kết quả mạnh với thời gian GPU ít hơn hẳn so với các phương pháp tạo sinh hay đối chiếu khác. • Không cần bày vẽ tăng cường dữ liệu — khác với SimCLR hay MoCo, JEPA không phụ thuộc vào một loạt phép biến đổi màu sắc, cắt ảnh, làm mờ để tạo cặp dữ liệu dương. Chính nhiệm vụ dự đoán đã tự cung cấp một tín hiệu học tập phong phú. • Biểu diễn mang tính ngữ nghĩa, dễ diễn giải — các đặc trưng bên trong tự nhiên khớp với các bộ phận vật thể, thành phần cảnh vật, dù không hề có nhãn. Đây là nền tảng tốt cho các bài toán như phát hiện vật thể, phân đoạn ảnh, hay lập kế hoạch. • Dùng chung một công thức cho nhiều loại dữ liệu — cùng một bản thiết kế JEPA áp dụng được cho ảnh (I-JEPA), video (V-JEPA), và cả âm thanh (A-JEPA). Meta cũng đang thử nghiệm các phiên bản JEPA đa phương thức, kết hợp thị giác, âm thanh, và cả hành động.
