A.I tại Việt Nam

MISA dựng nhà máy A.I trên 8 hệ thống NVIDIA DGX H200, báo tiết kiệm 200.000 USD/tháng

MISA dựng nhà máy A.I tại chỗ trên nền tảng NVIDIA, thay dần việc thuê API mô hình bên ngoài bằng mô hình MISA AI tự vận hành. Ca này cho thấy khi nào doanh nghiệp nên tự làm hạ tầng A.I và bài học cho SMEs đang dùng phần mềm của MISA.

30/06/20264 phút đọcBiên tập: ABM — A.I Business Master

Tóm tắt nhanh

  • MISA vận hành cụm máy chủ tại chỗ gồm 8 hệ thống NVIDIA DGX H200 (64 GPU H200) để huấn luyện và chạy các mô hình MISA AI 1.0, 1.0 Plus và 2.0, thay cho việc phụ thuộc API mô hình bên ngoài.
  • Kết quả công ty công bố: thời gian tinh chỉnh mô hình giảm 4 lần, tiết kiệm ước tính 200.000 USD chi phí vận hành mỗi tháng, tốc độ suy luận tăng từ 1.200 lên 4.500 token/​giây mỗi mô hình.
  • Hệ thống phục vụ hơn 1,1 triệu yêu cầu tới mô hình ngôn ngữ mỗi ngày, với hơn 50 tác tử A.I dựng sẵn.

Chuyện gì xảy ra

Ngày 30/6/2026, MISA công bố câu chuyện xây dựng “nhà máy A.I” trên nền tảng NVIDIA, cùng nội dung với một case study đăng trên website NVIDIA. Trước đó, MISA dùng API của các nhà cung cấp mô hình ngôn ngữ lớn bên ngoài và gặp ba vấn đề: chi phí vận hành cao, khó kiểm soát bảo mật dữ liệu và độ trễ với các tác vụ nhạy cảm.

Giải pháp là một cụm 8 hệ thống DGX H200 kết nối bằng NVIDIA Quantum InfiniBand, cho phép huấn luyện, tinh chỉnh mô hình từ 8 tỷ đến 235 tỷ tham số. Các tác vụ nhẹ hơn như định danh điện tử (eKYC) chạy trên GPU A40. Công cụ chia sẻ GPU giúp số thử nghiệm song song mỗi tuần tăng từ 1–2 lên 10–20.

Các ứng dụng được nêu gồm: tự động kiểm tra, đối chiếu hóa đơn trong kế toán; hỗ trợ bán hàng 24/7 và tóm tắt cuộc gọi; tự động hóa tuyển dụng từ tiếp nhận hồ sơ đến đánh giá; báo cáo quản trị theo câu hỏi bằng ngôn ngữ tự nhiên; robot A.I trả lời người dân tại trung tâm phục vụ hành chính công. Một doanh nghiệp nhỏ là Noomfood cho biết tốc độ phản hồi khách hàng tăng 6 lần khi dùng tác tử A.I của MISA. MISA phục vụ hơn 450.000 tổ chức và 3,5 triệu khách hàng cá nhân.

Theo Tiền Phong (13/10/2026), MISA cam kết đầu tư 2.500 tỷ đồng trong 5 năm cho các mô hình ngôn ngữ lớn “Make in Vietnam”.

Ý nghĩa với Lãnh đạo và Doanh nghiệp

Lưu ý trước: các con số hiệu quả trên do MISA và NVIDIA tự công bố, chưa được kiểm chứng độc lập.

Khi nào nên tự làm hạ tầng A.I? Ca MISA cho thấy điều kiện: khối lượng sử dụng rất lớn (hơn một triệu yêu cầu mỗi ngày), dữ liệu nhạy cảm (kế toán, hóa đơn, nhân sự), và đội kỹ thuật đủ mạnh để vận hành. Khi đó, chi phí thuê API theo lượt có thể vượt chi phí sở hữu hạ tầng. Với hầu hết doanh nghiệp khác, thuê dịch vụ vẫn hợp lý hơn.

Với SMEs đang dùng phần mềm MISA: đây là tin đáng chú ý vì các tính năng A.I – đối soát hóa đơn, trợ lý bán hàng, tuyển dụng – đang được nhúng thẳng vào công cụ quen thuộc. SMEs không cần dự án A.I riêng; cái cần là quy trình nội bộ đủ chuẩn để tận dụng tính năng sẵn có.

Câu chuyện con người: quản lý của Noomfood chia sẻ ban đầu nhân viên lo bị A.I thay thế, nhưng sau đó A.I trở thành công cụ hỗ trợ giúp đội ngũ có thêm thời gian nâng kỹ năng. Truyền thông nội bộ tốt quyết định nhiều tới thành công.

Gợi ý hành động

  • Nên làm: Kiểm tra các phần mềm quản trị đang dùng (kế toán, bán hàng, nhân sự) đã có tính năng A.I nào mà doanh nghiệp chưa bật.
  • Nên làm: Tính tổng chi phí A.I hằng tháng (thuê bao, API) để có cơ sở so sánh khi quy mô tăng.
  • Nên làm: Trước khi triển khai tác tử A.I cho khách hàng, chuẩn hóa dữ liệu sản phẩm, giá, chính sách – A.I chỉ trả lời tốt khi dữ liệu đúng.
  • Nên chờ: Chưa nên đầu tư hạ tầng GPU riêng nếu khối lượng sử dụng chưa đủ lớn và chưa có đội vận hành.

Nguồn

Nguồn tham khảo

Chat ZaloChat với ABMChatĐặt lịch tư vấn