FPT triển khai hạ tầng AI với NVIDIA GPU thế hệ mới, phát triển AI suy luận

Hạ tầng này được thiết kế để phục vụ các bài toán AI trong giai đoạn mới như AI suy luận (reasoning) và AI tự vận hành (agentic AI) - những mô hình có khả năng ra quyết định và hành động thay vì chỉ xử lý dữ liệu.

Dịch vụ GPU Cloud trên hạ tầng NVIDIA HGX B300 được thiết kế chuyên biệt cho AI Reasoning và Agentic AI

Khác với mô hình máy chủ truyền thống, FPT cung cấp hạ tầng này dưới dạng GPU Cloud, cho phép các doanh nghiệp và nhà phát triển AI gia tăng hiệu năng trong quá trình huấn luyện và suy luận mô hình, từ đó triển khai và linh hoạt mở rộng các ứng dụng AI quy mô lớn trong thời gian ngắn với mức chi phí vận hành tối ưu.

Hiện FPT AI Factory đang cung cấp 43 dịch vụ AI Cloud, phục vụ hơn 18.000 người dùng toàn cầu trong các lĩnh vực như tài chính, y tế và công nghệ. Hệ thống này đang vận hành trên nền tảng NVIDIA HGX H100 và HGX H200 tại Việt Nam và Nhật Bản.

Việc bổ sung NVIDIA HGX B300 nhằm đáp ứng nhu cầu xử lý các bài toán AI ngày càng phức tạp, đặc biệt ở giai đoạn suy luận - vốn đòi hỏi năng lực tính toán cao hơn nhiều so với huấn luyện.

Nền tảng FPT AI Factory với NVIDIA HGX B300 giúp tăng tốc ứng dụng AI quy mô lớn 

FPT cho biết, với hạ tầng AI mới và đội ngũ kỹ sư giàu kinh nghiệm, FPT AI Factory không chỉ là nền tảng phát triển AI toàn diện mà còn hỗ trợ doanh nghiệp mở rộng hoạt động sang các thị trường như Nhật Bản và Đông Nam Á. Đây cũng là một phần trong định hướng xây dựng năng lực AI riêng cho khu vực.

Dịch vụ GPU Cloud trên hạ tầng NVIDIA HGX B300 sẽ được cung cấp trên FPT AI Factory. Doanh nghiệp và lập trình viên có thể đăng ký trải nghiệm sớm để được ưu tiên sử dụng, từ đó triển khai và mở rộng các hệ thống AI của riêng mình nhanh hơn. Tìm hiểu thêm tại https://short.factory.fpt.ai/XCcgs.

FPT hiện là tập đoàn công nghệ hoạt động toàn cầu, đẩy mạnh đầu tư vào 5 công nghệ chiến lược, bao gồm Quantum AI, Cyber Security, UAV, Data và công nghệ đường sắt. AI được xác định là hướng đầu tư trọng tâm, với việc tích hợp vào các sản phẩm và đồng thời đầu tư vào nhân lực, nghiên cứu và hạ tầng. Năm 2025, FPT đạt doanh thu 2,66 tỷ USD, với hơn 54.000 nhân sự tại 30 quốc gia và vùng lãnh thổ.