Hạ tầng AI & GPU/HPC
Kiến trúc và triển khai nền tảng local LLM, RAG, model serving, GPU, Proxmox, ZFS và Slurm cho môi trường riêng hoặc nhiều người dùng.
- Private AI
- 128GB+ VRAM
- Proxmox & ZFS
Hạ tầng AI · Agentic Design Verification · EDA · GPU/HPC
Nguyen La Thong là nhà sáng lập và tư vấn hạ tầng AI tại TP.HCM, kết hợp kinh nghiệm Design Verification bán dẫn với năng lực trực tiếp xây dựng GPU/HPC, LLMOps và vận hành doanh nghiệp kỹ thuật.
Kiến trúc.
Tự động hóa.
Vận hành.
Biến yêu cầu kỹ thuật phức tạp thành một hệ thống có thể xây dựng, đo lường và bàn giao.
Dịch vụ tư vấn
Kiến trúc và triển khai nền tảng local LLM, RAG, model serving, GPU, Proxmox, ZFS và Slurm cho môi trường riêng hoặc nhiều người dùng.
UVM, regression, debug, coverage, CI/CD và luồng agentic AI cho CPU/SoC, DMA, Security và USB Full Speed.
Kết nối kiến trúc hệ thống với quy trình, bán hàng kỹ thuật, đào tạo, tài liệu, tự động hóa và kế hoạch chuyển giao.
Hình ảnh tham chiếu
Hình minh họa có giấy phép mở, dùng để tạo ngữ cảnh cho năng lực bên trên; không phải hạ tầng, thiết bị hay dự án thuộc sở hữu của Nguyen La Thong.

AI / HPC · Hạ tầng
Tham chiếu trực quan cho kiến trúc rack, mạng, lưu trữ và vận hành nền tảng nhiều người dùng.

AI / HPC · Kết quả
Hình tham chiếu cho lớp GPU, ảo hóa và khả năng chuyển tài nguyên thành dịch vụ có thể vận hành.

Semiconductor · DV
Ngữ cảnh minh họa cho UVM, regression, coverage và tự động hóa EDA trong quy trình phát triển SoC.

FrameLab · Maker
Hình tham chiếu cho vai trò maker: prototype, chế tạo theo yêu cầu và thiết kế có thể sản xuất.
Dấu ấn đã xác thực
Các con số và phạm vi dưới đây được tóm lược từ hồ sơ LinkedIn công khai.
ICTC · Hạ tầng EDA
Xây dựng và vận hành nền tảng EDA/e-learning với khoảng 1TB RAM, hơn 100 lõi CPU, 80TB lưu trữ, Proxmox/Slurm và ZFS replication trên backbone SFP+ 10Gbps.
NSING · Design Verification
Xây công cụ tự động hóa DV và quản lý full-SoC regression cho đội ngũ 20 kỹ sư; phát hiện hơn 50 lỗi và đạt trạng thái regression pass 100% cùng coverage RTL/GLS cho DMA và Security.
Ampere · Simulation
Cải thiện thời gian chạy của các mô phỏng DV được chọn bằng VCS Save-Restore, giảm phần khởi tạo lặp lại trong quy trình verification CPU/SoC.
AI/HPC · Hệ thống riêng
Xây hệ thống suy luận local LLM cho model serving, thử nghiệm, RAG và agent workflow; đồng thời vận hành hạ tầng Proxmox, ZFS, GPU và Slurm.
Từ cộng đồng kỹ thuật
Khoảnh khắc từ bài đăng LinkedIn công khai do chủ sở hữu cung cấp.
Không gian trao đổi kiến thức giữa ICTC và sinh viên tại Trường Đại học Bách khoa TP.HCM.
Xem bài đăng nguồnKinh nghiệm
Kết hợp in 3D và chế tạo theo yêu cầu với tư vấn phần cứng homelab và thương mại số. Xây website và gian hàng, cung cấp sản phẩm, prototype, phụ kiện rack và chuyển yêu cầu khách hàng thành thiết kế có thể sản xuất, lựa chọn phần cứng, báo giá và kế hoạch giao hàng.
Xây trung tâm đào tạo thiết kế vi mạch phục vụ hơn 800 học viên về RTL, DV và Physical Design. Điều hành bán hàng, marketing, tư vấn học viên, nhân sự, tài chính, hạ tầng, chương trình học và đối tác.
Phụ trách DMA, Security, USB Full Speed, testbench UVM, regression toàn SoC và tự động hóa EDA. Kiến trúc framework agentic DV tự cải thiện, tích hợp CI/CD cho sinh test và hỗ trợ debug; đưa llama.cpp AVX512 chạy Qwen trên CentOS 7.
Thiết kế, lắp ráp và vận hành hệ thống ảo hóa, lưu trữ, GPU, AI inference và EDA/HPC. Kinh nghiệm gồm hệ thống local LLM 128GB+ VRAM, server Xeon/EPYC, Proxmox KVM, VMware, Hyper-V, LXC, ZFS, Ceph, Slurm, ACL, backup/restore và truy cập từ xa.
Quản lý nhiều dự án cho khách hàng có doanh thu năm trên 200 triệu USD; thuyết trình với lãnh đạo cấp C ở nước ngoài. Sau một tháng, chào thầu và giành hợp đồng 25.000 USD với SkyWorld Development Ltd.; tối ưu hướng dẫn proposal bằng ChatGPT và prompt engineering.
Làm việc với verification CPU/SoC, CHI, các luồng giao dịch CPU-to-MCU/DDR5, phân tích latency/throughput và UVM. Cải thiện 10–200 lần thời gian chạy của các mô phỏng được chọn bằng VCS Save-Restore; xây Bash/Python automation và đóng gói công cụ hiện đại cho CentOS 6.
Chỉ đạo và dẫn các video công nghệ đạt 40.000 lượt xem, quản lý đội ngũ 6 thành viên; đàm phán tài trợ mẫu màn hình review và tạo video được xem nhiều nhất trong nước theo hồ sơ.
Xây website prototype cho khách hàng, kết nối trao đổi giữa developer và khách hàng, đồng thời giới thiệu và đào tạo tính năng sản phẩm tại các sự kiện ra mắt.
Debug một vấn đề simulator nghiêm trọng trong khi xây dựng UVM testbench và làm việc với giao thức APB, AXI.
Xây và quản lý website, kênh YouTube; mở rộng tiếp cận trên diễn đàn công nghệ; lắp ráp và xử lý sự cố phần cứng, phần mềm máy tính cho khách hàng.
Xây website bằng nền tảng quản trị nội dung và diễn đàn Vanilla, viết bài SEO cho ClickBank và Google AdSense.
Giai đoạn khởi nghiệp sớm với nhiều hoạt động kinh doanh nhỏ, bán nhiều nhóm sản phẩm khác nhau.
Học vấn & ghi nhận
Học vấn · 2017–2021
Trường Đại học Bách khoa TP.HCM (HCMUT).
Chứng chỉ · Thg 8 2020
Chứng chỉ do Udemy cấp.
Công bố · 2021
Công trình về giải pháp Edge-AI dị thể cho nhận diện tình trạng chỗ đỗ xe theo thời gian thực.
Giải thưởng · Thg 11 2020
Hạng nhất, do Intel trao.
Ngôn ngữ
Cả hai ở mức bản ngữ hoặc song ngữ theo hồ sơ.
Nguồn hồ sơ
Nội dung nghề nghiệp trên trang này được biên tập từ hồ sơ đã được chủ sở hữu phê duyệt làm nguồn công khai.
Đối chiếu hồ sơKết nối
Hãy chia sẻ bối cảnh, tải công việc và điều cần thay đổi. LinkedIn là kênh liên hệ công khai và cũng là nguồn đối chiếu hồ sơ.
Kết nối trên LinkedInAI Infrastructure · Agentic Design Verification · EDA · GPU/HPC
Nguyen La Thong is a founder and AI infrastructure consultant in Ho Chi Minh City, combining semiconductor Design Verification experience with hands-on GPU/HPC, LLMOps, and technical-business operations.
Architecture.
Automation.
Operations.
Turn complex engineering requirements into systems that can be built, measured, and handed over.
Consulting services
Architect and deploy local LLM, RAG, model-serving, GPU, Proxmox, ZFS, and Slurm platforms for private or multi-user environments.
UVM, regression, debug, coverage, CI/CD, and agentic AI workflows for CPU/SoC, DMA, Security, and USB Full Speed.
Connect system architecture to process, technical sales, education, documentation, automation, and capability-transfer plans.
Reference imagery
Openly licensed illustrations add context to the capabilities above; they are not Nguyen La Thong-owned infrastructure, equipment, or projects.

AI / HPC · Infrastructure
A visual reference for rack, network, storage, and multi-user platform operations.

AI / HPC · Outcomes
A reference for the GPU and virtualization layers that turn resources into an operable service.

Semiconductor · DV
Illustrative context for UVM, regression, coverage, and EDA automation in the SoC development flow.

FrameLab · Maker
A reference for the maker role: prototypes, custom fabrication, and manufacturable design.
Verified impact
The figures and scope below are summarized from the public LinkedIn profile.
ICTC · EDA infrastructure
Built and operates an EDA/e-learning platform with approximately 1TB RAM, 100+ CPU cores, 80TB storage, Proxmox/Slurm, and ZFS replication over a 10Gbps SFP+ backbone.
NSING · Design Verification
Built DV automation and managed full-SoC regression for a 20-engineer team; found 50+ bugs and achieved 100% passing regression status with RTL/GLS coverage for DMA and Security.
Ampere · Simulation
Improved selected DV simulation runtimes with VCS Save-Restore, reducing repeated initialization in CPU/SoC verification workflows.
AI/HPC · Private systems
Built a local LLM inference system for model serving, experimentation, RAG, and agent workflows while operating Proxmox, ZFS, GPU, and Slurm infrastructure.
From the technical community
A moment from an owner-provided public LinkedIn post.
A knowledge-sharing event connecting ICTC with students at Ho Chi Minh City University of Technology.
View source postExperience
Combines custom 3D printing and fabrication with homelab-hardware consulting and digital commerce. Built the website and storefront; delivers products, prototypes, rack accessories, and translates customer requirements into manufacturable designs, hardware options, quotations, and delivery plans.
Built an IC design training center serving 800+ students across RTL, DV, and Physical Design. Leads sales, marketing, student consulting, staffing, finance, infrastructure, curriculum improvement, and partnerships.
Owns DMA, Security, USB Full Speed, UVM testbenches, full-SoC regression, and EDA automation. Architected a self-improving agentic DV framework with CI/CD for test generation and debug assistance; brought llama.cpp AVX512 running Qwen to CentOS 7.
Designs, builds, and operates virtualization, storage, GPU, AI inference, and EDA/HPC systems. Experience includes a 128GB+ VRAM local LLM system, hands-on Xeon/EPYC servers, Proxmox KVM, VMware, Hyper-V, LXC, ZFS, Ceph, Slurm, ACLs, backup/restore, and remote access.
Managed multiple projects for clients with yearly revenues above USD 200 million and presented to overseas C-level executives. Pitched and won a USD 25,000 SkyWorld Development Ltd. contract after one month; optimized proposal guidelines with ChatGPT and prompt engineering.
Worked on CPU/SoC verification, CHI, CPU-to-MCU/DDR5 transaction flows, latency/throughput analysis, and UVM. Improved selected simulation runtimes by 10–200x with VCS Save-Restore; built Bash/Python automation and packaged modern tools for CentOS 6.
Directed and hosted technology videos reaching 40,000 views, leading a six-member team; negotiated a sponsored review monitor sample and created the country's most-viewed video according to the profile.
Built prototype websites for customers, facilitated communication between developers and clients, and presented product-feature training at client launch events.
Debugged a critical simulator issue while building a UVM testbench and working with APB and AXI protocols.
Built and managed the website and YouTube channel, expanded outreach to technology forums, and built and troubleshot customer computers across hardware and software.
Built a content-managed website and Vanilla forum and wrote SEO content for ClickBank and Google AdSense.
An early entrepreneurship period running multiple small businesses across different product categories.
Education & recognition
Education · 2017–2021
Ho Chi Minh City University of Technology (HCMUT).
Certification · Aug 2020
Issued by Udemy.
Publication · 2021
Research on a heterogeneous Edge-AI solution for real-time parking occupancy detection.
Award · Nov 2020
First place, issued by Intel.
Languages
Native or bilingual proficiency in both, according to the profile.
Profile source
The professional content on this page is edited from the owner-approved public profile source.
Review the source profileConnect
Share the context, workload, and change you need. LinkedIn is the public contact channel and the source for profile verification.
Connect on LinkedIn