Trong bài viết này
Từ được đánh dấu có giải thích. Di chuột hoặc chạm để xem, hay mở từ điển AI.
Bạn có thể gọi một mô hình qua API của nhà cung cấp, hoặc tải trọng số của một mô hình về để tự vận hành. Hai cách này tạo ra những lựa chọn khác nhau về quyền kiểm soát, công việc kỹ thuật và chi phí.
Mức độ mở và cách triển khai là hai vấn đề khác nhau. Một API cũng có thể cung cấp mô hình có trọng số mở. Bài này so sánh việc tự vận hành với dùng dịch vụ, đồng thời chỉ ra những điều cần kiểm tra trước khi gọi một mô hình là “mở”.
Nhưng “mở” là một từ dễ gây hiểu nhầm. Trước khi quyết định, cần xem chính xác thành phần nào được công bố và bạn được phép làm gì với chúng.
Tải được trọng số chưa nói hết mức độ mở
Trọng số là các tham số đã học. Có trọng số có thể cho phép chạy mô hình trên hạ tầng của bạn, tùy phần mềm và điều kiện đi kèm. Điều đó không tự động có nghĩa là toàn bộ dữ liệu, mã huấn luyện và phương pháp xây dựng đều được công khai.
Open Source AI Definition 1.0 của OSI nêu các quyền sử dụng, nghiên cứu, sửa đổi và chia sẻ; đồng thời đề cập thông tin dữ liệu, mã và tham số cần thiết. Đây là một định nghĩa cụ thể để tham chiếu, không phải bằng chứng rằng mọi mô hình được quảng bá là “open” đều đáp ứng nó.
Khi xem một mô hình, hãy tìm giấy phép đúng phiên bản, điều kiện sử dụng, model card và những thành phần thực sự được cung cấp. Đừng suy ra quyền dùng thương mại chỉ từ việc nút tải xuống hoạt động.
Quyền kiểm soát đi cùng trách nhiệm vận hành
Tự triển khai cho phép bạn chủ động hơn về môi trường chạy, lịch nâng cấp và đường đi của dữ liệu. Đổi lại, nhóm của bạn phải xử lý tài nguyên tính toán, giám sát, cập nhật, kiểm soát truy cập và phục hồi khi có lỗi.
Dùng API có thể giúp bắt đầu nhanh vì nhà cung cấp vận hành mô hình. Bạn vẫn cần đọc điều khoản dịch vụ, chính sách xử lý dữ liệu và các giới hạn áp dụng cho cấu hình mình sử dụng. Không nên mặc định mọi dịch vụ có cùng chế độ lưu trữ dữ liệu.
Một hệ thống tự chạy cũng không tự nhiên trở nên riêng tư. Dữ liệu vẫn có thể đi qua nhật ký, công cụ theo dõi hoặc dịch vụ phụ trợ. Cần nhìn toàn bộ luồng dữ liệu, từ người dùng tới nơi lưu kết quả.
API chuyển phần vận hành mô hình cho nhà cung cấp; tự vận hành đưa thêm trách nhiệm về phía đội ngũ của bạn. Cả hai lựa chọn đều cần kiểm tra quyền sử dụng, dữ liệu và chất lượng trên công việc cụ thể.
↔ Vuốt ngang để xem toàn bộ sơ đồ.
01 / Dùng API
Ứng dụng gửi yêu cầu tới dịch vụ vận hành mô hình. Cần kiểm tra điều khoản và chính sách xử lý dữ liệu.
02 / Tự vận hành
Mô hình chạy trên hạ tầng do bạn quản lý, nếu giấy phép và phần mềm cho phép.
03 / Rõ trách nhiệm
Với tự vận hành, đội ngũ lo tài nguyên, cập nhật và giám sát. Cả hai cách vẫn cần kiểm soát luồng dữ liệu của ứng dụng.
04 / Thử đúng công việc
Đo chất lượng tiếng Việt, thời gian, tổng chi phí và công sức sửa lỗi trên cùng nhiệm vụ trước khi chọn.
Đây là khung so sánh, không phải kết luận về một nhà cung cấp hay cấu hình cụ thể. Tải được trọng số không tự động đồng nghĩa với mã nguồn mở.
Tính chi phí theo công việc hoàn thành
Chi phí API thường dễ nhìn thấy trên hóa đơn. Chi phí tự vận hành phân tán hơn: phần cứng hoặc thuê máy, thời gian kỹ sư, hệ thống dự phòng và mức sử dụng tài nguyên.
Hãy so sánh trên một công việc cụ thể, chẳng hạn xử lý một nghìn tài liệu có cùng phân bố độ dài. Đo chất lượng đạt yêu cầu, thời gian phản hồi, tỷ lệ thử lại và công sức sửa kết quả. Những con số này phải đến từ phép thử của bạn; bài viết không giả định mức giá hay cấu hình nào luôn rẻ hơn.
Lưu lượng cũng quan trọng. Một máy mạnh nhưng thường nhàn rỗi có cấu trúc chi phí khác một dịch vụ liên tục nhận yêu cầu. Khả năng phục vụ giờ cao điểm và công sức trực hệ thống cần được tính vào quyết định.
Chất lượng tiếng Việt phải được kiểm tra trực tiếp
Một tuyên bố hỗ trợ nhiều ngôn ngữ chưa cho biết mô hình xử lý tốt tên người Việt, văn bản không dấu hay thuật ngữ ngành của bạn đến đâu. Hãy dùng các ví dụ phù hợp, bao gồm những trường hợp dễ nhầm.
Nghiên cứu Model Cards for Model Reporting đề xuất tài liệu mô tả mục đích sử dụng, điều kiện đánh giá và đặc điểm hiệu năng. Model card là điểm xuất phát để hiểu mô hình; phép thử trên dữ liệu của bạn mới trả lời câu hỏi có phù hợp hay không.
Bạn cũng có thể thiết kế ứng dụng để đổi nhà cung cấp hoặc mô hình mà không viết lại toàn bộ nghiệp vụ. Giữ hợp đồng đầu vào, đầu ra và bộ đánh giá trên cùng nhiệm vụ ổn định giúp việc thay đổi có căn cứ.
Với một dự án mới, hãy chọn một nhiệm vụ nhỏ, thử vài cấu hình và ghi lại đánh đổi. Một lựa chọn tốt là lựa chọn phù hợp với dữ liệu, năng lực vận hành và yêu cầu của bạn ở thời điểm ra quyết định — đồng thời có cách kiểm tra lại khi các điều kiện ấy thay đổi.