Bảo vệ dữ liệu khi dùng AI: kiểm tra trước khi dán
Một quy trình ngắn để giảm dữ liệu đưa vào AI, thay thông tin nhận diện và kiểm tra nơi lưu bản nháp trước khi chia sẻ.
Cơ bản
CHỦ ĐỀ 03 / 54 BÀI VIẾT
Thực hành.
Hướng dẫn thực hành AI bằng tiếng Việt: viết prompt rõ ràng, dùng RAG để tra cứu tài liệu và hiểu cách AI agent sử dụng công cụ.
Cache cho ứng dụng AI: lưu cái gì, hết hạn khi nào?
Phân biệt cache đầu ra, cache truy xuất và prompt caching; thiết kế khóa để tránh dùng lại câu trả lời sai người hoặc sai phiên bản.
Trung cấp
Calibration: độ tự tin nào đủ để trả lời?
Phân biệt xác suất dự đoán với độ đúng, tính sai lệch calibration và thiết kế ngưỡng chuyển tiếp khi hệ thống chưa đủ chắc chắn.
Nâng cao
Canary và rollback cho model, prompt và chỉ mục
Triển khai AI theo nhóm ổn định, so sánh với phiên bản hiện hành và chuẩn bị đường lui cho từng thành phần.
Nâng cao
Cập nhật và xóa dữ liệu RAG cho nhất quán
Quản lý tài liệu, chunk, vector và cache theo phiên bản để tránh câu trả lời dựa trên nội dung đã thay đổi hoặc đã bị thu hồi.
Trung cấp
Checkpoint và phục hồi agent sau gián đoạn
Lưu trạng thái cần thiết để tiếp tục công việc, đồng thời xử lý kết quả công cụ và quyền đã thay đổi.
Nâng cao
Chia đoạn tài liệu cho RAG mà không làm mất ý
Chọn ranh giới chunk theo cấu trúc và câu hỏi, xử lý phần chồng lấn, rồi kiểm tra xem điều kiện và ngoại lệ có đi cùng nhau không.
Trung cấp
Đánh giá retrieval trước khi sửa prompt
Lập bộ câu hỏi có căn cứ, đo chất lượng danh sách truy xuất và phân loại lỗi để biết nên sửa dữ liệu, bộ lọc hay xếp hạng.
Trung cấp
Dịch thuật với bảng thuật ngữ: nhất quán mà vẫn đúng ngữ cảnh
Chuẩn bị bảng thuật ngữ nhỏ, ghi ngoại lệ và rà bản dịch theo ý nghĩa thay vì chỉ thay từ từng cặp.
Cơ bản
Đo chi phí mỗi tác vụ, đừng chỉ nhìn giá mỗi token
Gắn token, công cụ, retry và kết quả cuối vào cùng một công việc để biết chi phí thực sự của ứng dụng AI.
Trung cấp
Đọc bảng tính cùng AI: hiểu hàng, cột và đơn vị trước khi kết luận
Chuẩn bị bảng nhỏ có ý nghĩa rõ ràng, yêu cầu phép tính kiểm được và tránh suy ra nguyên nhân từ một vài con số.
Cơ bản
Drift và giám sát sau triển khai: nhận ra khi bài toán đã thay đổi
Phân biệt thay đổi đầu vào, quan hệ với nhãn và lỗi pipeline để chọn đúng hành động bảo trì hệ thống AI.
Nâng cao
Dự án tổng kết: xây trợ lý tài liệu có kiểm chứng
Ghép truy xuất, trích dẫn, phân quyền và đánh giá thành một dự án nhỏ có tiêu chí nghiệm thu rõ ràng.
Nâng cao
Few-shot: dạy AI bằng vài ví dụ được chọn kỹ
Dùng cặp đầu vào và đầu ra để diễn đạt quy tắc khó mô tả, tránh ví dụ gây hiểu nhầm và kiểm tra trên trường hợp chưa xuất hiện.
Cơ bản
Khi nào một lỗi ứng dụng cần fine-tuning?
Tách lỗi thiếu dữ kiện khỏi lỗi hành vi, thiết kế tập huấn luyện và đặt điều kiện thành công trước khi cập nhật tham số.
Nâng cao
Học cùng AI mà không học vẹt: tự trả lời trước khi xem gợi ý
Dùng AI để tạo câu hỏi, phản hồi và bài tập biến đổi; đo việc hiểu bằng khả năng giải thích và vận dụng khi không còn trợ giúp.
Cơ bản
Idempotency cho công cụ AI: thử lại mà không tạo tác dụng phụ trùng
Thiết kế khóa thao tác, trạng thái không chắc chắn và hợp đồng retry cho công cụ do agent sử dụng.
Nâng cao
Kiểm chứng câu trả lời AI: kiểm từng khẳng định, mở từng nguồn
Tách câu trả lời thành những điều có thể kiểm tra, đọc đúng nguồn và phân biệt dữ kiện đã xác nhận với suy luận còn bỏ ngỏ.
Cơ bản
KV cache: đổi bộ nhớ lấy phần tính toán đã làm
Tính ngân sách key-value cache, phân biệt prefill với decode và hiểu vì sao ngữ cảnh dài làm giảm số yêu cầu đồng thời.
Nâng cao
Làm sạch dữ liệu tiếng Việt mà không xóa mất nghĩa
Chuẩn hóa Unicode, khoảng trắng và dữ liệu trùng có kiểm soát, giữ dấu tiếng Việt cùng bản gốc để tìm kiếm và đánh giá đáng tin hơn.
Trung cấp
Metadata và bộ lọc: tìm đúng tài liệu được phép dùng
Thiết kế metadata về phiên bản, phạm vi và quyền truy cập, tách điều kiện bắt buộc khỏi điểm liên quan trong hệ thống RAG.
Trung cấp
Nhận biết prompt injection khi AI đọc tài liệu bên ngoài
Phân biệt dữ liệu với chỉ dẫn, nhận ra yêu cầu chen vào tài liệu và thử một tình huống an toàn để kiểm tra trợ lý AI.
Cơ bản
Nhật ký thử nghiệm prompt: biết vì sao phiên bản mới tốt hơn
Lưu mục tiêu, thay đổi, đầu vào và lỗi quan sát được để so sánh các phiên bản prompt mà không dựa vào trí nhớ hoặc một câu trả lời đẹp.
Cơ bản
Observability cho hệ thống AI: lần theo một kết quả sai
Thiết kế trace, metric và log để phân biệt lỗi truy xuất, mô hình, công cụ và kiểm tra kết quả.
Nâng cao
OCR cho RAG: đọc tài liệu scan mà giữ đúng cấu trúc
Nhận diện lỗi OCR, thứ tự đọc và bảng biểu trước khi tạo embedding, đồng thời giữ đường đối chiếu về ảnh gốc.
Trung cấp
Phân loại phản hồi khách hàng: bắt đầu từ bộ nhãn
Xây bài toán phân loại phản hồi có nhiều ý, xử lý nhãn hiếm và đo lỗi theo hậu quả của từng nhóm.
Trung cấp
Phân quyền tối thiểu cho agent: quyền nằm trong hệ thống thực thi
Giới hạn công cụ theo người dùng, tài nguyên, hành động và thời gian; kiểm tra quyền ngay trước tác dụng phụ.
Nâng cao
Phòng vệ prompt injection bằng nhiều lớp kiểm soát
Tách dữ liệu khỏi quyền điều khiển, giới hạn công cụ và kiểm tra đầu ra trong ứng dụng đọc nội dung không đáng tin.
Nâng cao
QLoRA: bộ nhớ nào được giảm khi fine-tuning?
Tách trọng số nền, adapter, activation và optimizer để hiểu QLoRA và lập một ngân sách bộ nhớ không bỏ sót thành phần.
Nâng cao
Quản lý bộ nhớ hội thoại mà không giữ mọi thứ
Tách lịch sử, trạng thái công việc và sở thích lâu dài để hội thoại AI giữ đúng thông tin cần thiết khi kéo dài.
Trung cấp
Quantization: giảm số bit, đo lại sai số
Tự lượng tử hóa một trọng số, phân biệt lượng tử hóa trọng số với activation và kiểm tra lợi ích trên phần cứng thực tế.
Nâng cao
Query rewriting: viết lại câu hỏi để tìm đúng hơn
Biến câu hỏi phụ thuộc hội thoại thành truy vấn rõ nghĩa, giữ nguyên ràng buộc và đo xem viết lại có thật sự cải thiện truy xuất không.
Trung cấp
RAG với bảng biểu: đừng làm rơi tiêu đề cột
Biểu diễn bảng có đủ hàng, cột và đơn vị, phân biệt tra cứu một ô với phép tổng hợp cần dữ liệu đầy đủ và công cụ tính.
Trung cấp
Red team ứng dụng AI bằng các ranh giới kiểm chứng được
Thiết kế bài kiểm tra đối kháng có kiểm soát, quan sát hành động của agent và biến phát hiện thành bộ hồi quy.
Nâng cao
Reranking trong RAG: chọn kỹ từ nhóm ứng viên
Tách truy xuất nhanh và xếp hạng lại, hiểu giới hạn của reranker và thiết kế phép thử đo lợi ích lẫn độ trễ.
Trung cấp
Retry, timeout và rate limit: thử lại đúng lúc
Phân loại lỗi khi gọi AI, đặt ngân sách thử lại và ngăn các yêu cầu lặp làm dịch vụ quá tải hoặc thực hiện hành động hai lần.
Trung cấp
Routing: chọn đường xử lý theo loại công việc
Thiết kế bộ định tuyến cho ứng dụng AI, đo lỗi chuyển nhầm và kiểm soát chi phí của chính bước chọn mô hình.
Trung cấp
State machine cho agent: biến lời hứa thành trạng thái kiểm tra được
Thiết kế vòng đời agent với chuyển trạng thái có điều kiện, điểm dừng rõ ràng và kiểm tra kết quả độc lập.
Nâng cao
Streaming: hiển thị sớm nhưng phải kết thúc đúng
Thiết kế trạng thái cho câu trả lời đang truyền, phân biệt thời gian có chữ đầu tiên với thời gian có kết quả dùng được.
Trung cấp
Structured output: đúng JSON chưa chắc đúng dữ liệu
Thiết kế schema cho đầu ra AI, tách kiểm tra cấu trúc khỏi quy tắc nghiệp vụ và xử lý thông tin không có trong nguồn.
Trung cấp
Tách nhiệm vụ cho AI: đặt điểm kiểm tra giữa các bước
Biến một yêu cầu dài thành những bước có đầu ra rõ ràng, biết khi nào nên dừng và cách phát hiện lỗi trước khi viết thành phẩm.
Cơ bản
Thử nghiệm A/B cho AI: đo việc hoàn thành, không chỉ lượt bấm
Thiết kế giả thuyết, đơn vị chia nhóm và chỉ số bảo vệ để so sánh hai cách hỗ trợ bằng AI trong sản phẩm.
Trung cấp
Tìm kiếm hybrid: ghép từ khóa với ngữ nghĩa
Hiểu khi nào tìm kiếm từ khóa và vector bổ sung cho nhau, cách ghép bằng thứ hạng và cách kiểm tra bằng câu hỏi chứa mã riêng.
Trung cấp
Tóm tắt không mất ý: giữ quyết định, điều kiện và ngoại lệ
Chọn thông tin phải giữ trước khi rút ngắn văn bản, đối chiếu từng ý với nguồn và tránh biến dự kiến thành quyết định.
Cơ bản
Tool calling: từ đề xuất của mô hình đến hành động thật
Theo dõi một lượt gọi công cụ, thiết kế hợp đồng đầu vào và đặt kiểm tra quyền ở nơi thực thi hành động.
Trung cấp
Trích dẫn trong RAG phải dẫn tới đúng bằng chứng
Thiết kế trích dẫn ở mức luận điểm, giữ định danh và phiên bản nguồn, rồi kiểm tra cả tính hỗ trợ lẫn độ đầy đủ của căn cứ.
Trung cấp
Trích xuất thông tin có cấu trúc: từ câu chữ sang bảng rõ nghĩa
Định nghĩa trường dữ liệu, xử lý thông tin thiếu và kiểm tra từng giá trị trước khi đưa kết quả AI vào bảng hoặc ứng dụng.
Cơ bản
Trợ lý tra cứu nội bộ cần biết tài liệu nào đang có hiệu lực
Thiết kế luồng hỏi đáp nội bộ với quyền đọc, phiên bản tài liệu, bằng chứng và đường trả lời khi nguồn mâu thuẫn.
Trung cấp
Từ ý tưởng đến dàn ý: giao cho mỗi phần một nhiệm vụ
Dùng AI để nhóm ý và thử thứ tự lập luận, giữ chỗ cho bằng chứng còn thiếu và tránh dàn ý nghe hay nhưng không dẫn đến kết luận.
Cơ bản
Viết lại đúng giọng điệu mà không đổi thông tin
Biến yêu cầu mơ hồ như thân thiện hơn thành tiêu chí cụ thể, dùng mẫu giọng và kiểm tra những điều không được thay đổi.
Cơ bản
Xây bộ dữ liệu đánh giá từ những lỗi cần phát hiện
Chọn câu hỏi đại diện, viết đáp án và tiêu chí chấm, quản lý phiên bản cùng tập giữ riêng để tránh tối ưu theo vài ví dụ quen.
Trung cấp
RAG là gì? Cách AI trả lời từ tài liệu của bạn
RAG kết hợp tìm kiếm tài liệu với mô hình ngôn ngữ. Hiểu quy trình, cách chuẩn bị dữ liệu, trích nguồn và đánh giá một trợ lý tra cứu.
Trung cấp
Cách viết prompt rõ ràng: hướng dẫn và ví dụ thực tế
Hướng dẫn viết prompt cho AI bằng bốn phần: mục tiêu, ngữ cảnh, đầu ra và giới hạn. Có mẫu tiếng Việt để áp dụng và cách kiểm tra kết quả.
Cơ bản
AI agent là gì? Từ mô hình đến hành động
Hiểu AI agent là gì, vòng lặp sử dụng công cụ, khác biệt với workflow và cách kiểm soát quyền hạn, chi phí, kết quả của từng hành động.
Nâng cao