Thuật ngữ chuyển đổi AI: cẩm nang để lãnh đạo đánh giá giải pháp

Một đề xuất có thể viết: “Triển khai AI Agent kết hợp RAG, dùng LLM để tự động hóa nghiệp vụ.” Câu này chứa nhiều thông tin kỹ thuật, nhưng chưa cho lãnh đạo biết ba điều: hệ thống sẽ làm công việc gì, sai ở đâu thì phải dừng và ai chịu trách nhiệm khi kết quả ảnh hưởng khách hàng.

Mình muốn cẩm nang này giúp bạn dịch ngôn ngữ AI sang ngôn ngữ ra quyết định. Bạn không cần trở thành kỹ sư mô hình để đánh giá một phương án. Nhưng cần phân biệt khả năng của công nghệ, năng lực của giải pháp hoàn chỉnh và giá trị thực sự nhận được.

Các ví dụ dùng một doanh nghiệp phân phối giả định, đang tìm cách hỗ trợ nhân viên xử lý yêu cầu báo giá. Đây là tình huống minh họa để nối các thuật ngữ với nhau. Các câu hỏi triển khai là đề xuất của mình; chúng không phải bộ tiêu chuẩn áp dụng nguyên xi cho mọi doanh nghiệp.

Nếu còn mới với dữ liệu, tích hợp và quy trình, bạn có thể đọc trước cẩm nang thuật ngữ chuyển đổi số.

Bắt đầu từ bài toán, rồi mới đến loại AI

Chuyển đổi AI — AI transformation

Trong bài này, chuyển đổi AI là thay đổi có chủ đích cách doanh nghiệp thực hiện công việc bằng AI, đi cùng dữ liệu, quy trình, trách nhiệm và cách đo kết quả. Đây là cách dùng thuật ngữ để thảo luận quản trị, không phải một chứng nhận rằng tổ chức đã đạt đến cấp độ nào.

Mua tài khoản cho nhân viên có thể giúp học cách sử dụng. Nhưng để xử lý báo giá tốt hơn, còn phải quyết định dữ liệu giá lấy từ đâu, ai duyệt điều kiện thương mại và khi nào trả việc về cho con người.

Mình sẽ hỏi về công việc thay đổi trước khi hỏi doanh nghiệp đang dùng mô hình nào.

Use case — Bài toán ứng dụng

Use case mô tả một công việc cụ thể, người sử dụng và kết quả mong muốn. “Ứng dụng AI trong bán hàng” là định hướng rộng. “Đọc email yêu cầu, đề xuất mã hàng và tạo bản nháp báo giá để nhân viên duyệt” là phạm vi có thể bắt đầu đánh giá.

Một use case cần có đầu vào, đầu ra, ngoại lệ và người chịu trách nhiệm. Nó cũng cần lý do để dùng AI: thông tin có nhiều cách diễn đạt, tài liệu khó cấu trúc hay cần hỗ trợ xử lý nội dung?

Nếu công việc chỉ là đối chiếu mã theo quy tắc cố định, hãy để đội triển khai giải thích vì sao AI phù hợp hơn một tích hợp thông thường.

AI — Trí tuệ nhân tạo

Artificial Intelligence, hay AI, là tên gọi rộng cho các hệ thống thực hiện những năng lực như nhận dạng, dự đoán, xử lý ngôn ngữ hoặc hỗ trợ ra quyết định. AI không đồng nghĩa với một cửa sổ chat.¹

Dự báo nhu cầu hàng hóa và soạn email báo giá có thể đều dùng AI, nhưng dữ liệu, cách đo chất lượng và cách triển khai rất khác nhau.

Câu hỏi nên đặt: trong giải pháp này, AI làm đúng phần việc nào, và phần nào vẫn là quy tắc hoặc xử lý dữ liệu thông thường?

Machine learning — Học máy

Machine learning, hay ML, là một nhánh AI dùng dữ liệu để học các quy luật và áp dụng chúng cho dữ liệu mới.²

Ví dụ dễ hình dung là dự báo nhóm hàng có khả năng tăng nhu cầu từ lịch sử và các yếu tố liên quan. Hệ thống như vậy không nhất thiết cần sinh văn bản hay trò chuyện.

Với lãnh đạo, câu hỏi quan trọng là dữ liệu lịch sử có đại diện cho hoàn cảnh sắp tới hay không. Một thay đổi lớn về kênh bán, chính sách giá hoặc hành vi khách hàng có thể khiến kết quả cần được đánh giá lại.

Generative AI — AI tạo sinh

Generative AI tạo ra nội dung mới như văn bản, hình ảnh hoặc âm thanh từ những mẫu đã học.³

Trong ví dụ báo giá, AI tạo sinh có thể hỗ trợ diễn đạt email. Việc tạo ra một câu trả lời trôi chảy không chứng minh giá bán, tồn kho và điều kiện giao hàng trong câu ấy là đúng.

Mình muốn tách hai trách nhiệm: dữ kiện kinh doanh lấy từ nguồn được quản lý; cách trình bày có thể để AI hỗ trợ. Sự phân biệt này giúp cuộc trao đổi bớt bị cuốn theo phần demo hấp dẫn nhất.

LLM — Mô hình ngôn ngữ lớn

Large Language Model, hay LLM, là loại mô hình có khả năng xử lý và tạo ngôn ngữ, được huấn luyện trên lượng dữ liệu lớn.⁴

LLM là một thành phần của giải pháp, giống như một bộ phận có năng lực xử lý ngôn ngữ. Ứng dụng doanh nghiệp còn cần giao diện, dữ liệu, kết nối, phân quyền, kiểm thử và vận hành.

Vì vậy, việc hai nhà cung cấp dùng cùng một LLM không khiến hai giải pháp tương đương. Hãy đánh giá cả hệ thống trên công việc của mình, không chỉ tên mô hình trong slide.

Những thuật ngữ về cách mô hình nhận và xử lý yêu cầu

Prompt — Chỉ dẫn và đầu vào gửi cho mô hình

Prompt là nội dung đưa vào để hướng dẫn hoặc cung cấp thông tin cho mô hình thực hiện tác vụ. Nó có thể gồm yêu cầu, ví dụ, tài liệu và những ràng buộc về đầu ra.

Một prompt dùng trong quy trình báo giá nên làm rõ việc cần làm, thông tin được cung cấp và cách phản hồi khi thiếu dữ kiện. Tuy nhiên, câu “không được giảm giá quá mức” trong prompt không thay thế cơ chế kiểm soát quyền giảm giá trong hệ thống.

Đối với công việc lặp lại, mình muốn prompt quan trọng được quản lý phiên bản và kiểm thử khi sửa, thay vì chỉ nằm trong tài khoản của một nhân viên.

Context window — Cửa sổ ngữ cảnh

Context window là giới hạn lượng thông tin mô hình có thể xử lý trong một lần tương tác, thường được tính bằng token. Phần được tính có thể gồm chỉ dẫn, lịch sử, tài liệu và nội dung sinh ra, tùy mô hình và cách sử dụng.⁵

Bạn có thể hình dung đó là sức chứa của bàn làm việc ở thời điểm xử lý, không phải toàn bộ trí nhớ của doanh nghiệp. Cửa sổ lớn hơn không tự bảo đảm mô hình tìm đúng chính sách trong một chồng tài liệu lẫn nhiều phiên bản.

Câu hỏi nên đặt: hệ thống chọn thông tin nào để đưa vào, và làm gì khi thông tin quan trọng không nằm trong ngữ cảnh?

Token — Đơn vị mô hình xử lý nội dung

Token là đơn vị biểu diễn nội dung mà mô hình xử lý; với văn bản, một token có thể là từ, một phần từ hoặc ký hiệu. Không nên quy đổi cố định một token thành một từ tiếng Việt.⁴

Token thường liên quan đến giới hạn xử lý và cách tính phí dịch vụ. Nhưng giá mỗi token chỉ là một đầu vào của chi phí: một yêu cầu có thể cần nhiều lần gọi mô hình, tìm tài liệu, thử lại và kiểm duyệt.

Khi nhận báo giá, hãy yêu cầu ước tính trên các tác vụ mẫu của doanh nghiệp, gồm cả đầu vào dài và trường hợp không hoàn thành ngay lần đầu.

Training và inference — Huấn luyện và chạy mô hình

Training là quá trình điều chỉnh mô hình từ dữ liệu. Inference là sử dụng mô hình đã được huấn luyện để tạo kết quả cho đầu vào mới.¹⁴

Việc nhân viên hỏi chatbot không đồng nghĩa mô hình được huấn luyện lại ngay từ cuộc trò chuyện ấy. Cách nhà cung cấp sử dụng, lưu giữ hoặc đưa dữ liệu vào cải tiến mô hình phải được xác nhận theo đúng dịch vụ và thỏa thuận.

Khi một đề xuất nói “AI sẽ tự học từ doanh nghiệp”, mình muốn biết chính xác thành phần nào được cập nhật, ai phê duyệt và có kiểm thử trước khi thay đổi ảnh hưởng người dùng hay không.

Những thuật ngữ về việc đưa kiến thức doanh nghiệp vào AI

RAG — Tìm tài liệu rồi dùng tài liệu để trả lời

Retrieval-Augmented Generation, hay RAG, kết hợp bước tìm thông tin từ nguồn bên ngoài mô hình với bước tạo câu trả lời.⁶

Ví dụ: hệ thống tìm phần chính sách giao hàng liên quan rồi đưa phần đó cho mô hình soạn bản nháp. Cách này khác với kỳ vọng mô hình đã “nhớ” toàn bộ kho tài liệu sau khi tải tệp lên.

Với bên mua, ba câu hỏi đáng chú ý là: có tìm đúng tài liệu không, tài liệu có còn hiệu lực không và người đang hỏi có được phép xem không? Một câu trả lời có đính kèm nguồn vẫn cần được kiểm tra xem nguồn có thực sự chứng minh nội dung ấy.

Embedding và vector search — Biểu diễn nội dung để tìm kiếm

Embedding biến nội dung thành dạng số để hệ thống có thể xử lý và so sánh. Vector search tìm những biểu diễn gần nhau theo cách đo của hệ thống.⁷

Nhờ đó, một yêu cầu “giao hàng gấp” có thể tìm được tài liệu dùng cách diễn đạt “đơn ưu tiên”. Đây là cách hình dung, không phải bảo đảm mọi kết quả đều đúng ý người hỏi.

Lãnh đạo không cần chọn số chiều của vector. Điều nên yêu cầu là thử với tên sản phẩm gần giống nhau, mã hàng đặc biệt, tài liệu cũ và câu hỏi diễn đạt theo thói quen của nhân viên thực tế.

Fine-tuning — Tinh chỉnh mô hình

Fine-tuning tiếp tục huấn luyện một mô hình đã có để điều chỉnh cho tác vụ hoặc cách phản hồi cụ thể.⁸

Trong một đề xuất, nó có thể nhằm cải thiện cách phân loại hoặc định dạng đầu ra. Đây không phải tên gọi khác của việc cho mô hình tra cứu bảng giá mới nhất. RAG và fine-tuning giải quyết các nhu cầu khác nhau và có thể được kết hợp.

Mình sẽ hỏi: lỗi hiện tại xuất phát từ thiếu thông tin, tìm sai tài liệu hay hành vi của mô hình? Nếu chưa xác định được nguyên nhân, đầu tư tinh chỉnh có thể làm dự án phức tạp hơn mà chưa chạm đúng vấn đề.

Những thuật ngữ về mức tự chủ và quyền hành động

Chatbot và copilot — Hội thoại và trợ giúp con người

Chatbot mô tả hình thức giao tiếp bằng hội thoại. Copilot thường được dùng để nhấn mạnh vai trò hỗ trợ người làm việc. Đây không phải các cấp độ năng lực thống nhất giữa mọi nhà cung cấp.

Một trợ lý có thể soạn báo giá để nhân viên duyệt. Một chatbot khác có thể được kết nối với công cụ đặt hàng. Chỉ nhìn nhãn sản phẩm, lãnh đạo chưa biết hệ thống có quyền làm gì.

Câu hỏi nên đặt: hệ thống chỉ đề xuất, hay có thể ghi dữ liệu, gửi thông tin cho khách và tạo nghĩa vụ cho doanh nghiệp?

Workflow và AI Agent — Quy trình định trước và tác nhân lựa chọn bước làm

Trong cách phân biệt của Anthropic, workflow đi theo những bước được định nghĩa trước; agent có khả năng tự lựa chọn cách dùng công cụ và bước tiếp theo để theo đuổi mục tiêu.⁹

Một luồng cố định có thể luôn đọc email, trích thông tin, tra mã hàng rồi tạo nháp. Một agent có thể quyết định tìm thêm tài liệu hoặc hỏi lại vì yêu cầu chưa đủ rõ. Quyền lựa chọn tăng lên thì phạm vi kiểm thử và giám sát cũng cần tương ứng.

Không nên coi “agent tự chủ hơn” là mặc định tốt hơn. Hãy yêu cầu đối tác chỉ ra chỗ nào cần linh hoạt và chỗ nào doanh nghiệp muốn giữ quy tắc cố định.

Tool use — Sử dụng công cụ

Tool use là khả năng mô hình yêu cầu hệ thống gọi những chức năng được cung cấp, chẳng hạn tra tồn kho hoặc tạo bản nháp trong phần mềm bán hàng.⁹

Mô hình đề nghị thực hiện không có nghĩa đề nghị ấy được phép chạy. Ứng dụng vẫn phải kiểm tra danh tính, quyền hạn, dữ liệu đầu vào và điều kiện nghiệp vụ.

Một thiết kế mình sẽ yêu cầu xem là tách quyền đọc tồn kho khỏi quyền sửa tồn kho. Tương tự, quyền tạo bản nháp không nên mặc nhiên bao gồm quyền gửi báo giá cho khách.

Những thuật ngữ về sai sót, bảo mật và trách nhiệm

Hallucination — Nội dung có vẻ hợp lý nhưng không đáng tin

Hallucination chỉ tình huống AI tạo nội dung nghe có vẻ đúng nhưng sai, không có căn cứ hoặc được bịa ra.¹⁰

Ví dụ giả định: trợ lý viết rằng doanh nghiệp chấp nhận trả hàng trong một thời hạn chưa từng được ban hành. Cách diễn đạt tự tin không giúp người đọc phân biệt đó là chính sách thật hay câu mô hình tự tạo.

Mình muốn quy định rõ dữ kiện nào phải có nguồn, khi nào cần trả lời “chưa đủ thông tin” và nội dung nào bắt buộc có người kiểm tra trước khi sử dụng.

Prompt injection — Chỉ dẫn không đáng tin làm lệch hành vi

Prompt injection là việc đầu vào khiến mô hình hành xử ngoài ý định của hệ thống. Chỉ dẫn có thể xuất hiện trong nội dung được cung cấp hoặc tài liệu hệ thống đọc vào.¹¹

Ví dụ giả định: một email chứa yêu cầu bỏ qua quy trình và gửi danh sách khách hàng. Với hệ thống đọc email bằng AI, phần nội dung ấy cần được xem là dữ liệu không đáng tin, không phải quyền điều hành.

Câu hỏi nên đặt: nếu tài liệu cố yêu cầu vượt quyền, lớp kiểm soát nào ngăn công cụ thực hiện hành động đó? Chỉ thêm câu “hãy tuân thủ quy tắc” vào prompt chưa trả lời được câu hỏi này.

Guardrails và human-in-the-loop — Ràng buộc và điểm con người tham gia

Guardrails là các biện pháp giới hạn hoặc kiểm tra hành vi, đầu vào và đầu ra. Human-in-the-loop chỉ việc đưa con người vào những điểm được xác định trong quy trình.

Với luồng báo giá, biện pháp kiểm soát có thể gồm giới hạn quyền công cụ, kiểm tra mức giảm giá và yêu cầu duyệt trước khi gửi. Đây là các quyết định thiết kế mình đề xuất, không phải một công tắc “bật an toàn”.

Cũng cần biết người duyệt nhìn thấy bằng chứng gì, có đủ thời gian đánh giá không và có thể từ chối hoặc sửa kết quả ra sao. Một nút “đồng ý” bấm theo thói quen không tạo ra giám sát thực chất.

PII và data leakage — Dữ liệu cá nhân và rò rỉ thông tin

Personally Identifiable Information, hay PII, là thông tin có thể dùng để nhận diện cá nhân. Data leakage trong cuộc trao đổi này chỉ việc thông tin bị lộ hoặc đi ra ngoài phạm vi được phép. Rủi ro với ứng dụng LLM còn có thể liên quan đến bí mật kinh doanh và thông tin xác thực.¹²

Mình muốn bản thiết kế thể hiện cả dữ liệu đi vào mô hình, lịch sử hội thoại, bộ nhớ tạm và nhật ký. Không nên chỉ hỏi cơ sở dữ liệu gốc đặt ở đâu.

Để xem sâu hơn về phần này, bạn có thể đọc dùng AI mà vẫn kiểm soát dữ liệu doanh nghiệp.

Những thuật ngữ để nghiệm thu và quản trị đầu tư

Evaluation và benchmark — Đánh giá theo tác vụ và điểm tham chiếu

Evaluation là quá trình kiểm tra chất lượng theo tiêu chí xác định. Benchmark là bài đo hoặc tập bài đo dùng làm điểm tham chiếu. Điểm cao của mô hình trên một bộ đo không thay thế đánh giá giải pháp trong doanh nghiệp.

Với luồng báo giá, bộ kiểm thử mình đề xuất phải có yêu cầu đủ thông tin, thiếu thông tin, mã hàng khó phân biệt và yêu cầu trái quyền. Cần chỉ ra thế nào là hoàn thành đúng, thế nào phải hỏi lại và lỗi nào không được phép xảy ra.

Nếu đối tác nói “độ chính xác cao”, hãy hỏi: đo trên bao nhiêu tình huống, tình huống do ai chọn, có dữ liệu chưa từng dùng để tinh chỉnh không và cách tính có che khuất lỗi nghiêm trọng không?

Pilot và production — Thử trong phạm vi nhỏ và vận hành chính thức

Pilot là triển khai thử có giới hạn để học trong điều kiện thực tế. Production là môi trường hệ thống phục vụ công việc chính thức.

Mình sẽ tách tiêu chí của hai giai đoạn. Pilot cần trả lời giải pháp có giá trị và chấp nhận được rủi ro không. Khi vận hành chính thức, còn phải có người trực hỗ trợ, theo dõi chất lượng, xử lý sự cố và kiểm thử khi thay đổi mô hình hoặc tài liệu.

Đừng để kết thúc pilot đồng nghĩa tự động mở cho mọi người dùng. Quyết định mở rộng phải dựa trên bằng chứng và năng lực vận hành đã chuẩn bị.

AI governance — Quản trị AI

Quản trị AI xác định ai được quyết định, ai chịu trách nhiệm và cách kiểm soát hệ thống trong suốt vòng đời. Khung AI RMF của NIST tổ chức quản lý rủi ro quanh bốn chức năng Govern, Map, Measure và Manage: quản trị, nhận diện bối cảnh, đo lường và quản lý rủi ro.¹³

Áp dụng vào cuộc họp quản lý, mình muốn thấy danh sách ứng dụng đang dùng, người phụ trách, dữ liệu được phép, tiêu chí chấp nhận và quyền dừng hệ thống. Chính sách phải có người thực thi và cơ chế cập nhật khi cách sử dụng thay đổi.

Một bộ tài liệu hoàn chỉnh nhưng không ai biết ai có quyền dừng gửi báo giá sai vẫn để lại khoảng trống trách nhiệm.

Unit economics — Chi phí cho mỗi đơn vị công việc có ích

Unit economics xem chi phí và giá trị ở cấp một đơn vị hoạt động. Với AI, mình đề xuất đo chi phí mỗi yêu cầu được hoàn tất đạt tiêu chí, thay vì chỉ chi phí mỗi lần gọi mô hình.

Tổng chi phí cần xem gồm xử lý mô hình, tìm tài liệu, công cụ, thử lại, giám sát và công sức con người. Mẫu số cũng phải rõ: một bản nháp chưa được duyệt khác với một báo giá đúng đã được xử lý xong.

Cách nhìn này giúp nhận ra một giải pháp có phí mô hình thấp nhưng cần sửa nhiều có thể chưa đem lại hiệu quả mong đợi. Lợi ích phải được đo cùng chất lượng và thời gian thực tế.

Dịch một đề xuất AI thành ngôn ngữ kinh doanh

Quay lại câu mở đầu: “AI Agent kết hợp RAG, dùng LLM để tự động hóa nghiệp vụ.” Sau khi làm rõ thuật ngữ, một đề xuất có thể cụ thể hơn như sau:

Hệ thống đọc yêu cầu báo giá, tìm chính sách còn hiệu lực mà người dùng được phép xem, gọi công cụ tra giá và tạo bản nháp. Nhân viên duyệt trước khi gửi. Yêu cầu thiếu thông tin hoặc vượt quyền được chuyển lại cho người phụ trách. Chỉ mở rộng sau khi bộ tình huống đại diện cho thấy chất lượng, thời gian xử lý và chi phí đạt tiêu chí đã thống nhất.

Đây là mô tả thiết kế minh họa, không phải cam kết hiệu quả của một sản phẩm. Nhưng nó tạo ra những nội dung có thể kiểm tra, phân công và nghiệm thu.

Trước khi chọn đối tác, mình muốn có câu trả lời cho năm câu hỏi:

1. Công việc: AI thực hiện phần nào, và kết quả đạt yêu cầu được định nghĩa thế nào?
2. Dữ liệu: lấy thông tin ở đâu, ai được xem, ai bảo đảm còn hiệu lực?
3. Quyền hạn: hệ thống được đề xuất, ghi dữ liệu hay hành động đến mức nào?
4. Bằng chứng: thử nghiệm nào chứng minh chất lượng, bao gồm thiếu dữ liệu và tình huống vượt quyền?
5. Trách nhiệm và chi phí: ai vận hành, ai được dừng và chi phí mỗi tác vụ hoàn tất là bao nhiêu?

Bạn có thể dùng các câu hỏi ấy cùng bài doanh nghiệp truyền thống nên bắt đầu với AI từ đâu. Khi hiểu đúng phạm vi và giới hạn, lãnh đạo có cơ sở tốt hơn để chọn một bước đi phù hợp với doanh nghiệp của mình.