Agentic AI Governance Capability in Higher Education: Scale Development and Validation of an AI Autonomy–Human Control–Accountability Model

 NGUYỄN VĂN HÙNG

TÓM TẮT

Sự phát triển từ trí tuệ nhân tạo tạo sinh (Generative Artificial Intelligence – GenAI) sang các hệ thống Agentic AI đánh dấu một chuyển dịch quan trọng trong quan hệ giữa con người, thuật toán và tổ chức giáo dục. Nếu GenAI chủ yếu tạo nội dung hoặc phản hồi theo yêu cầu của người dùng, các hệ thống mang tính tác nhân có thể được thiết kế để theo đuổi mục tiêu, phân rã nhiệm vụ, lập kế hoạch nhiều bước, lựa chọn công cụ, tương tác với các hệ thống số và thực hiện chuỗi hành động với mức độ tự chủ khác nhau. Trong giáo dục đại học, năng lực này mở ra tiềm năng cho trợ giảng AI, cố vấn học tập, quản trị chương trình, nghiên cứu, hỗ trợ sinh viên và tự động hóa quy trình thể chế. Tuy nhiên, khi quyền hành động của AI gia tăng, các mô hình quản trị dựa chủ yếu vào phê duyệt đầu ra hoặc nguyên tắc đạo đức chung trở nên không đầy đủ. Vấn đề quản trị cốt lõi chuyển từ AI có thể tạo ra điều gì sang AI được phép tự chủ đến đâu, con người phải duy trì quyền kiểm soát nào, và ai chịu trách nhiệm đối với hành động cũng như hệ quả của tác nhân AI.

Nghiên cứu này khái niệm hóa Năng lực Quản trị Agentic AI trong Giáo dục Đại học (Agentic AI Governance Capability in Higher Education – AAGC-HE) như một năng lực thể chế bậc cao, đa chiều, phản ánh khả năng của trường đại học trong việc xác lập ranh giới tự chủ của tác nhân AI, duy trì quyền kiểm soát có ý nghĩa của con người, bảo đảm khả năng truy vết và phân bổ trách nhiệm giải trình, đồng thời liên tục giám sát và điều chỉnh các hệ thống tác nhân theo mức độ rủi ro và bối cảnh sử dụng.

Mô hình sau phản biện đề xuất bốn cấu phần bậc một: AI Autonomy Calibration Capability; Meaningful Human Control Capability; Accountability & Traceability Capability; và Agentic AI Risk & Lifecycle Assurance Capability. AAGC-HE được đặc tả như một higher-order composite institutional capability. Nghiên cứu tiếp tục đề xuất cơ chế ba tầng AAGC-HE → Responsible Agentic AI Practices → Trusted and Human-Centered Educational Value, trong đó quyền tự chủ AI không được giả định là tích cực hay tiêu cực về bản chất mà phải được hiệu chỉnh tương xứng với rủi ro, khả năng đảo ngược của hành động và mức độ ảnh hưởng đối với con người.

Thang đo được phát triển theo quy trình nhiều giai đoạn gồm xác định miền khái niệm, tạo mục hỏi diễn dịch–quy nạp, đánh giá chuyên gia, phỏng vấn nhận thức, nghiên cứu thí điểm, EFA, CFA, kiểm định cấu trúc bậc cao và kiểm định mô hình cấu trúc. Nghiên cứu dự kiến đóng góp bằng cách chuyển quản trị Agentic AI từ các nguyên tắc kiểm soát chung sang một năng lực thể chế có thể đo lường, đồng thời đề xuất logic calibrated autonomy như cơ chế dung hòa giữa đổi mới AI, quyền kiểm soát của con người và trách nhiệm giải trình.

Từ khóa: Agentic AI; AI agents; AI governance; higher education; AI autonomy; human control; accountability; human agency; scale development.

ABSTRACT

The evolution from Generative Artificial Intelligence (GenAI) to Agentic AI systems marks a significant shift in the relationship between humans, algorithms, and educational organizations. Whereas GenAI primarily generates content or responds to user prompts, agentic systems can be designed to pursue goals, decompose tasks, plan multi-step sequences, select tools, interact with digital systems, and execute chains of action with varying degrees of autonomy. In higher education, this capability opens potential for AI teaching assistants, academic advisors, curriculum governance, research support, student services, and institutional process automation. However, as AI’s action capacity increases, governance models predicated primarily on output approval or general ethical principles become insufficient. The core governance question shifts from what AI can generate to how much autonomy AI is authorized to exercise, what control humans must maintain, and who bears responsibility for the actions and consequences of AI agents.

This study conceptualizes Agentic AI Governance Capability in Higher Education (AAGC-HE) as a higher-order, multidimensional institutional capability that reflects a university’s ability to establish boundaries for AI agent autonomy, maintain meaningful human control, ensure traceability and accountability attribution, and continuously monitor and adjust agentic systems according to risk levels and use contexts.

The post-revision model proposes four first-order dimensions: AI Autonomy Calibration Capability; Meaningful Human Control Capability; Accountability & Traceability Capability; and Agentic AI Risk & Lifecycle Assurance Capability. AAGC-HE is specified as a higher-order composite institutional capability. The study further proposes a three-tier mechanism: AAGC-HE → Responsible Agentic AI Practices → Trusted and Human-Centered Educational Value, wherein AI autonomy is not assumed to be inherently positive or negative but must be calibrated proportionally to risk, action reversibility, and the degree of impact on human stakeholders.

The scale is developed through a multi-stage procedure encompassing domain specification, deductive–inductive item generation, expert review, cognitive interviews, pilot testing, EFA, CFA, higher-order construct validation, and structural model testing. The study is expected to contribute by transforming Agentic AI governance from general control principles into a measurable institutional capability, while proposing calibrated autonomy as a mechanism for reconciling AI innovation, human control, and accountability.

Keywords: Agentic AI; AI agents; AI governance; higher education; AI autonomy; human control; accountability; human agency; scale development.

1. GIỚI THIỆU

1.1. Từ Generative AI đến Agentic AI

GenAI đã làm thay đổi giáo dục đại học thông qua khả năng tạo văn bản, hình ảnh, mã lập trình, phản hồi và nội dung học tập. Tuy nhiên, sự phát triển tiếp theo của AI đặt ra một vấn đề quản trị phức tạp hơn: hệ thống không chỉ tạo ra đầu ra mà ngày càng có thể tham gia vào chuỗi hành động hướng mục tiêu.

Có thể khái quát chuyển dịch:

Predictive AI → Generative AI → Agentic AI → Multi-Agent/AI-Mediated Institutional Systems.

Trong mô hình truyền thống, con người đưa yêu cầu và đánh giá đầu ra. Trong hệ thống tác nhân, con người có thể giao một mục tiêu, còn hệ thống thực hiện nhiều bước trung gian trước khi quay lại người dùng.

Điều này làm xuất hiện khoảng cách giữa:

human intention → agent reasoning/planning → tool use → action → institutional consequence.

Khoảng cách càng lớn, governance càng không thể chỉ dựa vào việc kiểm tra sản phẩm cuối cùng.

NIST AI RMF và GenAI Profile nhấn mạnh việc quản trị, lập bản đồ, đo lường và quản lý rủi ro AI xuyên suốt vòng đời thay vì chỉ kiểm tra một đầu ra riêng lẻ.

1.2. Agentic AI trong giáo dục đại học

Agentic AI có thể xuất hiện trong nhiều hoạt động:

• AI academic advising agents;
• intelligent tutoring agents;
• research agents;
• administrative workflow agents;
• curriculum-planning agents;
• student-support agents;
• assessment-support agents;
• institutional decision-support agents.

Một tác nhân có thể được giao mục tiêu “hỗ trợ sinh viên hoàn thành chương trình”, sau đó truy xuất hồ sơ học tập, phân tích tiến độ, xác định môn học, đề xuất lịch học và kích hoạt các tác vụ tiếp theo.

Khả năng này tạo giá trị nhưng đồng thời làm thay đổi bản chất trách nhiệm.

Khi AI chỉ đề xuất, con người vẫn trực tiếp quyết định.

Khi AI có quyền thực thi, câu hỏi trở thành:

Ai cho phép hành động?

Hành động nào được tự động hóa?

Hành động nào bắt buộc con người phê duyệt?

Khi nào tác nhân phải dừng?

Ai có thể override?

Ai chịu trách nhiệm nếu hành động gây thiệt hại?

Đây chính là agentic governance problem.

1.3. Khoảng trống nghiên cứu

Khoảng trống 1: AI governance → Agentic AI governance

Các framework Responsible AI đã cung cấp các nguyên tắc quan trọng về fairness, transparency, privacy, accountability và human oversight. Tuy nhiên, Agentic AI bổ sung một biến quản trị đặc biệt:

delegated action authority.

Governance vì vậy không chỉ quản lý output mà phải quản lý quyền hành động được ủy quyền.

Khoảng trống 2: Human oversight → Meaningful human control

Việc con người xuất hiện trong vòng lặp không bảo đảm quyền kiểm soát thực chất.

Một người có thể được yêu cầu nhấn “approve” nhưng không có đủ thông tin, thời gian hoặc quyền hạn để phản biện.

Do đó:

Human-in-the-loop ≠ Meaningful Human Control.

UNESCO đặc biệt đặt bảo vệ human agency vào khuôn khổ chính sách GenAI và nhấn mạnh rằng công nghệ cần trao quyền cho người học, giáo viên và nhà nghiên cứu thay vì thay thế năng lực con người.

Khoảng trống 3: Fixed autonomy → Calibrated autonomy

Một Agentic AI không nên được phân loại đơn giản là “autonomous” hoặc “not autonomous”.

Quyền tự chủ phải phụ thuộc vào:

risk × consequence × reversibility × uncertainty × human impact.

Một tác nhân đặt lịch tư vấn có thể được trao quyền tự chủ cao hơn tác nhân thay đổi điểm, xác định tư cách tốt nghiệp hoặc đưa ra quyết định ảnh hưởng lớn tới sinh viên.

Khoảng trống 4: Responsibility → Traceable accountability

Agentic systems có thể tạo chuỗi hành động phức tạp giữa:

Human → AI agent → Model → Tool → API → Database → External service → Action.

Nếu không có logging, provenance và decision trace, trách nhiệm trở nên khó xác định.

Khoảng trống 5: Principles → Institutional capability

Các nguyên tắc cho biết tổ chức nên làm gì.

Năng lực quản trị phản ánh tổ chức có thể thực hiện điều đó nhất quán và thích ứng hay không.

Khoảng cách giữa nguyên tắc đạo đức và cơ chế quản trị có thể kiểm toán đang trở thành một chủ đề rõ nét trong nghiên cứu higher-education AI governance năm 2026.

1.4. Mục tiêu và câu hỏi nghiên cứu

Nghiên cứu có bốn mục tiêu:

1. khái niệm hóa AAGC-HE;
2. phát triển và kiểm định thang đo AAGC-HE;
3. kiểm định cơ chế chuyển hóa AAGC-HE thành Responsible Agentic AI Practices – RAAIP;
4. kiểm định quan hệ giữa RAAIP và Trusted and Human-Centered Educational Value – THCEV.

Câu hỏi nghiên cứu trung tâm:

Các trường đại học cần những năng lực thể chế nào để quản trị quyền tự chủ của Agentic AI, duy trì quyền kiểm soát có ý nghĩa của con người và bảo đảm trách nhiệm giải trình; và thông qua cơ chế nào những năng lực này chuyển hóa thành thực hành Agentic AI có trách nhiệm và giá trị giáo dục đáng tin cậy?

 2. CƠ SỞ LÝ THUYẾT

2.1. Dynamic Capabilities View

Dynamic Capabilities View cung cấp nền tảng giải thích vì sao AAGC-HE phải được khái niệm hóa như capability, không phải danh sách chính sách.

Trong bối cảnh Agentic AI:

Sensing phản ánh khả năng nhận diện use case, công nghệ, hành vi emergent và rủi ro mới.

Seizing phản ánh khả năng xác lập autonomy boundaries, controls, accountability, procurement rules và nguồn lực.

Transforming phản ánh khả năng điều chỉnh governance architecture khi tác nhân, công cụ, quy định hoặc mức rủi ro thay đổi.

Do đó:

AAGC-HE ≠ AI policy existence.

Một trường có thể có chính sách AI nhưng không có khả năng xác định agent nào được gọi API, agent nào được truy cập dữ liệu nhạy cảm hoặc hành động nào bắt buộc con người phê duyệt.

2.2. Human-Centered AI và Human Agency

Trong giáo dục, governance không thể chỉ tối ưu hóa hiệu quả tự động hóa.

UNESCO đặt human agency, inclusion và equity ở trung tâm của cách tiếp cận GenAI lấy con người làm trung tâm.

Điều này dẫn đến nguyên tắc:

Agent autonomy should augment rather than displace meaningful human agency.

Con người cần duy trì ít nhất:

awareness → understanding → intervention → contestability → override → final accountability.

Vì vậy, câu hỏi không phải “có con người trong vòng lặp hay không”, mà là con người có đủ quyền lực nhận thức và hành động để kiểm soát tác nhân hay không.

2.3. Accountability Theory

Agentic AI làm sâu sắc “problem of many hands”.

Một kết quả có thể xuất phát từ model provider, agent developer, vendor, institutional administrator, faculty member và automated tool chain.

Do đó, accountability phải bao gồm:

Answerability + Traceability + Responsibility Allocation + Remediation.

Trách nhiệm cuối cùng không thể được chuyển cho “AI”.

3. KHÁI NIỆM HÓA AAGC-HE

AAGC-HE được định nghĩa:

Năng lực Quản trị Agentic AI trong Giáo dục Đại học là năng lực thể chế bậc cao của trường đại học trong việc thiết kế, phân bổ, giới hạn, giám sát và liên tục điều chỉnh quyền tự chủ của các tác nhân AI, đồng thời duy trì quyền kiểm soát có ý nghĩa của con người, khả năng truy vết và trách nhiệm giải trình trong toàn bộ vòng đời triển khai Agentic AI.

3.1. AI Autonomy Calibration Capability – AACC

AACC phản ánh khả năng của tổ chức trong việc xác định AI được phép hành động độc lập đến mức nào.

Nó bao gồm:

• autonomy classification;
• task boundaries;
• tool permissions;
• data-access boundaries;
• action authorization;
• escalation thresholds;
• reversibility requirements;
• context-dependent autonomy.

Nguyên tắc trung tâm:

Higher consequential risk → stronger human control.

Do đó, mục tiêu không phải maximum autonomy, mà là appropriate autonomy.

3.2. Meaningful Human Control Capability – MHCC

MHCC phản ánh khả năng bảo đảm con người có quyền kiểm soát thực chất đối với những hành động quan trọng.

Nó bao gồm:

Awareness – con người biết agent đang hoạt động.

Comprehension – hiểu đủ về mục tiêu và hành động.

Intervention – có thể can thiệp.

Override – có thể dừng hoặc đảo ngược.

Contestability – người chịu ảnh hưởng có thể yêu cầu xem xét.

Decision authority – quyết định quan trọng vẫn thuộc chủ thể có thẩm quyền.

Điểm then chốt:

Oversight without intervention authority is not meaningful control.

3.3. Accountability & Traceability Capability – ATC

ATC phản ánh khả năng tổ chức bảo đảm mọi hành động đáng kể của agent có thể:

identified → logged → traced → explained → attributed → reviewed → remedied.

Nó bao gồm:

• agent identity;
• action logging;
• decision provenance;
• human approval records;
• tool/API traceability;
• responsibility assignment;
• incident investigation;
• remediation.

Nếu không thể xác định ai giao nhiệm vụ, agent làm gì, sử dụng công cụ nào, dựa trên dữ liệu nào và ai phê duyệt, accountability chỉ tồn tại trên danh nghĩa.

3.4. Agentic AI Risk & Lifecycle Assurance Capability – ARLAC

Đây là cấu phần nên bổ sung sau phản biện để tránh mô hình chỉ có ba nguyên tắc tĩnh.

ARLAC phản ánh năng lực:

• pre-deployment risk assessment;
• sandbox testing;
• permission testing;
• red-teaming;
• continuous monitoring;
• drift detection;
• incident management;
• periodic reauthorization;
• decommissioning.

NIST nhấn mạnh quản trị rủi ro AI xuyên suốt vòng đời và điều chỉnh biện pháp theo mục tiêu, bối cảnh và mức chấp nhận rủi ro của tổ chức.

 4. KIẾN TRÚC ĐO LƯỜNG

Bốn cấu phần:

AACC + MHCC + ATC + ARLAC

được đề xuất là các reflective first-order constructs.

Ở bậc cao:

AAGC-HE = higher-order composite capability.

Lập luận là các cấu phần bổ sung cho nhau nhưng không thay thế nhau.

Một trường có thể kiểm soát con người mạnh nhưng không có logging.

Một trường có logging đầy đủ nhưng phân quyền tự chủ sai.

Một trường có autonomy calibration tốt nhưng không giám sát lifecycle.

Vì vậy, loại bỏ bất kỳ chiều nào sẽ thay đổi ý nghĩa của construct.

5. MÔ HÌNH NGHIÊN CỨU

Kiến trúc sau phản biện nên được giữ gọn, tránh đưa quá nhiều moderator:

Tầng I – Institutional Capability

AAGC-HE

↓

Tầng II – Governance-in-Use

Responsible Agentic AI Practices – RAAIP

↓

Tầng III – Outcome

Trusted and Human-Centered Educational Value – THCEV

RAAIP phản ánh mức độ các tác nhân AI trong thực tế:

• hoạt động trong phạm vi được phép;
• yêu cầu phê duyệt khi vượt ngưỡng;
• duy trì human override;
• ghi log hành động;
• bảo vệ dữ liệu;
• chuyển tình huống bất định cho con người;
• không tự mở rộng quyền;
• được giám sát và đánh giá định kỳ.

THCEV phản ánh ba outcome có liên hệ nhưng cần kiểm định phân biệt:

Educational Trust

Human Agency Preservation

Responsible Educational Value Creation

Giả thuyết

H1: AAGC-HE có mối quan hệ tích cực với Responsible Agentic AI Practices.

H2: AAGC-HE có mối quan hệ tích cực với Trusted and Human-Centered Educational Value.

H3: Responsible Agentic AI Practices có mối quan hệ tích cực với Trusted and Human-Centered Educational Value.

H4: Responsible Agentic AI Practices đóng vai trò trung gian trong mối quan hệ giữa AAGC-HE và Trusted and Human-Centered Educational Value.

Mô hình lõi:

AAGC-HE → RAAIP → THCEV

với đường trực tiếp:

AAGC-HE → THCEV.

6. PHƯƠNG PHÁP NGHIÊN CỨU

6.1. Thiết kế

Quy trình gồm ba pha:

Phase I – Construct Development

Phase II – Scale Purification and Validation

Phase III – Nomological and Structural Validation

6.2. Domain specification

Construct domain cần triangulate từ:

• Agentic AI;
• AI governance;
• Responsible AI;
• Human-Centered AI;
• human agency;
• organizational accountability;
• dynamic capabilities;
• higher education governance.

NIST và UNESCO nên được sử dụng như normative-operational frameworks, không trình bày như causal theories.

6.3. Item generation

Ngân hàng ban đầu nên khoảng 48–60 items, kết hợp:

Deductive item generation từ literature và governance frameworks.

Inductive item generation từ phỏng vấn chuyên gia.

Nhóm phỏng vấn nên gồm:

AI/IT leaders, university administrators, faculty, educational technologists, cybersecurity/data-governance specialists và người học có kinh nghiệm với AI agents.

Các critical incidents đặc biệt quan trọng:

Khi nào một AI agent không nên được phép hành động mà không hỏi con người?

Hành động nào phải được ghi log?

Ai có quyền dừng agent?

Nếu agent thực hiện hành động sai, trách nhiệm thuộc về ai?

6.4. Content validity

Panel khoảng 12–18 chuyên gia.

Đánh giá:

relevance – clarity – representativeness – observability – agentic specificity.

Tiêu chí cuối cùng rất quan trọng: item phải thực sự đo agentic governance, không chỉ Responsible AI governance nói chung.

6.5. Cognitive interviews

Khoảng 10–15 người.

Cần đặc biệt kiểm tra respondent có phân biệt:

AI recommendation

với

AI autonomous action

hay không.

Nếu không phân biệt được, thang đo sẽ mất discriminant validity ngay từ cấp nội dung.

6.6. Pilot và main study

Pilot:

n ≈ 150–200.

Main study:

≥600 responses nếu nguồn lực cho phép.

Nên sử dụng mẫu độc lập hoặc split sample cho EFA và CFA.

EFA sử dụng common-factor methods, parallel analysis và oblique rotation.

CFA kiểm định:

• one-factor model;
• correlated four-factor model;
• higher-order alternatives.

Báo cáo:

CFI, TLI, RMSEA, SRMR, α, ω, CR, AVE và HTMT.

6.7. Level of analysis

AAGC-HE là institutional construct nhưng survey thường thu ở individual level.

Do đó, nghiên cứu đầu tiên nên gọi biến đo được:

Perceived Agentic AI Governance Capability – P-AAGC-HE.

Không nên biến trung bình nhận thức cá nhân thành “objective university capability” nếu chưa có bằng chứng aggregation.

Nếu có đủ respondent mỗi trường:

rwg + ICC(1) + ICC(2)

cần được đánh giá trước multilevel analysis.

6.8. Higher-order validation

Nếu AAGC-HE được đặc tả composite:

• collinearity/VIF;
• weights;
• loadings;
• bootstrap confidence intervals;
• theoretical relevance

phải được kiểm định.

6.9. Common-method bias và causal inference

Các procedural remedies cần được thiết kế trước thu thập dữ liệu:

• tách predictor/mediator/outcome;
• anonymity;
• randomized ordering;
• giảm moralized wording;
• sử dụng multi-source data khi khả thi.

Dữ liệu cross-sectional chỉ cho phép nói:

relationship, association, indirect effect, pattern consistent with the model

chứ không phải:

causal impact proven.

6.10. Incremental validity

Đây là kiểm định rất quan trọng để bài vượt phản biện.

AAGC-HE cần chứng minh giải thích thêm phương sai so với:

• general AI governance capability;
• institutional AI readiness;
• digital governance maturity;
• Responsible AI capability.

Nếu không, reviewer có thể cho rằng “Agentic AI Governance” chỉ là relabeling existing AI governance.

7. ĐÓNG GÓP LÝ THUYẾT

7.1. Từ AI governance sang governance of delegated agency

Đóng góp đầu tiên không phải là bổ sung một thuật ngữ mới cho AI governance.

Nó là thay đổi đối tượng được quản trị:

AI output governance → AI delegated-action governance.

Agentic AI đưa quyền hành động trở thành một biến quản trị độc lập.

7.2. Calibrated autonomy

Nghiên cứu thay thế logic nhị nguyên:

autonomy vs. control

bằng:

calibrated autonomy.

Quyền tự chủ tối ưu phụ thuộc vào risk, uncertainty, reversibility và consequence.

Do đó:

Good Agentic AI governance does not minimize autonomy; it calibrates autonomy.

Đây có thể trở thành luận điểm lý thuyết mạnh nhất của bài.

7.3. Meaningful Human Control

Nghiên cứu chuyển:

human-in-the-loop → meaningful human control.

Human presence không đủ.

Control đòi hỏi:

knowledge + authority + intervention + override + contestability.

Điều này đặc biệt phù hợp với định hướng human-centered AI trong giáo dục, nơi UNESCO nhấn mạnh bảo vệ human agency và coi năng lực con người, chứ không phải công nghệ tự thân, là yếu tố quyết định.

7.4. Accountability by design

Accountability không được bổ sung sau khi sự cố xảy ra.

Nó phải được tích hợp vào kiến trúc agent:

identity → permission → action → log → human authorization → consequence → review.

7.5. Từ principles sang executable institutional capability

Đóng góp cuối cùng là chuyển:

Ethical principles → Governance capability → Governance-in-use → Educational outcomes.

Nghiên cứu gần đây trong higher education cũng đang chuyển theo hướng biến nguyên tắc thành các cơ chế có thể thực thi và kiểm toán, củng cố tính thời sự của khoảng trống này.

8. HÀM Ý QUẢN TRỊ

Nếu được kiểm định, AAGC-HE Scale có thể hỗ trợ trường đại học xây dựng một Agentic AI Governance Matrix.

Mỗi use case cần được đánh giá theo:

Autonomy × Risk × Human Control × Accountability.

Ví dụ, tác nhân hỗ trợ đặt lịch có thể được trao quyền tự chủ tương đối cao nhưng tác động thấp. Ngược lại, tác nhân liên quan đến điểm số, kỷ luật, tuyển sinh, hỗ trợ tài chính hoặc quyết định có ảnh hưởng đáng kể tới người học cần human authorization và khả năng contest cao.

Chu trình quản trị đề xuất:

Purpose → Risk Classification → Autonomy Allocation → Permissioning → Human Control → Deployment → Monitoring → Audit → Incident/Redress → Reauthorization.

Điều này chuyển governance từ policy document sang operational control architecture.

9. HẠN CHẾ VÀ HƯỚNG NGHIÊN CỨU

Thứ nhất, Agentic AI là một miền công nghệ phát triển nhanh, vì vậy construct cần được tái kiểm định theo thời gian.

Thứ hai, self-report đo perceived governance capability, không phải toàn bộ năng lực khách quan.

Thứ ba, cross-sectional design không chứng minh causal ordering.

Thứ tư, ranh giới giữa GenAI workflow automation và Agentic AI có thể chưa được người trả lời hiểu đồng nhất.

Nghiên cứu tiếp theo nên kết hợp:

Policy Audit + Agent/System Audit + Permission Audit + Log Analysis + Faculty Survey + Student Survey + Incident Data.

Một hướng quan trọng khác là phát triển multi-level validation, trong đó governance capability được đánh giá ở cấp trường còn trust, agency và educational outcomes được đo ở cấp người dùng.

10. KẾT LUẬN

Agentic AI làm thay đổi căn bản bài toán quản trị AI trong giáo dục đại học. Khi hệ thống AI chuyển từ tạo thông tin sang lập kế hoạch và thực hiện các chuỗi hành động, governance không còn có thể giới hạn ở fairness, transparency hoặc kiểm tra đầu ra. Đối tượng quản trị mới chính là quyền hành động được ủy quyền cho AI.

Nghiên cứu đề xuất Agentic AI Governance Capability in Higher Education – AAGC-HE gồm bốn năng lực:

AI Autonomy Calibration Capability

Meaningful Human Control Capability

Accountability & Traceability Capability

Agentic AI Risk & Lifecycle Assurance Capability.

Mô hình trung tâm là:

AAGC-HE → Responsible Agentic AI Practices → Trusted and Human-Centered Educational Value.

Đóng góp cốt lõi của mô hình nằm ở việc thay thế giả định rằng AI autonomy và human control là hai cực đối nghịch bằng logic calibrated autonomy. Một hệ thống quản trị tốt không tìm cách tối đa hóa tự chủ AI, cũng không mặc định yêu cầu con người phê duyệt mọi hành động. Nó xác lập mức tự chủ phù hợp với rủi ro, hậu quả, khả năng đảo ngược và mức ảnh hưởng đến quyền lợi con người.

Theo đó:

Autonomy without accountability creates institutional risk; control without meaningful authority creates only the appearance of governance.

Quản trị Agentic AI trưởng thành đòi hỏi cả ba yếu tố:

Calibrated AI Autonomy + Meaningful Human Control + Traceable Accountability.

Vì vậy, mục tiêu cuối cùng không phải là xây dựng AI agents that can act independently, mà là xây dựng một hệ thống thể chế trong đó:

AI agents can act appropriately, humans can intervene meaningfully, and institutions remain accountable ultimately.

Đây là sự chuyển dịch từ governing AI outputs sang governing delegated artificial agency — và chính chuyển dịch này tạo ra giá trị lý thuyết riêng biệt của AAGC-HE so với các mô hình Responsible AI Governance hiện hữu.

Highlights

• Agentic AI governance is conceptualized as a measurable institutional capability.
• AI autonomy should be calibrated to risk rather than maximized or minimized.
• Meaningful human control extends beyond conventional human-in-the-loop oversight.
• Traceable accountability governs delegated AI action across the agent lifecycle.
• Responsible agentic practices connect governance capability with trusted educational value.

TÀI LIỆU THAM KHẢO

1. Amershi, S., Weld, D., Vorvoreanu, M., Fourney, A., Nushi, B., Collisson, P., Suh, J., Iqbal, S., Bennett, P. N., Inkpen, K., Teevan, J., Kikin-Gil, R., & Horvitz, E. (2019). Guidelines for human–AI interaction. In Proceedings of the 2019 CHI Conference on Human Factors in Computing Systems (pp. 1–13). Association for Computing Machinery. https://doi.org/10.1145/3290605.3300233
2. Autio, C., Schwartz, R., Dunietz, J., Jain, S., Stanley, M., Tabassi, E., Hall, P., & Roberts, K. (2024). Artificial intelligence risk management framework: Generative artificial intelligence profile (NIST AI 600-1). National Institute of Standards and Technology. https://doi.org/10.6028/NIST.AI.600-1
3. Bagozzi, R. P., & Yi, Y. (1988). On the evaluation of structural equation models. Journal of the Academy of Marketing Science, 16, 74–94. https://doi.org/10.1007/BF02723327
4. Barocas, S., Hardt, M., & Narayanan, A. (2023). Fairness and machine learning: Limitations and opportunities. MIT Press.
5. Bentler, P. M. (1990). Comparative fit indexes in structural models. Psychological Bulletin, 107(2), 238–246. https://doi.org/10.1037/0033-2909.107.2.238
6. Bollen, K. A. (1989). Structural equations with latent variables. Wiley. https://doi.org/10.1002/9781118619179
7. Brundage, M., Avin, S., Wang, J., Belfield, H., Krueger, G., Hadfield, G., Khlaaf, H., Yang, J., Toner, H., Fong, R., Maharaj, T., Koh, P. W., Hooker, S., Leung, J., Trask, A., Bluemke, E., Lebensold, J., O’Keefe, C., Koren, M., … Anderljung, M. (2020). Toward trustworthy AI development: Mechanisms for supporting verifiable claims. arXiv. https://doi.org/10.48550/arXiv.2004.07213
8. Byrne, B. M. (2016). Structural equation modeling with AMOS: Basic concepts, applications, and programming (3rd ed.). Routledge.
9. Carpenter, S. (2018). Ten steps in scale development and reporting: A guide for researchers. Communication Methods and Measures, 12(1), 25–44. https://doi.org/10.1080/19312458.2017.1396583
10. Clark, L. A., & Watson, D. (1995). Constructing validity: Basic issues in objective scale development. Psychological Assessment, 7(3), 309–319. https://doi.org/10.1037/1040-3590.7.3.309
11. Cronbach, L. J. (1951). Coefficient alpha and the internal structure of tests. Psychometrika, 16, 297–334. https://doi.org/10.1007/BF02310555
12. DeVellis, R. F., & Thorpe, C. T. (2021). Scale development: Theory and applications (5th ed.). SAGE.
13. Dwivedi, Y. K., Kshetri, N., Hughes, L., Slade, E. L., Jeyaraj, A., Kar, A. K., Baabdullah, A. M., Koohang, A., Raghavan, V., Ahuja, M., Albanna, H., Albashrawi, M. A., Al-Busaidi, A. S., Balakrishnan, J., Barlette, Y., Basu, S., Bose, I., Brooks, L., Buhalis, D., … Wright, R. (2023). “So what if ChatGPT wrote it?” Multidisciplinary perspectives on opportunities, challenges and implications of generative conversational AI for research, practice and policy. International Journal of Information Management, 71, 102642. https://doi.org/10.1016/j.ijinfomgt.2023.102642
14. European Commission, High-Level Expert Group on Artificial Intelligence. (2019). Ethics guidelines for trustworthy AI. European Commission.
15. European Union. (2024). Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act). Official Journal of the European Union.
16. Floridi, L., & Cowls, J. (2019). A unified framework of five principles for AI in society. Harvard Data Science Review, 1(1). https://doi.org/10.1162/99608f92.8cd550d1
17. Fornell, C., & Larcker, D. F. (1981). Evaluating structural equation models with unobservable variables and measurement error. Journal of Marketing Research, 18(1), 39–50. https://doi.org/10.2307/3151312
18. Glikson, E., & Woolley, A. W. (2020). Human trust in artificial intelligence: Review of empirical research. Academy of Management Annals, 14(2), 627–660. https://doi.org/10.5465/annals.2018.0057
19. Hair, J. F., Black, W. C., Babin, B. J., & Anderson, R. E. (2019). Multivariate data analysis (8th ed.). Cengage.
20. Hair, J. F., Hult, G. T. M., Ringle, C. M., & Sarstedt, M. (2022). A primer on partial least squares structural equation modeling (PLS-SEM) (3rd ed.). SAGE.
21. Hinkin, T. R. (1998). A brief tutorial on the development of measures for use in survey questionnaires. Organizational Research Methods, 1(1), 104–121. https://doi.org/10.1177/109442819800100106
22. Jobin, A., Ienca, M., & Vayena, E. (2019). The global landscape of AI ethics guidelines. Nature Machine Intelligence, 1, 389–399. https://doi.org/10.1038/s42256-019-0088-2
23. Kline, R. B. (2023). Principles and practice of structural equation modeling (5th ed.). Guilford Press.
24. Long, D., & Magerko, B. (2020). What is AI literacy? Competencies and design considerations. In Proceedings of the 2020 CHI Conference on Human Factors in Computing Systems (pp. 1–16). Association for Computing Machinery. https://doi.org/10.1145/3313831.3376727
25. MacKenzie, S. B., Podsakoff, P. M., & Podsakoff, N. P. (2011). Construct measurement and validation procedures in MIS and behavioral research: Integrating new and existing techniques. MIS Quarterly, 35(2), 293–334. https://doi.org/10.2307/23044045
26. Miao, F., & Holmes, W. (2023). Guidance for generative AI in education and research. UNESCO.
27. National Institute of Standards and Technology. (2023). Artificial intelligence risk management framework (AI RMF 1.0) (NIST AI 100-1). U.S. Department of Commerce. https://doi.org/10.6028/NIST.AI.100-1
28. Nguyễn, V. H. (Chủ biên). (2026). Công nghệ giáo dục thông minh trong kỷ nguyên AI: Educational technology in the age of artificial intelligence(Tập 1). AITECHBOOK.
29. Nguyễn, V. H. (Chủ biên). (2026). Công nghệ giáo dục thông minh trong kỷ nguyên AI: Educational technology in the age of artificial intelligence(Tập 2). AITECHBOOK.
30. (2019). Recommendation of the Council on artificial intelligence. OECD.
31. Parasuraman, R., Sheridan, T. B., & Wickens, C. D. (2000). A model for types and levels of human interaction with automation. IEEE Transactions on Systems, Man, and Cybernetics—Part A: Systems and Humans, 30(3), 286–297. https://doi.org/10.1109/3468.844354
32. Podsakoff, P. M., MacKenzie, S. B., Lee, J.-Y., & Podsakoff, N. P. (2003). Common method biases in behavioral research: A critical review of the literature and recommended remedies. Journal of Applied Psychology, 88(5), 879–903. https://doi.org/10.1037/0021-9010.88.5.879
33. Raji, I. D., Smart, A., White, R. N., Mitchell, M., Gebru, T., Hutchinson, B., Smith-Loud, J., Theron, D., & Barnes, P. (2020). Closing the AI accountability gap: Defining an end-to-end framework for internal algorithmic auditing. In Proceedings of the 2020 Conference on Fairness, Accountability, and Transparency (pp. 33–44). Association for Computing Machinery. https://doi.org/10.1145/3351095.3372873
34. Schumacker, R. E., & Lomax, R. G. (2016). A beginner’s guide to structural equation modeling (4th ed.). Routledge.
35. Shneiderman, B. (2022). Human-centered AI. Oxford University Press.
36. Taber, K. S. (2018). The use of Cronbach’s alpha when developing and reporting research instruments in science education. Research in Science Education, 48, 1273–1296. https://doi.org/10.1007/s11165-016-9602-2
37. Teece, D. J. (2007). Explicating dynamic capabilities: The nature and microfoundations of (sustainable) enterprise performance. Strategic Management Journal, 28(13), 1319–1350. https://doi.org/10.1002/smj.640
38. Teece, D. J., Pisano, G., & Shuen, A. (1997). Dynamic capabilities and strategic management. Strategic Management Journal, 18(7), 509–533. https://doi.org/10.1002/(SICI)1097-0266(199708)18:7%3C509::AID-SMJ882%3E3.0.CO;2-Z
39. (2021). Recommendation on the ethics of artificial intelligence. UNESCO.
40. Venkatesh, V., Morris, M. G., Davis, G. B., & Davis, F. D. (2003). User acceptance of information technology: Toward a unified view. MIS Quarterly, 27(3), 425–478. https://doi.org/10.2307/30036540
41. Weidinger, L., Mellor, J., Rauh, M., Griffin, C., Uesato, J., Huang, P.-S., Cheng, M., Glaese, M., Balle, B., Kasirzadeh, A., Kenton, Z., Brown, S., Hawkins, W., Stepleton, T., Biles, C., Birhane, A., Haas, J., Rimell, L., Hendricks, L. A., … Gabriel, I. (2022). Taxonomy of risks posed by language models. In Proceedings of the 2022 ACM Conference on Fairness, Accountability, and Transparency (pp. 214–229). Association for Computing Machinery. https://doi.org/10.1145/3531146.3533088