Nghiên cứu ứng dụng SLM và RAG trong xây dựng trợ lý học tập nguyên lý kế toán

Tóm tắt

Hiện nay bối cảnh việc học tập dưới sự hỗ trợ của ứng dụng trí tuệ nhân tạo ngày càng phát triển, nhu cầu hỗ trợ cá nhân hóa tri thức tăng cao. Trong bài báo này, nhóm nghiên cứu tập trung vào mô hình ngôn ngữ nhỏ (Small Language Model – SLM), kỹ thuật Retrieval-Augmented Generation (RAG), các kiến trúc RAG, và đề xuất một hệ thống trợ lý học tập đáng tin cậy, hữu ích cho học phần Nguyên lý kế toán. Mục tiêu của hệ thống là hỗ trợ nhu cầu học tập của sinh viên, đồng thời bảo đảm tính phù hợp với điều kiện về tài nguyên tại Trường Đại học Công nghệ Đông Á. Kiến trúc hệ thống bao gồm ba thành phần chính: kho học liệu được số hóa; bộ phận truy xuất tri thức ứng dụng mô hình nhúng; và mô hình SLM đảm nhiệm vai trò tạo sinh phản hồi cho truy vấn của người học. Sau đó, nhóm thực hiện thử nghiệm, đối sánh 2 mô hình SLM đối với kết quả tạo sinh phản hồi là mô hình mistral và mô hình tinyLLaMA. Kết quả thu được 80% phản hồi đúng trọng tâm nội dung môn học với mô hình tinyLLaMA, 93% đối với mistral, 97% truy vấn có truy xuất đúng học liệu. Từ kết quả thử nghiệm bước đầu, nhóm nghiên cứu nhận thấy SLM và RAG có tiềm năng ứng dụng cao và mở ra khả năng phát triển cho các môn học khác thuộc chương trình đào tạo kế toán, cũng như tích hợp kiến trúc Modular RAG nhằm nâng cao hiệu quả hệ thống trong tương lai.