Phát triển thành công mô hình LLM, Zalo tham gia Liên minh AI Âu Lạc

Mong muốn đồng hành cùng Việt Nam trong mục tiêu phát triển và làm chủ công nghệ, Zalo tham gia Liên minh AI Âu Lạc cùng 20 tổ chức gồm cơ quan Nhà nước, doanh nghiệp và trường ĐH.

Không còn là cuộc chơi riêng lẻ, Việt Nam đã chính thức có Liên minh AI, cùng nhau “bắt tay” phát triển công nghệ chiến lược vì chủ quyền số quốc gia. Liên minh AI Âu Lạc có sự tham gia của các đơn vị công nghệ đầu ngành và startup công nghệ như: MobiFone, VNPT, FPT, CMC, Zalo… cùng nhiều trường đại học và học viện.

Ông Nguyễn Minh Tú - Giám đốc công nghệ Zalo - cùng đại diện các đơn vị trong buổi lễ ra mắt Liên minh AI Âu Lạc.

Liên minh AI Âu Lạc sẽ tập trung vào 3 lĩnh vực chính gồm: Nghiên cứu phát triển, Xây dựng quy chuẩn và chính sách về AI, Đào tạo. Trong lĩnh vực Nghiên cứu phát triển, các thành viên sẽ cùng phát triển các mô hình ngôn ngữ lớn LLM với khả năng xử lý tiếng Việt chính xác, tự nhiên, phù hợp với văn hóa và bản sắc Việt Nam, góp phần nâng cao dân trí và thúc đẩy kinh tế quốc gia.

Ông Nguyễn Minh Tú - Giám đốc Công nghệ Zalo - phát biểu tại sự kiện ra mắt Liên minh AI Âu Lạc.

Phát biểu tại lễ ra mắt liên minh, ông Nguyễn Minh Tú - Giám đốc Công nghệ Zalo - khẳng định mong muốn đóng góp không chỉ cho công cuộc phát triển LLM mà còn cho nền chủ quyền công nghệ của Việt Nam.

“Gia nhập Liên Minh AI Âu Lạc, chúng tôi mong muốn đóng góp vào công cuộc phát triển các mô hình ngôn ngữ lớn LLM tại Việt Nam. Là một đơn vị đã thành công trong việc xây dựng mô hình LLM, Zalo hy vọng có thể tạo ra những sản phẩm AI chất lượng, phục vụ cho người Việt thiết thực, cũng như góp sức mình vào tiến trình phát triển khoa học công nghệ của đất nước.

Việc gia nhập liên minh cũng khẳng định quyết tâm tự chủ công nghệ, làm chủ AI của Zalo. Chúng tôi tin rằng chính người Việt có thể làm chủ mô hình LLM bằng tiếng Việt. Đồng thời, Zalo mong muốn chung tay tạo ra một cộng đồng AI mở, minh bạch, nhằm khơi dậy sáng tạo, ứng dụng AI rộng khắp". n

Tại Việt Nam hiện nay, Zalo là một trong những đơn vị hiếm hoi thành công phát triển mô hình ngôn ngữ lớn (LLM). Không chọn kỹ thuật tinh chỉnh (fine-tuned model) như nhiều doanh nghiệp, Zalo phát triển LLM theo phương thức tự huấn luyện mô hình từ đầu (from-scratch model). Lựa chọn này có nhiều khó khăn đòi hỏi phải tạo dựng từ số 0 - kiến trúc mô hình, khởi tạo tham số, xử lý dữ liệu và huấn luyện mô hình từ tập dữ liệu xử lý. Quyết định trên không phải chạy đua với các người khổng lồ nước ngoài, mà hiện thực khát vọng của người Việt làm chủ mô hình LLM thuần Việt, hiểu tiếng Việt và phục vụ cho người Việt.

Tới cuối năm 2024, mô hình LLM của Zalo vượt qua các tên tuổi lớn như GPT-4 (OpenAI), Gemma2-9B (Google) hay Phi-3-small (Microsoft).

Dù gặp nhiều thách thức trong quá trình phát triển công nghệ LLM, nhờ chiến lược linh hoạt, Zalo đã rút ngắn thời gian phát triển thành công mô hình LLM từ 18 tháng xuống 6 tháng. Cuối năm 2023, mô hình đầu tiên KiLM 7B tham số ra mắt tại sự kiện Zalo AI Summit.

Trên nền tảng đánh giá VMLU (Vietnamese Multitask Language Understanding Benchmark Suite for Large Language Models), mô hình KiLM 7B đạt năng lực gấp 1,5 lần so với ChatGPT-3.5 của OpenAI trên bộ test VMLU public. Tới cuối năm 2024, mô hình với 13B tham số của Zalo vượt qua các tên tuổi lớn như GPT-4 (OpenAI), Gemma2-9B (Google) hay Phi-3-small (Microsoft), chỉ đứng sau mô hình LlaMA-70B của Meta về năng lực xử lý tiếng Việt của VMLU.

Trong tương lai, Zalo sẽ tiếp tục nghiên cứu, hoàn thiện hơn mô hình LLM, cũng như đẩy mạnh tính ứng dụng thực tiễn của LLM trong đời sống của hàng triệu người dùng Việt. Việc Zalo phát triển thành công LLM tiếng Việt không chỉ là bước đi đột phá của một doanh nghiệp, mà còn mở ra tương lai tiềm năng cho trí tuệ nhân tạo Việt Nam. Gia nhập Liên minh AI Âu Lạc thể hiện rõ quyết tâm của Zalo trong việc phát triển AI theo hướng an toàn, có trách nhiệm, phục vụ lợi ích cộng đồng và chủ quyền quốc gia.

Sự ra đời của Liên minh không chỉ mở ra một chương mới cho hành trình phát triển AI tại Việt Nam, mà còn hứa hẹn một tương lai tươi sáng, nơi công nghệ phục vụ thiết thực cho cộng đồng, gắn với lợi ích quốc gia và góp phần khẳng định độc lập chủ quyền của Việt Nam trên bản đồ công nghệ toàn cầu.