← Danh mục 100 · AI Agent, LLM & Kiến Trúc Nhận Thức · Hình tương tác #008

Kiến Trúc Bộ Nhớ AI 4 Tầng (KV Cache · Context Window · Episodic · Đồ Thị Tri Thức)

Hệ điều hành bộ nhớ phân cấp tương tự L1/RAM/SSD của máy tính giúp AI vừa phản hồi tức thì vừa nhớ bền bỉ qua nhiều tháng.

Hình 8 · sơ đồ 6 trạm & 8 điểm chọn Bồn Chứa Thủy Tinh & Van Cổ Chai

Chọn kịch bản · kéo thanh · chạy mô phỏng · tháo rời

Số nhỏ trên trạm = thứ tự vận hành. Màu xám = tạm bỏ qua. Xem hình lớn ↗

Chọn kịch bản4 chế độ đối chứng

Đường đi đang kích hoạt · theo số trạm

Ngưỡng kích hoạt nén cửa sổ ngữ cảnh72 % đầy

Khoảng tối ưu: 65 đến 80 % đầy. Kéo ra ngoài ngưỡng để quan sát biến đổi.

Tỷ lệ cố định Prefix cho KV Cache85 %

Khoảng tối ưu: 75 đến 95 %. Kéo ra ngoài ngưỡng để quan sát biến đổi.

Độ chọn lọc ghi vào Bộ nhớ Dài hạn80 %

Khoảng tối ưu: 70 đến 90 %. Kéo ra ngoài ngưỡng để quan sát biến đổi.

Tỷ lệ trúng bộ đệm KV Cache

86,5%

Độ chính xác hồi tưởng dài hạn

93,2%

Chi phí trung bình mỗi lượt

0,9cent

Bấm vào trạm trên hình hoặc nút số bên dưới để đọc vai trò từng bộ phận.

Đọc hình như một mô hình giải thích

Hình tương tác này cô đọng cơ chế vận hành cốt lõi của chủ thể thành 6 trạm trực quan kèm đồng hồ đo và đầu ra đối chứng. Bấm vào từng hàng trong bảng tham chiếu bên dưới để nạp nhanh bộ thông số vào mô hình.

Bảng đối chiếu 4 kịch bản tham khảo (bấm vào dòng bất kỳ để áp dụng)
Kịch bản	Đường đi	Ngưỡng kích hoạt nén cửa sổ ngữ cảnh (% đầy)	Tỷ lệ cố định Prefix cho KV Cache (%)	Độ chọn lọc ghi vào Bộ nhớ Dài hạn (%)	Hệ quả quan sát
Phân Cấp Bộ Nhớ MemGPT Chuẩn (Tối ưu)	1 → 2 → 3 → 4 → 5 → 6	72 % đầy	85 %	80 %	Giảm 78% chi phí nhờ Prompt Caching, nhớ chuẩn sở thích người dùng sau 90 ngày
Mất Trí Nhớ Sau Mỗi Phiên & Vỡ Cache (Thiếu tải)	1 → 2 → 4 → 6	96 % đầy	15 %	15 %	Chèn timestamp đầu prompt làm hỏng sạch KV Cache, bộ nhớ dài hạn ngập chuyện phiếm
Nén Quá Sớm & Khóa Cứng Ghi Nhớ (Quá ngưỡng)	1 → 2 → 3 → 4 → 5 → 6	32 % đầy	100 %	100 %	Tóm tắt liên tục làm rơi mất chi tiết code vừa bàn, không ghi nhận thay đổi mới
Trợ Lý Cá Nhân Dài Hạn Đa Dự Án (Thực tế)	1 → 3 → 4 → 5 → 6	76 % đầy	80 %	85 %	Cân bằng giữa giữ nguyên luồng làm việc hiện tại và kết tinh hồ sơ khách hàng bền vững

Nhồi Tất Cả Vào 1M Context
Đổ nguyên lịch sử hàng tháng trời vào mỗi câu hỏi; chi phí và độ trễ phình to theo từng lượt, đồng thời nhiễu thông tin cũ đã lỗi thời làm giảm khả năng suy luận.

Bộ Nhớ 4 Tầng Có Chọn Lọc
Giữ bàn làm việc hiện tại luôn gọn sạch, tận dụng KV Cache cho phần bất biến và chỉ triệu hồi đúng mảnh ký ức hoặc thực thể còn hiệu lực khi tác vụ cần đến.

Quan hệ định lượng minh họa: Hiệu_quả_Nhớ = Tỷ_lệ_Trúng_Prefix_Cache × Độ_nén_Ngữ_cảnh × Độ_bền_Thực_thể_Dài_hạn