Thiết kế cơ chế cache cho tác vụ đọc dữ liệu lặp lại

{
  "mo_ta_luong_truy_cap": "Single-process; read nhiều; TTL30 clock units; manual invalidate; cần dedupe concurrent misses",
  "ngon_ngu_uu_tien": "JavaScript Node.js",
  "rang_buoc_nhat_quan": "Chưa cam kết cross-worker; write/in-flight race cần version policy riêng"
}

function makeCache(load,now,ttl=30){let cached,expires=0,inflight=null;return{invalidate(){cached=undefined;expires=0;},async get(){if(cached!==undefined&&now()<expires)return cached;if(inflight)return inflight;inflight=Promise.resolve().then(load).then(v=>{cached=v;expires=now()+ttl;return v;}).finally(()=>{inflight=null;});return inflight;}};}

// clock0:2 concurrent misses ->[1,1], loader gọi1.
// clock29 ->1; clock30 ->2; invalidate rồi get ->3.

Task

Thiết kế TTL cache single-process với injected clock và dedupe concurrent misses; nêu ranh giới invalidation rõ.

Verification

TTL hết hạn khi now lớn hơn hoặc bằng expires; hai misses dùng chung in-flight Promise.

Limitations

4 actual Node cases. Không distributed cache hoặc concurrent write/version guarantee; chưa đo latency. Undefined value được xem là miss.

Model metadata

Các model tag hiện hữu là môi trường gợi ý, không chứng nhận đã benchmark từng model/version. Kiểm availability và capability trước dùng.

• TTL hết hạn khi now lớn hơn hoặc bằng expires; hai misses dùng chung in-flight Promise.
• 4 actual Node cases. Không distributed cache hoặc concurrent write/version guarantee; chưa đo latency. Undefined value được xem là miss.
• Dữ liệu ví dụ là synthetic; không đưa token, PII hay dữ liệu khách hàng vào input công khai.