Tối ưu bộ nhớ khi xuất Excel triệu dòng, tìm kiếm embedding nhanh với SIMD trong Dart

Bản tin hôm nay ghi nhận hai bài viết thực tiễn cho lập trình viên Dart: một giải pháp xuất Excel khổng lồ không tốn RAM nhờ FFI wrapper, và kỹ thuật semantic search trên thiết bị di động với SIMD. Bên cạnh đó, DoorDash chia sẻ cách họ đạt uptime 99.99999% với proxy cache xử lý 1.5 triệu request mỗi giây.

Xuất file Excel triệu dòng trong Dart mà không bị OOM

(Lobsters) Một bài viết trên dev.to chia sẻ cách giải quyết vấn đề khi endpoint xuất báo cáo .xlsx bị container OOM-kill khi khách hàng cần xuất 400,000 dòng. Package phổ biến excel xây dựng toàn bộ workbook thành object graph trong RAM và serialize cuối cùng — phù hợp với sheet 50 dòng nhưng sai mô hình với server export lớn. Tác giả chuyển sang FFI wrapper cho libxlsxwriter, viết trực tiếp ra stream thay vì giữ toàn bộ trong bộ nhớ.

Vì sao đáng quan tâm: Nếu bạn đang dùng Dart backend xuất báo cáo Excel, đây là pattern quan trọng để tránh memory leak. Package excel_community được recommend cho ai cần giải pháp pure Dart thay thế, còn C extension là lựa chọn cho hiệu năng tối đa.

Semantic search trên device bằng SIMD trong Dart

(dev.to) Tác giả mô tả cách tìm 5 document gần nhất với query embedding (384 chiều) trong ứng dụng Flutter có 20,000 documents — chạy hoàn toàn trên device, không server round trip. Phiên bản đầu dùng vòng for tính cosine similarity với mọi row, rồi sort lấy top 5 — chậm và tốn CPU. Phiên bản tối ưu sử dụng packed matrix và SIMD dot products để tăng tốc đáng kể.

Vì sao đáng quan tâm: Với các ứng dụng cần AI trên edge (chatbot offline, gợi ý local), kỹ thuật này giúp giảm độ trễ đáng kể. Bài viết cung cấp số liệu memory cụ thể để so sánh.

// SIMD dot product (phiên bản tối ưu)
double simdDot(List<double> a, List<double> b) {
  // Sử dụng packed matrix structure thay vì List<List<double>>
  // Tận dụng SIMD instructions của CPU
}

DoorDash đạt 99.99999% uptime với proxy cache 1.5 triệu RPS

(InfoQ) DoorDash xây dựng Entity Cache, một transparent proxy caching platform dựa trên Envoy và Valkey, nhằm giảm các request trùng lặp giữa các microservices trong kiến trúc của họ. Nền tảng này hoạt động trong service mesh, phục vụ hơn 1.5 triệu requests mỗi giây với uptime 99.99999% (dưới 3 giây downtime mỗi năm) thông qua caching thông minh, event-driven invalidation và các tối ưu hiệu năng khác.

Vì sao đáng quan tâm: Con số 99.99999% uptime là mục tiêu của mọi hệ thống production. Bài viết chi tiết cách kết hợp Envoy (service mesh layer) với Valkey (in-memory store) là pattern có thể áp dụng cho các kiến trúc microservices quy mô lớn.

GitHub Copilot hiển thị AI credits theo billing cycle

(dev.to) GitHub vừa cập nhật cho phép người dùng Copilot Business và Copilot Enterprise xem số AI credits đã sử dụng trong billing cycle hiện tại, ngay cả khi không đặt individual budget. Thông tin này có sẵn trong phần Copilot usage dashboard.

Vì sao đáng quan tâm: Tính năng này giúp team leads và finance theo dõi chi phí AI trước khi nhận hóa đơn cuối tháng — đặc biệt hữu ích khi số lượng developer dùng Copilot tăng trong tổ chức.

Ngắn gọn còn lại

• OpenAI chia sẻ bài học an toàn khi deploy long-horizon models — nhấn mạnh risks, observed failures và safeguards mới (GitHub)
• Java roundup tuần này: Value Objects (Preview), WildFly 41 GA, Open Liberty 26.0.0.7, bảo trì Micronaut, và Oracle AI Agent Studio cho Fusion Applications (InfoQ)
• Kimi Work — sản phẩm AI productivity từ Kimi được thảo luận trên Hacker News (Hacker News)
• Jelly UI — thư viện tạo hiệu ứng vật lý soft-body cho các form control HTML thuần (Hacker News)

Nguồn chính thức

• Secrets Don’t Belong in Config — Lobsters · 07:09 21-07
• Writing a million-row .xlsx from Dart without running out of memory — dev.to · 07:15 21-07
• DoorDash Uses Envoy and Valkey for a 1.5M RPS Proxy Cache with 99.99999% Availability — InfoQ · 20:53 20-07
• Semantic search in Dart without the hand-written cosine loop — dev.to · 07:20 21-07
• Copilot users can now see AI credits used per billing cycle — GitHub · 23:00 20-07
• Java News Roundup: Value Objects, WildFly 41, TornadoVM, LangChain4j, Oracle AI Agent Studio — InfoQ · 01:45 21-07
• Kimi Work — Hacker News · 00:13 21-07
• Jelly UI: Soft-body physics for native HTML form controls — Hacker News · 00:07 21-07