AI companion có memory không chỉ là lưu càng nhiều càng tốt. Muốn an toàn, cần thiết kế rõ memory nào được lưu, ai được xem, khi nào được xoá và lúc nào phải đưa con người vào vòng kiểm soát.

Một ghi chú thiết kế cho Snow AI Companion: nếu AI hướng tới trẻ em, đặc biệt là trẻ cần hỗ trợ trong giao tiếp và học tập, sản phẩm phải bắt đầu từ sự an toàn, kiểm soát và sự đồng hành nhẹ nhàng.

Trước khi nói đến AI Agent, tool use hay autonomous system, nên bắt đầu từ workflow thật: ai làm gì, dữ liệu ở đâu, bước nào cần tự động hóa và bước nào cần con người giữ quyền kiểm soát.

AI Engineer không chỉ cần biết prompt, RAG hay model. Muốn tạo giá trị thật, phải hiểu workflow, dữ liệu, người dùng và cách hệ thống đi vào vận hành.

Không chỉ nhìn benchmark. Đây là checklist thực tế để đọc một model open-weight: model card, license, kiến trúc, context, inference, evaluation và khả năng đưa vào sản phẩm.

Một cách đọc các paper LLM theo hướng thực dụng hơn: không chạy theo hype, mà nhìn xem xu hướng nào thật sự ảnh hưởng đến cách build sản phẩm AI.

Inference-time scaling, self-consistency, verifier và reasoning budget giúp cải thiện chất lượng LLM như thế nào, và khi nào không nên dùng vì quá tốn chi phí.

Một ghi chú từ case Booking.com: model performance và business performance là hai chuyện khác nhau, đặc biệt khi ML đi vào sản phẩm thật.

Phân tích tư duy ownership trong production engineering và cách áp dụng vào AI workflow, CRM, dashboard và sản phẩm nhỏ.

Ghi chú về paper OnePiece và cách context engineering, reasoning được đưa vào industrial cascade ranking system.

Ghi chú kỹ thuật về cách thiết kế một dashboard realtime để theo dõi và điều khiển AI agents chạy trong terminal bằng WebSocket.

Ghi chú thực tế về cách thay đổi prompt, model hoặc evaluation pipeline cho AI workflow mà vẫn giữ hệ thống ổn định.

Một bài ghi chú thực tế về LLM evaluation: benchmark chỉ là điểm bắt đầu, còn sản phẩm thật cần test case, verifier, human review và metric gắn với workflow.

Ghi chú thiết kế REST API cho một CRM nhỏ, tập trung vào leads, contacts, deals, quotes và workflow bán hàng thực tế.

Ghi chú thực tế về việc dùng Redis cache để tối ưu dashboard CRM: khi nào nên dùng, cache gì, invalidation ra sao và tránh những lỗi phổ biến.

Ghi chú từ Netflix RecSysOps về việc vận hành recommender system: phát hiện lỗi, dự đoán lỗi, chẩn đoán và xử lý khi hệ thống recommendation đi vào production.

Thiết kế monitoring vừa đủ cho AI workflow nhỏ: logs, metrics, traces, evaluation và business signals.

Rút bài học từ cách Discord xử lý message storage để thiết kế activity log và conversation history cho CRM nhỏ.

Từ case Discord lưu trữ trillions of messages, bài viết nhìn vào dấu hiệu database không còn phù hợp với workload.

Một pipeline thực tế cho project AI hoặc Computer Vision nhỏ: test, build Docker image, chạy eval cơ bản và deploy an toàn hơn.

Ghi chú ngắn về object detection, segmentation và lý do các bài toán computer vision thật thường cần nhiều hơn một bounding box.

Một bài ghi chú về cách một ý tưởng computer vision từ research có thể được tối ưu để chạy trên thiết bị thật.

Một bài ngắn về edge AI, latency và các câu hỏi cần trả lời trước khi đưa computer vision xuống thiết bị thật.

Ghi chú thực tế về cách chia một hệ thống Machine Learning thành các service nhỏ hơn để dễ deploy, monitor và mở rộng.

Giải thích feedback loop trong recommendation system và cách product builder nên thiết kế tín hiệu, metric và guardrails.

Ghi chú cẩn trọng về camera-only perception, occupancy perception và sensor fusion trong autonomous driving.

Một bài viết kiểm chứng: nguồn công khai cho phép nói gì và không cho phép nói gì về Kafka/Flink trong TikTok recommendation.

Một bài viết cẩn trọng về TikTok-style architecture: chỉ dùng nguồn công khai để rút ra pattern sản phẩm, không khẳng định kiến trúc nội bộ.

Phân tích TikTok-style feed qua nguồn chính thức và nghiên cứu học thuật để hiểu vai trò của platform architecture trong recommendation.

Phân tích paper LightSAGE về cách Shopee dùng graph neural networks cho item retrieval trong recommendation ads.

Phân tích case Shopee dùng ClickHouse cho distributed tracing và bài học cho các hệ thống nhiều service.

Phân tích quyết định database migration qua case Discord và cách chọn database theo access pattern, operational cost và trade-off.

Đọc case Discord chuyển từ Cassandra sang ScyllaDB và rút ra bài học về database, hot partition, migration và latency.

Ghi chú từ Netflix Tech Blog về cách Machine Learning được dùng để dự đoán chất lượng streaming, giảm lỗi phát video và cải thiện trải nghiệm người xem.

Đọc bài Netflix về microservices để hiểu vì sao hệ phân tán cần quan sát theo nhiều tầng: request flow, bottleneck và instance-level metrics.

Rút bài học từ Airbnb Search và Embedding-Based Retrieval để thiết kế CRM search/ranking theo hướng thực tế.

Phân tích Uber Michelangelo để hiểu một ML platform production cần data, training, deployment, prediction và monitoring.