Cách Tôi Nghĩ Về AI OS Của Mình (Và Tại Sao Tôi Phải Tự Xây Dựng Nó)
Cuộc Trò Chuyện Không Bao Giờ Kết Thúc
Nó bắt đầu bằng một câu hỏi đơn giản: “Phản hồi từ khách hàng đó thứ Ba tuần trước là gì?”
AI agent dừng lại. Nó có thể viết code xuất sắc và phân tích dữ liệu trong vài giây — nhưng nó không nhớ gì về thứ Ba tuần trước và không biết khách hàng là ai.
Đây là agent amnesia.
Mỗi tương tác giống như bắt đầu từ con số không. Các model không phải là vấn đề. Infrastructure mới là vấn đề.
Tại Sao Tôi Phải Tự Xây Dựng Nó
Vận hành TrendAI, HappyHome, và MaxLearn đồng thời cho tôi thấy khoảng trống: Tôi cần các agent với persistent memory, quyền truy cập tool an toàn, và ranh giới rõ ràng.
Các công cụ có sẵn không thể cung cấp một hệ thống thực sự tự quản lý cho một solo founder, nên tôi đã xây dựng TOS — The TrendAI Operating System.
Mental Model: Năm Layers của Intelligence
Layer 1: The Reasoning Kernel (The Brain) TOS là model-agnostic. Một custom FastAPI layer định tuyến tasks qua tos_runtime_registry đến model tốt nhất — Claude cho deep reasoning, Gemini Flash cho tốc độ, hoặc local Ollama cho privacy. OS vẫn ổn định trong khi brain phát triển.
Layer 2: Memory & Data (The Case File) Chúng tôi dùng Supabase + pgvector cho persistent memory. Các agent thực hiện semantic search với nomic-embed-text để recall lịch sử liên quan từ case file. Row Level Security (RLS) đảm bảo mỗi agent chỉ thấy dữ liệu được phân quyền.
Layer 3: Orchestration (The Nervous System) Layer này điều phối workflows bằng n8n cho signals và một custom State Machine Queue với resource locking (locked_at, locked_by). Nó ngăn chặn race conditions và cho phép retries đáng tin cậy khi tasks thất bại.
Layer 4: Agents (The Specialized Team) Tôi vận hành một nhóm các specialized agents (Trinity, Neo, Jobs, Woz…). Mỗi agent được định nghĩa trong file AGENT.yaml kiểm soát role và scoped tool access. Một Python adapter chuyển đổi điều này thành runtime prompts đồng thời enforce least-privilege permissions.
Layer 5: The BUD Dashboard (The Cockpit) Được xây dựng trên Next.js, dashboard này cho phép tôi giám sát mọi thứ từ KPIs cấp cao xuống raw audit logs trong tos_agent_task_log, hiển thị skill usage và cost. Nó cung cấp góc nhìn CEO-level với chi tiết engineer-level.
_Full five-layer TOS architecture overview. Caption: “Five Layers. One Cohesive System.”_
Được Xây Dựng Cho Safety và Scale
Safety được tích hợp sẵn với three-layer prompt injection defense, runtime permission checks, full audit trails, một private Tailscale mesh network, và hardware-protected OCI Vault cho secrets.
Sự Thay Đổi Thực Sự
Tôi đã chuyển từ việc trông nom agents và lặp lại context sang điều phối một team và tinh chỉnh kiến trúc.
Tôi không còn là engine — tôi đang trở thành architect của cỗ máy.
Điều gì là thứ bạn muốn AI agent của mình ghi nhớ vĩnh viễn về business của bạn?
Chia sẻ suy nghĩ của bạn bên dưới 👇
_Article 3 of 4 — “Building My AI OS” Series_ TrendAI Operating System — Built Live & in Public