Chính sách AI, Định tuyến & Quản lý Ngữ cảnh

Nexora thiết kế kiến trúc hỗ trợ linh hoạt 3 nhóm mô hình:

• Nexora-Managed Models: Các mô hình flagship được tối ưu hóa sẵn từ các đối tác hàng đầu (như Google Gemini 2.0 Flash, DeepSeek V3, DeepSeek R1, Claude 3.7 Sonnet, Qwen 2.5 Coder, GPT-4o, o3-mini). Các mô hình này được điều phối qua AI Gateway bảo mật cao và khấu trừ trực tiếp theo credits của gói;
• Bring Your Own Key (BYOK): Cho phép bạn nhập API key cá nhân của các nhà cung cấp bên ngoài. Yêu cầu được gửi trực tiếp và chi phí do nhà cung cấp đó thanh toán độc lập;
• Local / On-Device Models: Hỗ trợ kết nối các mô hình chạy cục bộ thông qua Ollama hoặc engine native. Dữ liệu xử lý 100% trên phần cứng máy tính của bạn với chi phí 0 credits.

Khi bạn bật chế độ Nexora Auto, hệ thống đóng vai trò một lớp định tuyến thông minh (Smart Routing Layer) thay vì một mô hình đơn lẻ:

• Tự động phân loại tác vụ: Yêu cầu lập trình được định tuyến tới model tối ưu code; tác vụ chứng minh toán học / kiến trúc sâu được điều hướng tới model suy luận (Reasoning); tác vụ tra cứu nhanh được gửi tới model flash tốc độ cao;
• Cơ chế chuyển vùng dự phòng (Fallback): Khi một nhà cung cấp đối tác gặp sự cố quá tải hoặc phản hồi lỗi mạng, AI Gateway tự động kích hoạt fallback an toàn sang model có năng lực tương đương để đảm bảo phiên làm việc của lập trình viên không bị đứt đoạn.

Dù nhiều mô hình hiện đại hỗ trợ cửa sổ ngữ cảnh hàng triệu token, việc gửi toàn bộ kho mã nguồn là tốn kém và làm suy giảm độ chính xác của AI. Nexora áp dụng:

• Ngữ cảnh chọn lọc (Context Pruning): Trích xuất chính xác các module, hàm và tài liệu liên quan đến câu lệnh;
• Lập chỉ mục cục bộ (Local Semantic Indexing): Tạo vector biểu diễn ngữ nghĩa của workspace ngay trên thiết bị;
• Bộ nhớ đệm Token (Prompt Caching): Tái sử dụng các đoạn context cố định (như tài liệu thư viện, system prompt) để giảm tới 80% chi phí credits và tăng tốc độ phản hồi.

Mô hình ngôn ngữ lớn (LLM) là công cụ hỗ trợ tư duy và tăng tốc năng suất, không thể thay thế hoàn toàn tư duy phản biện của con người:

• AI có thể tạo ra lỗi logic, thư viện không tồn tại (hallucination) hoặc mã nguồn không tối ưu cho môi trường đặc thù;
• Người dùng có trách nhiệm độc lập: luôn biên dịch, chạy các bài kiểm thử tự động (Unit / Integration Test) và rà soát bảo mật trước khi đưa bất kỳ mã nguồn nào vào môi trường vận hành thực tế.