Direction:

  1. Deploy text2sql trên máy — do this first

    1. https://aws.amazon.com/vi/blogs/database/build-an-ai-powered-text-to-sql-chatbot-using-amazon-bedrock-amazon-memorydb-and-amazon-rds/?utm_source=chatgpt.com
  2. PROMPT ENGINEERING TIẾNG VIỆT HƯỚNG DẪN BOT THAO TÁC VỚI DB

  3. Nghĩ logic để hạn chế quyền của chatbot lên DB

    1. với những lệnh INSERT/DELETE/UPDATE chỉ được tác động lên bảng Booking
  4. Dùng tiếng việt - model dùng đặt lịch có thể xài tiếng việt nhưng amazon lex thì không - nghĩ phương án→ có thể tạo file code UI chatbot kết nối webhook …..

  5. Trước khi bot sinh ra SQL query thì cần nắm các table, columns liên quan tới query user → tham khảo các cơ chế (hiện tại đã có 1 cơ chế trong blog text2sql là —table indexer TAG—)References: HEXGEN-TEXT2SQL: Optimizing LLM Inference Request Scheduling for Agentic Text-to-SQL Workflow đọc related work

    Hoặc dùng langchain có tool để đọc DB và tìm tables, columns: Build a Question/Answering system over SQL data | 🦜️🔗 LangChain

  6. Cách caching qua DynamoDB để tiết kiệm chi phí

  7. Ngoài sd sẵn model trên bedrock cũng có phương án finetuned model nhỏ chạy trên sagemaker nhưng k biết hiệu quả k?

  8. tạo giao diện web gì đó để người quan lý có thể theo dõi, quản lý, hiện bảng thông kê số đơn đặt hàng ,…