Direction:
Deploy text2sql trên máy — do this first
PROMPT ENGINEERING TIẾNG VIỆT HƯỚNG DẪN BOT THAO TÁC VỚI DB
Nghĩ logic để hạn chế quyền của chatbot lên DB
Dùng tiếng việt - model dùng đặt lịch có thể xài tiếng việt nhưng amazon lex thì không - nghĩ phương án→ có thể tạo file code UI chatbot kết nối webhook …..
Trước khi bot sinh ra SQL query thì cần nắm các table, columns liên quan tới query user → tham khảo các cơ chế (hiện tại đã có 1 cơ chế trong blog text2sql là —table indexer TAG—)References: HEXGEN-TEXT2SQL: Optimizing LLM Inference Request Scheduling for Agentic Text-to-SQL Workflow đọc related work
Hoặc dùng langchain có tool để đọc DB và tìm tables, columns: Build a Question/Answering system over SQL data | 🦜️🔗 LangChain
Cách caching qua DynamoDB để tiết kiệm chi phí
Ngoài sd sẵn model trên bedrock cũng có phương án finetuned model nhỏ chạy trên sagemaker nhưng k biết hiệu quả k?
tạo giao diện web gì đó để người quan lý có thể theo dõi, quản lý, hiện bảng thông kê số đơn đặt hàng ,…