Giới thiệu về Tree of Thoughts
Có nhiều phương pháp kích thích trí tuệ nhân tạo, trong đó phương pháp Chain of Thoughts (CoT) được biết đến phổ biến nhất. Tuy nhiên, các nhà nghiên cứu từ Google DeepMind và Đại học Princeton đã phát triển một chiến lược kích thích cải tiến mang tên Tree of Thoughts (ToT).
Tree of Thoughts (ToT) là một phương pháp tư duy mới, mang đến kết quả vượt trội và mở ra cách tiếp cận mới và hứa hẹn trong việc sử dụng các mô hình ngôn ngữ để giải quyết các vấn đề yêu cầu tìm kiếm hoặc lập kế hoạch.
So sánh với ba loại phương pháp kích thích khác
Bài báo nghiên cứu so sánh ToT với ba chiến lược kích thích khác nhau: Input-output (IO) Prompting, Chain Of Thought Prompting, và Self-consistency with CoT.
Cụ thể, IO Prompting là việc đưa mô hình ngôn ngữ một vấn đề cần giải quyết và nhận được câu trả lời. Chain Of Thought Prompting tập trung vào việc hướng dẫn mô hình ngôn ngữ tạo ra những phản ứng liên kết và logic. Self-consistency with CoT là chiến lược kích thích mô hình ngôn ngữ nhiều lần và chọn câu trả lời phổ biến nhất.
Mô hình quyết định kép trong suy nghĩ của con người
Những nhà nghiên cứu lấy cảm hứng từ lý thuyết về quyết định kép trong suy nghĩ của con người, gọi là dual process models in human cognition.
Theo lý thuyết này, con người tham gia vào hai loại quá trình ra quyết định khác nhau, một loại nhanh chóng và không cần suy nghĩ cẩn trọng, và một loại tư duy chậm rãi và cẩn trọng hơn.
Sự khác biệt giữa ToT và CoT
Sự khác biệt chính giữa ToT và CoT là ToT sử dụng một cấu trúc cây cho quá trình tư duy, trong khi CoT đi theo một con đường tuyến tính.
ToT yêu cầu mô hình ngôn ngữ đánh giá mỗi bước của quá trình tư duy và quyết định xem bước đó có hợp lý và dẫn đến câu trả lời hay không. Nếu mô hình ngôn ngữ quyết định rằng con đường tư duy đó sẽ không dẫn đến câu trả lời, chiến lược kích thích yêu cầu nó bỏ con đường đó và tiếp tục với con đường khác.
Kết quả và Kết luận
Các nhà nghiên cứu đã thử nghiệm phương pháp ToT trong một trò chơi toán học và kết quả cho thấy phương pháp này sản xuất kết quả tốt hơn so với ba phương pháp khác.
Tuy nhiên, họ cũng lưu ý rằng ToT có thể không cần thiết cho việc hoàn thành các nhiệm vụ mà GPT-4 đã thực hiện tốt.
Cuối cùng, họ kết luận rằng mô hình Tree of Thoughts cung cấp một cách để chuyển các nhận thức cổ điển về giải quyết vấn đề thành các phương pháp hành động cho các mô hình ngôn ngữ hiện đại.