Hãy để AI suy nghĩ bằng các ký hiệu mà con người không thể hiểu, trả lời chính xác nhưng nhanh gấp 12 lần

robot
Đang tạo bản tóm tắt

Thông tin từ Coinjie.com, báo cáo của OneMillion_AI, bài báo “thinking without words” đề xuất phương pháp abstract-cot, bằng cách giới thiệu 64 ký hiệu trừu tượng hoàn toàn mới trong từ điển của mô hình, những ký hiệu này không tương ứng với bất kỳ ngôn ngữ nào của con người. Trước khi trả lời câu hỏi, mô hình sẽ xuất ra một chuỗi nhỏ các ký hiệu này như bản nháp, sau đó trực tiếp đưa ra câu trả lời, bỏ qua quá trình suy luận tự nhiên truyền thống. Trong thử nghiệm với 500 câu hỏi toán học, số token của quá trình suy luận đã được nén từ vài trăm xuống còn vài chục, lượng token giảm tới 11.6 lần, tỷ lệ đúng vẫn giữ nguyên. Thử nghiệm bao gồm các mô hình qwen3-8b, qwen3-4b và ibm granite 4.0 micro, hiệu quả đều nhất quán. Trong quá trình huấn luyện, 64 ký hiệu này tự phát hình thành các quy luật sử dụng giống như ngôn ngữ tự nhiên, một số ký hiệu được sử dụng phổ biến, phần lớn ký hiệu xuất hiện thỉnh thoảng, phân phối phù hợp với quy luật từ phổ biến trong ngôn ngữ con người. Khi đảo lộn thứ tự các ký hiệu, tỷ lệ chính xác của câu trả lời rõ rệt giảm, cho thấy mô hình đã học được cách sử dụng bộ “mật mã” này để suy luận có cấu trúc.

Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
  • Phần thưởng
  • Bình luận
  • Đăng lại
  • Retweed
Bình luận
Thêm một bình luận
Thêm một bình luận
Không có bình luận
  • Ghim