Giải pháp LLM của QVAC Fabric sẽ tiếp tục được cải tiến trong vài tháng tới — mục tiêu là giúp mô hình lớn có thể chạy suy luận cục bộ trên bất kỳ GPU, bất kỳ hệ điều hành, bất kỳ thiết bị đầu cuối nào, thực sự hiện thực hóa việc triển khai quy mô lớn.



Nghiên cứu mới nhất của họ đã đạt được một bước đột phá: lần đầu tiên tinh chỉnh mô hình thành công trên GPU di động. Điều này có ý nghĩa gì? Trước đây, việc huấn luyện mô hình AI phải phụ thuộc vào sức mạnh tính toán trên đám mây, giờ đây các thiết bị như điện thoại, máy tính bảng cũng có thể tham gia. Đối với mạng lưới AI phi tập trung, đây có thể là một bước ngoặt — sức mạnh tính toán không còn bị độc quyền bởi các trung tâm dữ liệu, mà thiết bị của mỗi người đều có thể trở thành một nút mạng.

Không gian tưởng tượng cho điện toán biên + AI on-chain lại được mở rộng thêm một bậc.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
  • Phần thưởng
  • 5
  • Đăng lại
  • Retweed
Bình luận
0/400
MEVSandwichvip
· 3giờ trước
Trời ơi, đây mới thực sự là phi tập trung, điện thoại cũng có thể chạy mô hình tinh chỉnh? Nếu vậy thì thợ đào phải cẩn thận rồi. Dân chủ hóa sức mạnh tính toán nghe thì hay đấy, nhưng liệu có thực sự áp dụng được không... Mình đánh giá cao điện toán biên, nhưng phải xem tốc độ phát triển của QVAC thế nào đã. Điện thoại tham gia đào tạo? Cái này mà nổi thì chắc các nhà sản xuất thiết bị sẽ lo lắng lắm. Chỉ sợ cuối cùng lại là các ông lớn ăn thịt, còn mình thì chẳng đến lượt uống nước canh.
Xem bản gốcTrả lời0
MemecoinTradervip
· 12-06 14:57
Thật lòng mà nói, đây chính là điểm bùng phát trong câu chuyện mà chúng ta đã chờ đợi. Tinh chỉnh GPU trên di động? Đó không chỉ là tiến bộ công nghệ, mà còn là gia tốc memetic mà thị trường cần để hợp lý hóa đợt tăng tiếp theo. Hãy xem cảm xúc thị trường sẽ bùng nổ thế nào khi nhà đầu tư nhỏ lẻ bắt đầu nhận ra khung "điện thoại của bạn giờ là một node"... Cửa sổ arbitrage xã hội cho câu chuyện này đúng là *chuẩn không cần chỉnh*
Xem bản gốcTrả lời0
GweiWatchervip
· 12-06 14:57
Nếu việc vi chỉnh GPU trên di động thực sự được triển khai, cảm giác cục diện sẽ thay đổi lớn đấy. --- Lại là "bước ngoặt", thực sự có thể phá vỡ thế độc quyền hay lại chỉ là một giấc mơ trên PPT? --- Mỗi người đều biến điện thoại thành máy đào? Nghe logic này có vẻ hơi viển vông. --- Khoan đã, như vậy thì lượng token tiêu thụ có bùng nổ không... Pin điện thoại cảm thấy áp lực lớn. --- Cuối cùng cũng có người làm việc này rồi, lẽ ra nên phi tập trung hóa từ lâu. --- Nếu không xử lý tốt vấn đề tương thích phần cứng, vẫn phải phụ thuộc vào các ông lớn. --- AI on-chain + tính toán biên đúng là giàu trí tưởng tượng, nhưng thực tế ứng dụng thì sao... --- Điện thoại tự chạy vi chỉnh mô hình, vậy những khoản tiền tôi chi cho dịch vụ đám mây trước đây thật lãng phí... --- Nếu thực sự có thể chạy trên mọi thiết bị, ngày tháng của các hãng chip GPU sẽ khó khăn rồi.
Xem bản gốcTrả lời0
SelfRuggervip
· 12-06 14:42
Vãi, tinh chỉnh mô hình ngay trên điện thoại á? Nếu cái này thực sự triển khai thì ngành công nghiệp máy đào chắc phải đổi thay lớn luôn.
Xem bản gốcTrả lời0
fork_in_the_roadvip
· 12-06 14:29
GPU tinh chỉnh trên di động? Vậy là điện thoại thật sự sắp lật ngược tình thế rồi ha, nhưng mà nói đi cũng phải nói lại, liệu nó có thật sự chạy nổi không? Nghe "dân chủ hóa sức mạnh tính toán" thì phê đấy, nhưng mình chỉ muốn biết hiệu quả thực tế thế nào, liệu có thể đừng chỉ dừng lại ở khái niệm không? AI phi tập trung nghe nhiều quá rồi, lần này QVAC thực sự triển khai được chứ không phải nói suông thì mình mới tin Mỗi thiết bị đều là một node, mình nghi ngờ người dùng có chịu không, tiền điện tự trả thì bạn nghĩ sao? Nếu chuyện này thành thật, mấy hãng GPU chắc phải khóc mất
Xem bản gốcTrả lời0
  • Gate Fun hotXem thêm
  • Vốn hóa:$3.54KNgười nắm giữ:1
    0.00%
  • Vốn hóa:$3.92KNgười nắm giữ:4
    1.87%
  • Vốn hóa:$3.65KNgười nắm giữ:3
    0.53%
  • Vốn hóa:$3.58KNgười nắm giữ:3
    0.00%
  • Vốn hóa:$10.61KNgười nắm giữ:14
    27.06%
  • Ghim