Cảm giác thứ Hai thật khác biệt khi bạn đang debug ML phân tán. Vậy nên có một vấn đề—liệu các mô hình machine learning thực sự đã tận dụng tối đa năng lực mạng của Bittensor chưa?

Có vẻ như một số đội nhóm không chờ đợi gì cả. Nhóm inference_labs đã tung ra một workflow thú vị: lấy file mô hình ONNX của bạn, chạy quantization để tăng tốc độ suy luận, sau đó chia nhỏ nó thành các phần bằng dsperse để xử lý phân tán. Điểm đặc biệt? Họ còn xếp chồng zk-snarks lên trên để đảm bảo tính xác minh của phép tính.

Khá thông minh nếu bạn nghĩ về nó—giải quyết nút thắt về băng thông trong khi vẫn giữ bằng chứng nhẹ. Có ai khác đang thử nghiệm chia nhỏ mô hình trên các mạng phi tập trung không?