OPML: Sử dụng phương pháp lạc quan để tối ưu hóa machine learning trên chuỗi khối
OPML(Học máy lạc quan) là một công nghệ mới, có thể thực hiện suy diễn và đào tạo/tinh chỉnh mô hình AI trên hệ thống Blockchain. So với ZKML, OPML có chi phí thấp và hiệu quả cao, có thể cung cấp dịch vụ ML thuận tiện hơn cho người dùng.
Một trong những đặc điểm lớn của OPML là ngưỡng tham gia thấp. Ngay cả những máy tính PC thông thường không có GPU cũng có thể chạy OPML, bao gồm cả các mô hình ngôn ngữ lớn ( như 7B-LLaMA) có kích thước 26GB.
Để đảm bảo sự phi tập trung và đồng thuận có thể xác minh của dịch vụ ML, OPML sử dụng cơ chế trò chơi xác minh, tương tự như hệ thống Truebit và Optimistic Rollup. Quy trình cơ bản như sau:
Người yêu cầu khởi động nhiệm vụ dịch vụ ML
Máy chủ hoàn thành nhiệm vụ và đưa kết quả lên chuỗi
Người xác minh xác thực kết quả, nếu có bất đồng thì khởi động trò chơi xác minh.
Định vị chính xác các bước lỗi thông qua giao thức phân đôi
Thực hiện trọng tài một bước trên hợp đồng thông minh
Trò chơi xác minh một giai đoạn
Cốt lõi của trò chơi xác minh một giai đoạn là giao thức định vị chính xác, hoạt động tương tự như ủy thác tính toán (RDoC). Khi nhiều bên tham gia thực hiện cùng một chương trình, họ có thể tìm ra các bước gây tranh cãi thông qua việc chất vấn lẫn nhau và nộp chúng cho hợp đồng thông minh trên blockchain để phân xử.
Trò chơi xác minh một giai đoạn của OPML có những đặc điểm sau:
Xây dựng máy ảo thực thi off-chain và trọng tài on-chain (VM), đảm bảo tính tương đương của cả hai.
Đã triển khai thư viện DNN nhẹ chuyên dụng, nâng cao hiệu quả suy diễn mô hình AI
Sử dụng công nghệ biên dịch chéo, biên dịch mã suy diễn mô hình AI thành lệnh VM
Sử dụng cây Merkle để quản lý hình ảnh VM, chỉ tải lên gốc Merkle lên chuỗi.
Sau khi xác định các bước tranh chấp qua giao thức phân đoạn, nó được gửi đến hợp đồng trọng tài trên Blockchain. Các thử nghiệm cho thấy, trên máy tính cá nhân thông thường, suy diễn của mô hình AI cơ bản (MNIST phân loại DNN) có thể hoàn thành trong vòng 2 giây, toàn bộ quá trình thách thức mất khoảng 2 phút.
Trò chơi xác thực đa giai đoạn
Hạn chế của trò chơi xác thực một giai đoạn là tất cả các phép toán phải được thực hiện trong VM, không thể tận dụng tối đa sự tăng tốc của GPU/TPU hoặc xử lý song song. Để giải quyết vấn đề này, OPML đã đề xuất mở rộng giao thức đa giai đoạn.
Ý tưởng cốt lõi của giao thức đa giai đoạn là: chỉ tính toán trong VM ở giai đoạn cuối, các giai đoạn khác có thể linh hoạt thực hiện trong môi trường địa phương, tận dụng tối đa CPU, GPU, TPU thậm chí là khả năng xử lý song song. Điều này đã nâng cao đáng kể hiệu suất thực thi của OPML, khiến nó gần đạt được mức hiệu suất của môi trường địa phương.
Lấy ví dụ về trò chơi xác thực hai giai đoạn (k=2):
Giai đoạn 2: Trạng thái chuyển đổi tương ứng thay đổi bối cảnh tính toán của "lệnh lớn"
Giai đoạn 1: Tương tự như trò chơi xác thực một giai đoạn, chuyển trạng thái tương ứng với một micro lệnh VM.
Người nộp đơn và người xác thực trước tiên khởi động trò chơi xác thực ở giai đoạn 2, xác định "lệnh lớn" gây tranh cãi. Sau đó, vào giai đoạn 1, xác định các lệnh vi mô VM gây tranh cãi, và cuối cùng gửi đến phân xử Blockchain.
Để đảm bảo tính toàn vẹn và an toàn của quá trình chuyển tiếp giữa các giai đoạn, OPML phụ thuộc vào cây Merkle, trích xuất các cây con từ giai đoạn cao để đảm bảo sự liên tục trong quá trình xác minh.
Ứng dụng OPML đa giai đoạn trong mô hình LLaMA
Trong mô hình LLaMA, OPML áp dụng phương pháp hai giai đoạn:
Biểu diễn quá trình tính toán ML/DNN dưới dạng đồ thị tính toán G, mỗi nút lưu trữ kết quả tính toán trung gian.
Suy diễn mô hình là quá trình tính toán trên đồ thị tính toán, toàn bộ đồ thị đại diện cho trạng thái suy diễn.
Giai đoạn 2 tiến hành xác minh trò chơi trên đồ thị tính toán, có thể sử dụng CPU hoặc GPU đa luồng.
Giai đoạn 1 sẽ chuyển đổi tính toán của một nút đơn thành các lệnh VM, tương tự như giao thức một giai đoạn.
Khi việc tính toán của một nút đơn vẫn còn phức tạp, có thể giới thiệu thêm nhiều giai đoạn để nâng cao hiệu suất.
Phân tích cải thiện hiệu suất
Giả sử đồ thị tính toán có n nút, mỗi nút cần m lệnh vi xử lý VM, tốc độ gia tốc GPU/tính toán song song là α:
OPML hai giai đoạn nhanh hơn một giai đoạn α lần
Kích thước cây Merkle của OPML hai giai đoạn là O(m+n), nhỏ hơn đáng kể so với giai đoạn đơn O(mn).
Thiết kế đa giai đoạn không chỉ nâng cao hiệu suất tính toán mà còn tăng cường khả năng mở rộng của hệ thống.
Đảm bảo tính nhất quán và xác định
Để đảm bảo tính nhất quán kết quả ML trên các nền tảng khác nhau, OPML đã thực hiện hai biện pháp chính:
Sử dụng thuật toán định điểm ( công nghệ định lượng ), để biểu diễn và thực hiện tính toán với độ chính xác cố định
Sử dụng thư viện số thực dựa trên phần mềm, đảm bảo tính nhất quán chức năng trên nhiều nền tảng.
Những công nghệ này đã vượt qua hiệu quả những thách thức do biến số dấu phẩy động và sự khác biệt giữa các nền tảng mang lại, tăng cường tính toàn vẹn và độ tin cậy của phép toán OPML.
OPML vs ZKML
OPML có những ưu điểm sau so với ZKML:
Chi phí tính toán và lưu trữ thấp hơn
Hiệu suất thực thi cao hơn
Hỗ trợ mô hình quy mô lớn hơn
Dễ dàng hơn để thực hiện và triển khai
Hiện tại OPML chủ yếu tập trung vào suy diễn mô hình, nhưng khung cũng hỗ trợ đào tạo mô hình, có thể được sử dụng cho nhiều nhiệm vụ học máy khác nhau. Dự án OPML vẫn đang trong quá trình phát triển tích cực, hoan nghênh các nhà phát triển quan tâm tham gia đóng góp.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
14 thích
Phần thưởng
14
7
Chia sẻ
Bình luận
0/400
HashBandit
· 11giờ trước
vẫn rẻ hơn dàn máy đào của tôi vào năm 2018 lmao... nhưng không đùa đâu, điều này thực sự có thể giải quyết nút thắt l2 của chúng ta fr
Xem bản gốcTrả lời0
ImpermanentSage
· 19giờ trước
Còn muốn lấn át thị trường GPU nữa không?
Xem bản gốcTrả lời0
ProofOfNothing
· 08-03 12:28
Cơ chế trò chơi này chẳng phải là sao chép truebit hay sao?
Xem bản gốcTrả lời0
MentalWealthHarvester
· 08-03 12:15
Web3 đồ ngốc của Schrödinger
Xem bản gốcTrả lời0
StakeWhisperer
· 08-03 12:15
Lại là một khái niệm mới chơi đùa với mọi người mà không tốn chi phí!
Xem bản gốcTrả lời0
MysteryBoxBuster
· 08-03 12:01
Cuối cùng không phải zk mọi thứ nữa.
Xem bản gốcTrả lời0
PancakeFlippa
· 08-03 12:00
Không có GPU cũng có thể chạy mô hình lớn, hỏi còn ai nữa?
OPML: Giải pháp máy học hiệu quả mới trên Blockchain
OPML: Sử dụng phương pháp lạc quan để tối ưu hóa machine learning trên chuỗi khối
OPML(Học máy lạc quan) là một công nghệ mới, có thể thực hiện suy diễn và đào tạo/tinh chỉnh mô hình AI trên hệ thống Blockchain. So với ZKML, OPML có chi phí thấp và hiệu quả cao, có thể cung cấp dịch vụ ML thuận tiện hơn cho người dùng.
Một trong những đặc điểm lớn của OPML là ngưỡng tham gia thấp. Ngay cả những máy tính PC thông thường không có GPU cũng có thể chạy OPML, bao gồm cả các mô hình ngôn ngữ lớn ( như 7B-LLaMA) có kích thước 26GB.
Để đảm bảo sự phi tập trung và đồng thuận có thể xác minh của dịch vụ ML, OPML sử dụng cơ chế trò chơi xác minh, tương tự như hệ thống Truebit và Optimistic Rollup. Quy trình cơ bản như sau:
Trò chơi xác minh một giai đoạn
Cốt lõi của trò chơi xác minh một giai đoạn là giao thức định vị chính xác, hoạt động tương tự như ủy thác tính toán (RDoC). Khi nhiều bên tham gia thực hiện cùng một chương trình, họ có thể tìm ra các bước gây tranh cãi thông qua việc chất vấn lẫn nhau và nộp chúng cho hợp đồng thông minh trên blockchain để phân xử.
Trò chơi xác minh một giai đoạn của OPML có những đặc điểm sau:
Sau khi xác định các bước tranh chấp qua giao thức phân đoạn, nó được gửi đến hợp đồng trọng tài trên Blockchain. Các thử nghiệm cho thấy, trên máy tính cá nhân thông thường, suy diễn của mô hình AI cơ bản (MNIST phân loại DNN) có thể hoàn thành trong vòng 2 giây, toàn bộ quá trình thách thức mất khoảng 2 phút.
Trò chơi xác thực đa giai đoạn
Hạn chế của trò chơi xác thực một giai đoạn là tất cả các phép toán phải được thực hiện trong VM, không thể tận dụng tối đa sự tăng tốc của GPU/TPU hoặc xử lý song song. Để giải quyết vấn đề này, OPML đã đề xuất mở rộng giao thức đa giai đoạn.
Ý tưởng cốt lõi của giao thức đa giai đoạn là: chỉ tính toán trong VM ở giai đoạn cuối, các giai đoạn khác có thể linh hoạt thực hiện trong môi trường địa phương, tận dụng tối đa CPU, GPU, TPU thậm chí là khả năng xử lý song song. Điều này đã nâng cao đáng kể hiệu suất thực thi của OPML, khiến nó gần đạt được mức hiệu suất của môi trường địa phương.
Lấy ví dụ về trò chơi xác thực hai giai đoạn (k=2):
Người nộp đơn và người xác thực trước tiên khởi động trò chơi xác thực ở giai đoạn 2, xác định "lệnh lớn" gây tranh cãi. Sau đó, vào giai đoạn 1, xác định các lệnh vi mô VM gây tranh cãi, và cuối cùng gửi đến phân xử Blockchain.
Để đảm bảo tính toàn vẹn và an toàn của quá trình chuyển tiếp giữa các giai đoạn, OPML phụ thuộc vào cây Merkle, trích xuất các cây con từ giai đoạn cao để đảm bảo sự liên tục trong quá trình xác minh.
Ứng dụng OPML đa giai đoạn trong mô hình LLaMA
Trong mô hình LLaMA, OPML áp dụng phương pháp hai giai đoạn:
Khi việc tính toán của một nút đơn vẫn còn phức tạp, có thể giới thiệu thêm nhiều giai đoạn để nâng cao hiệu suất.
Phân tích cải thiện hiệu suất
Giả sử đồ thị tính toán có n nút, mỗi nút cần m lệnh vi xử lý VM, tốc độ gia tốc GPU/tính toán song song là α:
Thiết kế đa giai đoạn không chỉ nâng cao hiệu suất tính toán mà còn tăng cường khả năng mở rộng của hệ thống.
Đảm bảo tính nhất quán và xác định
Để đảm bảo tính nhất quán kết quả ML trên các nền tảng khác nhau, OPML đã thực hiện hai biện pháp chính:
Những công nghệ này đã vượt qua hiệu quả những thách thức do biến số dấu phẩy động và sự khác biệt giữa các nền tảng mang lại, tăng cường tính toàn vẹn và độ tin cậy của phép toán OPML.
OPML vs ZKML
OPML có những ưu điểm sau so với ZKML:
Hiện tại OPML chủ yếu tập trung vào suy diễn mô hình, nhưng khung cũng hỗ trợ đào tạo mô hình, có thể được sử dụng cho nhiều nhiệm vụ học máy khác nhau. Dự án OPML vẫn đang trong quá trình phát triển tích cực, hoan nghênh các nhà phát triển quan tâm tham gia đóng góp.