Bạn tốt, Huawei HarmonyOS Access Model Large, trợ lý thông minh có thể chơi như thế này không?
Chỉ với một lệnh tiếng Trung, Huawei Xiaoyi sẽ viết một email tiếng Anh:
Bạn có thể sử dụng AI để tạo ảnh của riêng mình theo các phong cách khác nhau:
Bạn cũng có thể nói một danh sách dài các hướng dẫn, để nó tự tạo các cảnh phức tạp và bạn có thể hiểu nó bằng ngôn ngữ đơn giản:
Đây là Xiaoyi mới trong HUAWEI HarmonyOS 4.
Nó dựa trên mô hình lớn của cơ sở Pangu L0 của Huawei, kết hợp một lượng lớn dữ liệu cảnh, tinh chỉnh mô hình và cuối cùng là tinh chỉnh mô hình đối thoại lớp L1.
Nó có thể xử lý các tác vụ như tạo văn bản, tìm kiếm kiến thức, tóm tắt dữ liệu, sắp xếp thông minh và hiểu mục đích mờ/phức tạp.
Ngoài ra, các dịch vụ APP khác nhau cũng có thể được gọi để hiện thực hóa trải nghiệm thông minh ở cấp độ hệ thống.
Vậy, Huawei Xiaoyi mới có thể làm gì?
Thông minh hơn, có năng lực hơn, chu đáo hơn
Dựa trên khả năng của các mẫu lớn, lần này Huawei Xiaoyi chủ yếu nâng cấp ở ba khía cạnh:
Tương tác thông minh
Năng suất cao
Dịch vụ cá nhân
Các cải tiến về khả năng cụ thể bao gồm nhiều cuộc đối thoại bằng ngôn ngữ tự nhiên hơn, các câu đố kiến thức trên máy chơi game, tìm kiếm các dịch vụ cuộc sống, nội dung màn hình nhận dạng cuộc đối thoại, tạo các bức tranh viết bản tóm tắt, v.v.
** Trước hết, việc nâng cấp tương tác thông minh giúp cuộc đối thoại và tương tác trở nên tự nhiên và mượt mà hơn. **
Huawei Xiaoyi có thể hiểu tiếng bản ngữ, hiểu ý định mờ và lệnh phức tạp.
Nếu bạn không thể tìm thấy chức năng cài đặt hình nền mới nhất và không biết tên của chức năng, bạn có thể hỏi trực tiếp:
Làm cách nào để thay đổi hình nền có thể thay đổi thời gian thực theo thời tiết?
Hoặc một lệnh phức tạp với nhiều yêu cầu:
Tìm một nhà hàng hải sản được đánh giá cao gần Hồ Tùng Sơn, tốt nhất là với một bữa ăn giảm giá cho bốn người.
Xiaoyi cũng có thể gọi dịch vụ để tìm nhà hàng đáp ứng yêu cầu.
Đồng thời, Xiaoyi cũng có khả năng đa phương thức, có thể hiểu nội dung hình ảnh. Bằng cách này, các bước mà người dùng phải đọc và sau đó thao tác thủ công cũng có thể được chuyển giao cho Xiaoyi.
Ví dụ, hãy để nó nhìn vào một lá thư mời và nói:
Điều hướng đến địa chỉ trên bản đồ.
Nó có thể trích xuất thông tin địa chỉ trên bản đồ và gọi dịch vụ bản đồ để điều hướng.
Hoặc lưu thông tin liên hệ trong lời mời, và bạn có thể thấy rằng nó có thể hiểu rất tốt thông tin văn bản trong hình ảnh.
Tiến thêm một bước nữa, giờ đây chúng tôi có thể thực hiện sắp xếp tác vụ phức tạp thông qua Xiaoyi, vì vậy chúng tôi không cần phải đặt lại nhiều lần theo cách thủ công.
Ví dụ: bạn có thể để nó thiết lập cảnh chạy buổi sáng:
Giúp tôi tạo cảnh chạy buổi sáng. Mỗi thứ Hai đến thứ Sáu lúc 6:30 sáng, tôi sẽ phát sóng thời tiết trong ngày cho tôi. Khi tôi đeo tai nghe bluetooth, tôi phát những bài hát yêu thích và đặt điện thoại ở chế độ im lặng.
Xiaoyi có thể hiểu danh sách dài các yêu cầu này và sau đó gọi các chức năng khác nhau. Và dựa trên trạng thái của điện thoại di động (tai nghe Bluetooth có được kết nối hay không), nó có thể đánh giá liệu có thực hiện một số thao tác nhất định hay không.
Thứ hai, nhờ các khả năng như mô hình lớn, Xiaoyi giờ đây có thể cung cấp các công cụ năng suất hiệu quả hơn.
Giúp bạn nhìn, đọc và viết.
Ví dụ, cho nó xem một bài báo tiếng Anh, rồi hỏi xem bài báo này nói gì?
Xiaoyi có thể đưa ra những lời giải thích đơn giản và ngắn gọn bằng tiếng Trung.
Nếu người dùng đã yêu cầu nó ghi nhớ một số thông tin trong quá khứ, nó cũng có thể được gọi để tạo nội dung tương ứng.
Vài ngày nữa tôi sẽ hẹn gặp David để thảo luận về dự án, tổng hợp thông tin từ cuộc gặp lần trước, tôi sẽ viết một email hẹn gặp bằng tiếng Anh.
Bao gồm cả những gì đã được đề cập ở phần đầu, Xiaoyi cũng có thể sử dụng khả năng hình ảnh của AI để tạo ra những bức ảnh theo nhiều phong cách khác nhau.
**Cuối cùng, với tư cách là một trợ lý thông minh, Xiaoyi hiện hỗ trợ nhiều dịch vụ được cá nhân hóa hơn và có thể hiểu bạn hơn. **
Nó có thể được sử dụng như một cuốn sổ tay và một bản ghi nhớ, và một số điều nhỏ nhặt có thể được ghi lại bằng miệng.
Huawei tuyên bố rằng ** tất cả nội dung bộ nhớ được hoàn thành theo sự cho phép của người dùng và sẽ bảo vệ hoàn toàn quyền riêng tư của người dùng. **
Ngoài ra, Đề xuất Xiaoyi hiện có thể cảm nhận được nhiều cảnh tần suất cao hơn của người dùng và có thể chủ động cung cấp các đề xuất kết hợp thông minh một cửa, tiết kiệm rất nhiều quy trình tìm kiếm thủ công.
Ví dụ, trong kịch bản du lịch nước ngoài, Xiaoyi có thể nhắc nhở tỷ giá hối đoái mới nhất trong thời gian thực trước khi khởi hành, đổi ngoại tệ và giúp người dùng có được các chiến lược du lịch tại điểm đến trong thời gian thực; Công cụ dịch thời gian thực và hơn thế nữa.
Theo báo cáo, ** Cảnh thông minh Xiaoyi mới đã tăng gấp 3 lần và số lượng POI đã tăng gấp 7 lần **, có thể bao gồm các cửa hàng ăn uống và mua sắm cốt lõi, khu thương mại, nhà ga đường sắt cao tốc sân bay và các khu vực khác kịch bản.
Tóm lại, Xiaoyi mới không chỉ có được các khả năng AIGC mới nhất mà còn cải thiện một số thiếu sót của trợ lý giọng nói trên điện thoại di động thường bị chỉ trích trong quá khứ.
Chẳng hạn như thiếu trí nhớ, đối thoại buồn tẻ, không hiểu tiếng bản ngữ, v.v ...
Tất cả những điều này tất nhiên là được hưởng lợi từ sự phù hộ của người mẫu lớn, nhưng Xiaoyi đã làm điều đó như thế nào?
Xiaoyi ôm người mẫu lớn
Mô hình cơ bản mà Xiaoyi dựa vào là Huawei Pangu Series.
Vào tháng 7 năm nay, Huawei đã chính thức phát hành Pangu Large Model 3.0 và đề xuất kiến trúc mô hình ba lớp.
L0: Các mô hình lớn cơ bản, bao gồm ngôn ngữ tự nhiên, tầm nhìn, đa phương thức, dự đoán và tính toán khoa học;
L1: Các mô hình lớn của N ngành công nghiệp, chẳng hạn như các vấn đề của chính phủ, tài chính, sản xuất, khai thác mỏ, khí tượng, v.v.;
L2: Một mô hình cảnh chi tiết hơn, cung cấp các dịch vụ mô hình "vượt trội"
Trong số đó, phiên bản lớn nhất của mô hình lớn cơ bản lớp L0 chứa 100 tỷ tham số và quá trình đào tạo trước sử dụng hơn 3 nghìn tỷ mã thông báo.
Dựa trên mô hình lớn của cơ sở Pangu L0 của Huawei, Xiaoyi đã xây dựng một lượng lớn dữ liệu cảnh cho các tình huống của người tiêu dùng cuối, tinh chỉnh mô hình và cuối cùng là tinh chỉnh mô hình đối thoại lớp L1.
Để tinh chỉnh, Xiaoyi đã thêm các loại dữ liệu chính bao gồm người tiêu dùng cuối, chẳng hạn như các cuộc hội thoại, hướng dẫn du lịch, kiểm soát thiết bị, thực phẩm, quần áo, nhà ở và giao thông, v.v.
Điều này có thể bao quát tốt phạm vi kiến thức về các cuộc trò chuyện hàng ngày của người dùng thông thường và có thể nâng cao tính thực tế, hiệu suất thời gian thực, tuân thủ bảo mật, v.v. trong quá trình đối thoại của mô hình.
Tuy nhiên, như chúng ta đã biết, các mô hình lớn rất khó khăn trong việc triển khai và phản hồi nhanh do đặc điểm quy mô lớn của chúng.
Về mặt triển khai, Huawei đang liên tục nâng cao khả năng của mô hình quy mô lớn cộng tác giữa thiết bị và đám mây. về phía đám mây.
Ưu điểm của việc này là nó không chỉ có thể tận dụng khả năng phản hồi nhanh của mô hình đầu cuối mà còn cải thiện chất lượng của Q&A và phản hồi thông qua mô hình đám mây, đồng thời bảo vệ hơn nữa quyền riêng tư của người dùng dữ liệu.
Về việc giảm độ trễ suy luận, Huawei Xiaoyi đã thực hiện tối ưu hóa kỹ thuật hệ thống, bao gồm toàn bộ liên kết từ chip bên dưới, khung suy luận, toán tử mô hình cũng như độ dài đầu vào và đầu ra.
Bằng cách loại bỏ độ trễ thời gian của từng mô-đun, nhóm R&D đã làm rõ các mục tiêu tối ưu hóa của từng bộ phận và giảm độ trễ thời gian bằng cách kết hợp người vận hành, tối ưu hóa bộ nhớ và tối ưu hóa đường ống.
Đồng thời, độ dài và độ dài đầu ra cũng sẽ ảnh hưởng đến tốc độ suy luận của các mô hình lớn.
Về vấn đề này, Huawei đã thực hiện phân tích và nén từng từ cho các kịch bản và định dạng đầu ra khác nhau, và cuối cùng đã nhận ra độ trễ suy luận giảm một nửa.
Từ góc độ kiến trúc kỹ thuật tổng thể, việc tích hợp Huawei Xiaoyi và mô hình lớn không chỉ đơn giản là để tăng cường các tác vụ như trò chuyện, AIGC và trả lời, mà còn để thực hiện các cải tiến ở cấp hệ thống với mô hình lớn làm cốt lõi.
**Nói cách khác, hãy để mô hình lớn trở thành "bộ não" của hệ thống. **
Logic cơ bản của nó là: giao nhiệm vụ của người dùng cho các hệ thống phù hợp, mỗi hệ thống thực hiện các nhiệm vụ riêng của mình, đồng thời nâng cao trải nghiệm trong các tình huống phức tạp.
Nhìn cụ thể vào quá trình đối thoại điển hình của Xiaoyi, có thể chia thành ba bước:
Bước đầu tiên là tiếp nhận câu hỏi của người dùng và phân tích cách giải quyết chúng dựa trên hiểu biết ngữ cảnh/khả năng ghi nhớ của Xiaoyi.
Bước thứ hai, gọi các khả năng khác nhau tùy theo loại yêu cầu, bao gồm truy xuất siêu dịch vụ, tạo ý tưởng và truy xuất kiến thức.
Nếu yêu cầu do người dùng bắt đầu liên quan đến siêu dịch vụ, ví dụ: nếu anh ta hỏi về các nhà hàng gần đó có thể đáp ứng, điều này liên quan đến lệnh gọi của dịch vụ APP dành cho người sành ăn. Hệ thống cần tạo API và cuối cùng là bên dịch vụ sẽ đưa ra phản hồi dựa trên cơ chế đề xuất.
Nếu người dùng đặt câu hỏi về kiến thức, chẳng hạn như hỏi mô hình Pangu có bao nhiêu tham số. Tại thời điểm này, hệ thống sẽ gọi công cụ tìm kiếm, kiến thức miền tương ứng và kiến thức vectơ để truy vấn, sau đó tạo ra câu trả lời thông qua phản ứng tổng hợp.
Nếu yêu cầu của người dùng là một nhiệm vụ chung, thì mô hình lớn có thể đưa ra câu trả lời bằng khả năng của chính nó.
Ở bước cuối cùng, tất cả các câu trả lời được tạo sẽ được đánh giá bằng kiểm soát rủi ro và trả lại cho người dùng.
Ngoài ra, Xiaoyi đã tiếp tục kiểm soát các chi tiết và thực hiện một loạt phát triển cấp thấp để đảm bảo hiệu quả của câu hỏi và câu trả lời và thực hiện nhiệm vụ.
Bạn có thể nhìn vào khía cạnh dữ liệu.
Kể từ khi Xiaoyi trực tuyến trên HarmonyOS vào năm 2017, anh ấy đã tích lũy được một số thói quen đối thoại nhất định đối với người dùng thông thường. Ngoài ra, Huawei đã xây dựng một kho ngữ liệu lớn gồm nhiều loại biểu thức khác nhau để bao gồm càng nhiều biểu thức viết và nói càng tốt, để mô hình lớn có thể thành thạo nhiều cách diễn đạt khác nhau trong giai đoạn tiền đào tạo.
Để đánh giá tốt hơn và cải thiện khả năng của Xiaoyi, Huawei đã xây dựng một bộ dữ liệu thử nghiệm hoàn chỉnh.
Điều này không chỉ có thể đánh giá khả năng của các mô hình lớn mở hiện có mà còn hướng dẫn Xiaoyi xây dựng dữ liệu và khả năng dựa trên kết quả đánh giá.
Tôi muốn Xiaoyi thành thạo cuộc gọi công cụ, điều này rất khó khăn.
Điều khiển thiết bị yêu cầu một mô hình lớn để tạo văn bản định dạng phức tạp với hàng trăm mã thông báo và không được có lỗi định dạng, nếu không hệ thống điều khiển trung tâm sẽ không thể phân tích cú pháp và kết nối.
Để cho phép mô hình lớn đáp ứng tiêu chuẩn thế hệ như vậy, Huawei đã từng hiểu "tính khí" của mô hình lớn, đồng thời tăng cường khả năng viết mã của mô hình lớn, sau đó nâng cao định dạng khả năng tuân thủ của mô hình và cuối cùng nhận ra rằng định dạng ** gần như tuân thủ 100% **.
Đối với các kịch bản phức tạp, phương pháp của Xiaoyi là sử dụng khả năng của các mô hình lớn để học và hiểu đầy đủ các kịch bản công cụ, sau đó suy luận.
Điều này được hiểu rằng nhóm đã tối ưu hóa hiệu ứng điều khiển của thiết bị mô hình từ hoàn toàn không sử dụng được thành khả dụng hơn 80%.
Ngoài ra, bản địa HarmonyOS cũng cho phép tối ưu hóa API hiện có và thông qua sự điều chỉnh ngược này, lợi thế của các mô hình lớn cũng có thể được tận dụng tốt hơn.
Đối mặt với toàn cảnh, không giới hạn ở thiết bị đầu cuối di động
Vậy tại sao Huawei có thể triển khai các khả năng mô hình quy mô lớn cho các trợ lý thông minh một cách nhanh chóng như vậy?
Việc tích lũy và nghiên cứu các nghiên cứu và phát triển cơ bản cơ bản là rất cần thiết, nhưng còn một điều đáng chú ý nữa——
Huawei đã chọn bắt đầu từ bối cảnh thực tế để xác định cách kết hợp mô hình lớn với trợ lý thông minh và thậm chí là toàn bộ hệ điều hành.
Theo cách nói riêng của Huawei:
Nói là rẻ. Cho tôi xem Demo.
Nhiều trải nghiệm nêu trên cũng đến từ nhận thức hàng ngày của các thành viên nhóm R&D của Huawei.
Ví dụ, một số người đã quen với việc nhận tin tức trên đường đi làm và về nhà, đọc và nghe thông tin quá dài sẽ bất tiện, vì vậy chức năng tóm tắt thông tin xuất hiện trong Huawei Xiaoyi.
Một số người thấy rằng họ luôn thiếu từ khi viết đánh giá mua sắm và lời chúc sinh nhật, vì vậy Huawei Xiaoyi cung cấp chức năng viết quảng cáo.
Và sự tập trung vào trải nghiệm cảnh này là lợi thế tự nhiên của HarmonyOS.
Kể từ khi ra đời, HarmonyOS không chỉ giới hạn trên điện thoại di động mà đã được định hướng cho nhiều thiết bị đầu cuối và mọi tình huống.
Bây giờ nó đã tạo ra một hệ sinh thái toàn kịch bản "1+8+N".
Huawei Xiaoyi cũng đã được triển khai trên các thiết bị 1+8. Trong tương lai, nó sẽ kết hợp hình thức kinh doanh của các thiết bị theo kịch bản đầy đủ và dần dần triển khai Xiaoyi với khả năng mô hình quy mô lớn để mang lại trải nghiệm theo kịch bản đầy đủ cho người tiêu dùng.
Là một trợ lý thông minh do AI điều khiển, Xiaoyi đã tích hợp nhiều khả năng AI khác nhau kể từ khi ra đời, chẳng hạn như phụ đề AI và khả năng đọc to của Xiaoyi. Đội ngũ R&D đằng sau nó luôn chú ý đến nhiều khả năng hơn của AI và trợ lý thông minh.
Theo báo cáo, năm ngoái, nhóm đã nhận thấy rằng hàng chục tỷ mô hình đào tạo trước kết hợp với công nghệ nhanh chóng đã có thể mang lại khả năng hiểu và tạo văn bản rất tốt, đồng thời có thể được sử dụng trong cuộc nói chuyện nhỏ, câu hỏi và câu trả lời và nhiệm vụ- đối thoại dựa trên.
Với sự bùng nổ của xu hướng AI mới nhất, RLHF đã mang lại những cải tiến đáng kể cho các mô hình lớn và cánh cửa hạ cánh công nghiệp đã chính thức mở ra.
Kể từ khi xu hướng AI tổng quát xuất hiện trong năm nay, nhiều ứng dụng đã chọn truy cập các khả năng của mô hình lớn và trợ lý thông minh tích hợp.
Tuy nhiên, với tư cách là một trong những nhà sản xuất hệ điều hành lớn nhất thế giới, Huawei đã chọn cách cắt giảm từ cấp độ thấp hơn và sử dụng một mô hình lớn để định hình lại hệ điều hành.
Cấp độ thấp hơn có nghĩa là kỹ lưỡng và toàn diện hơn.
Nhưng đối với nghiên cứu và phát triển, thách thức còn lớn hơn.
Điều này không chỉ yêu cầu cơ sở mô hình đủ vững chắc mà còn yêu cầu tối ưu hóa kết hợp ở cấp hệ thống, đồng thời đưa ra các yêu cầu về hiểu biết cảnh và nhận thức nhu cầu của người dùng.
Tương ứng, Huawei là một trong những nhà sản xuất trong nước sớm nhất có khả năng tạo mô hình quy mô lớn; xây dựng khả năng phát triển AI toàn diện; HarmonyOS bao phủ hơn 700 triệu thiết bị...
Do đó, không khó hiểu tại sao Huawei Xiaoyi nhanh chóng tiếp cận khả năng của các mô hình lớn, biến HarmonyOS 4 trở thành hệ điều hành đầu tiên tiếp cận đầy đủ các mô hình lớn.
Là một trong những hệ điều hành được quan tâm nhất trên thế giới, HarmonyOS là hệ điều hành đầu tiên áp dụng các mô hình quy mô lớn và cũng có thể mở ra một mô hình mới, cho phép mọi người mở điện thoại của họ để trải nghiệm khả năng của các mô hình quy mô lớn, điều mà không còn giới hạn trong trí tưởng tượng.
Hiện tại, Huawei đã công bố kế hoạch thử nghiệm Xiaoyi:
Xiaoyi hoàn toàn mới sẽ được mời thử nghiệm vào cuối tháng 8 năm nay và sẽ được nâng cấp thông qua OTA trên một số kiểu máy được trang bị HarmonyOS 4.0 trở lên sau đó, kế hoạch nâng cấp cụ thể sẽ được thông báo sau.
Nếu bạn quan tâm đến giày trẻ em, bạn có thể đến xem ~
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
Huawei là người đầu tiên tích hợp các mô hình lớn vào điện thoại di động! Xiaoyi + người mẫu lớn, trợ lý thông minh IQ +++
Nguồn: Xinzhiyuan
Bạn tốt, Huawei HarmonyOS Access Model Large, trợ lý thông minh có thể chơi như thế này không?
Chỉ với một lệnh tiếng Trung, Huawei Xiaoyi sẽ viết một email tiếng Anh:
Nó dựa trên mô hình lớn của cơ sở Pangu L0 của Huawei, kết hợp một lượng lớn dữ liệu cảnh, tinh chỉnh mô hình và cuối cùng là tinh chỉnh mô hình đối thoại lớp L1.
Nó có thể xử lý các tác vụ như tạo văn bản, tìm kiếm kiến thức, tóm tắt dữ liệu, sắp xếp thông minh và hiểu mục đích mờ/phức tạp.
Ngoài ra, các dịch vụ APP khác nhau cũng có thể được gọi để hiện thực hóa trải nghiệm thông minh ở cấp độ hệ thống.
Vậy, Huawei Xiaoyi mới có thể làm gì?
Thông minh hơn, có năng lực hơn, chu đáo hơn
Dựa trên khả năng của các mẫu lớn, lần này Huawei Xiaoyi chủ yếu nâng cấp ở ba khía cạnh:
Các cải tiến về khả năng cụ thể bao gồm nhiều cuộc đối thoại bằng ngôn ngữ tự nhiên hơn, các câu đố kiến thức trên máy chơi game, tìm kiếm các dịch vụ cuộc sống, nội dung màn hình nhận dạng cuộc đối thoại, tạo các bức tranh viết bản tóm tắt, v.v.
** Trước hết, việc nâng cấp tương tác thông minh giúp cuộc đối thoại và tương tác trở nên tự nhiên và mượt mà hơn. **
Huawei Xiaoyi có thể hiểu tiếng bản ngữ, hiểu ý định mờ và lệnh phức tạp.
Nếu bạn không thể tìm thấy chức năng cài đặt hình nền mới nhất và không biết tên của chức năng, bạn có thể hỏi trực tiếp:
Xiaoyi cũng có thể gọi dịch vụ để tìm nhà hàng đáp ứng yêu cầu.
Ví dụ, hãy để nó nhìn vào một lá thư mời và nói:
Nó có thể trích xuất thông tin địa chỉ trên bản đồ và gọi dịch vụ bản đồ để điều hướng.
Ví dụ: bạn có thể để nó thiết lập cảnh chạy buổi sáng:
Xiaoyi có thể hiểu danh sách dài các yêu cầu này và sau đó gọi các chức năng khác nhau. Và dựa trên trạng thái của điện thoại di động (tai nghe Bluetooth có được kết nối hay không), nó có thể đánh giá liệu có thực hiện một số thao tác nhất định hay không.
Giúp bạn nhìn, đọc và viết.
Ví dụ, cho nó xem một bài báo tiếng Anh, rồi hỏi xem bài báo này nói gì?
Xiaoyi có thể đưa ra những lời giải thích đơn giản và ngắn gọn bằng tiếng Trung.
**Cuối cùng, với tư cách là một trợ lý thông minh, Xiaoyi hiện hỗ trợ nhiều dịch vụ được cá nhân hóa hơn và có thể hiểu bạn hơn. **
Nó có thể được sử dụng như một cuốn sổ tay và một bản ghi nhớ, và một số điều nhỏ nhặt có thể được ghi lại bằng miệng.
Ngoài ra, Đề xuất Xiaoyi hiện có thể cảm nhận được nhiều cảnh tần suất cao hơn của người dùng và có thể chủ động cung cấp các đề xuất kết hợp thông minh một cửa, tiết kiệm rất nhiều quy trình tìm kiếm thủ công.
Ví dụ, trong kịch bản du lịch nước ngoài, Xiaoyi có thể nhắc nhở tỷ giá hối đoái mới nhất trong thời gian thực trước khi khởi hành, đổi ngoại tệ và giúp người dùng có được các chiến lược du lịch tại điểm đến trong thời gian thực; Công cụ dịch thời gian thực và hơn thế nữa.
Theo báo cáo, ** Cảnh thông minh Xiaoyi mới đã tăng gấp 3 lần và số lượng POI đã tăng gấp 7 lần **, có thể bao gồm các cửa hàng ăn uống và mua sắm cốt lõi, khu thương mại, nhà ga đường sắt cao tốc sân bay và các khu vực khác kịch bản.
Chẳng hạn như thiếu trí nhớ, đối thoại buồn tẻ, không hiểu tiếng bản ngữ, v.v ...
Tất cả những điều này tất nhiên là được hưởng lợi từ sự phù hộ của người mẫu lớn, nhưng Xiaoyi đã làm điều đó như thế nào?
Xiaoyi ôm người mẫu lớn
Mô hình cơ bản mà Xiaoyi dựa vào là Huawei Pangu Series.
Vào tháng 7 năm nay, Huawei đã chính thức phát hành Pangu Large Model 3.0 và đề xuất kiến trúc mô hình ba lớp.
Trong số đó, phiên bản lớn nhất của mô hình lớn cơ bản lớp L0 chứa 100 tỷ tham số và quá trình đào tạo trước sử dụng hơn 3 nghìn tỷ mã thông báo.
Dựa trên mô hình lớn của cơ sở Pangu L0 của Huawei, Xiaoyi đã xây dựng một lượng lớn dữ liệu cảnh cho các tình huống của người tiêu dùng cuối, tinh chỉnh mô hình và cuối cùng là tinh chỉnh mô hình đối thoại lớp L1.
Điều này có thể bao quát tốt phạm vi kiến thức về các cuộc trò chuyện hàng ngày của người dùng thông thường và có thể nâng cao tính thực tế, hiệu suất thời gian thực, tuân thủ bảo mật, v.v. trong quá trình đối thoại của mô hình.
Tuy nhiên, như chúng ta đã biết, các mô hình lớn rất khó khăn trong việc triển khai và phản hồi nhanh do đặc điểm quy mô lớn của chúng.
Về mặt triển khai, Huawei đang liên tục nâng cao khả năng của mô hình quy mô lớn cộng tác giữa thiết bị và đám mây. về phía đám mây.
Ưu điểm của việc này là nó không chỉ có thể tận dụng khả năng phản hồi nhanh của mô hình đầu cuối mà còn cải thiện chất lượng của Q&A và phản hồi thông qua mô hình đám mây, đồng thời bảo vệ hơn nữa quyền riêng tư của người dùng dữ liệu.
Về việc giảm độ trễ suy luận, Huawei Xiaoyi đã thực hiện tối ưu hóa kỹ thuật hệ thống, bao gồm toàn bộ liên kết từ chip bên dưới, khung suy luận, toán tử mô hình cũng như độ dài đầu vào và đầu ra.
Bằng cách loại bỏ độ trễ thời gian của từng mô-đun, nhóm R&D đã làm rõ các mục tiêu tối ưu hóa của từng bộ phận và giảm độ trễ thời gian bằng cách kết hợp người vận hành, tối ưu hóa bộ nhớ và tối ưu hóa đường ống.
Đồng thời, độ dài và độ dài đầu ra cũng sẽ ảnh hưởng đến tốc độ suy luận của các mô hình lớn.
Về vấn đề này, Huawei đã thực hiện phân tích và nén từng từ cho các kịch bản và định dạng đầu ra khác nhau, và cuối cùng đã nhận ra độ trễ suy luận giảm một nửa.
**Nói cách khác, hãy để mô hình lớn trở thành "bộ não" của hệ thống. **
Logic cơ bản của nó là: giao nhiệm vụ của người dùng cho các hệ thống phù hợp, mỗi hệ thống thực hiện các nhiệm vụ riêng của mình, đồng thời nâng cao trải nghiệm trong các tình huống phức tạp.
Nhìn cụ thể vào quá trình đối thoại điển hình của Xiaoyi, có thể chia thành ba bước:
Bước đầu tiên là tiếp nhận câu hỏi của người dùng và phân tích cách giải quyết chúng dựa trên hiểu biết ngữ cảnh/khả năng ghi nhớ của Xiaoyi.
Bước thứ hai, gọi các khả năng khác nhau tùy theo loại yêu cầu, bao gồm truy xuất siêu dịch vụ, tạo ý tưởng và truy xuất kiến thức.
Nếu yêu cầu do người dùng bắt đầu liên quan đến siêu dịch vụ, ví dụ: nếu anh ta hỏi về các nhà hàng gần đó có thể đáp ứng, điều này liên quan đến lệnh gọi của dịch vụ APP dành cho người sành ăn. Hệ thống cần tạo API và cuối cùng là bên dịch vụ sẽ đưa ra phản hồi dựa trên cơ chế đề xuất.
Nếu người dùng đặt câu hỏi về kiến thức, chẳng hạn như hỏi mô hình Pangu có bao nhiêu tham số. Tại thời điểm này, hệ thống sẽ gọi công cụ tìm kiếm, kiến thức miền tương ứng và kiến thức vectơ để truy vấn, sau đó tạo ra câu trả lời thông qua phản ứng tổng hợp.
Nếu yêu cầu của người dùng là một nhiệm vụ chung, thì mô hình lớn có thể đưa ra câu trả lời bằng khả năng của chính nó.
Ở bước cuối cùng, tất cả các câu trả lời được tạo sẽ được đánh giá bằng kiểm soát rủi ro và trả lại cho người dùng.
Bạn có thể nhìn vào khía cạnh dữ liệu.
Kể từ khi Xiaoyi trực tuyến trên HarmonyOS vào năm 2017, anh ấy đã tích lũy được một số thói quen đối thoại nhất định đối với người dùng thông thường. Ngoài ra, Huawei đã xây dựng một kho ngữ liệu lớn gồm nhiều loại biểu thức khác nhau để bao gồm càng nhiều biểu thức viết và nói càng tốt, để mô hình lớn có thể thành thạo nhiều cách diễn đạt khác nhau trong giai đoạn tiền đào tạo.
Để đánh giá tốt hơn và cải thiện khả năng của Xiaoyi, Huawei đã xây dựng một bộ dữ liệu thử nghiệm hoàn chỉnh.
Điều này không chỉ có thể đánh giá khả năng của các mô hình lớn mở hiện có mà còn hướng dẫn Xiaoyi xây dựng dữ liệu và khả năng dựa trên kết quả đánh giá.
Tôi muốn Xiaoyi thành thạo cuộc gọi công cụ, điều này rất khó khăn.
Điều khiển thiết bị yêu cầu một mô hình lớn để tạo văn bản định dạng phức tạp với hàng trăm mã thông báo và không được có lỗi định dạng, nếu không hệ thống điều khiển trung tâm sẽ không thể phân tích cú pháp và kết nối.
Để cho phép mô hình lớn đáp ứng tiêu chuẩn thế hệ như vậy, Huawei đã từng hiểu "tính khí" của mô hình lớn, đồng thời tăng cường khả năng viết mã của mô hình lớn, sau đó nâng cao định dạng khả năng tuân thủ của mô hình và cuối cùng nhận ra rằng định dạng ** gần như tuân thủ 100% **.
Đối với các kịch bản phức tạp, phương pháp của Xiaoyi là sử dụng khả năng của các mô hình lớn để học và hiểu đầy đủ các kịch bản công cụ, sau đó suy luận.
Điều này được hiểu rằng nhóm đã tối ưu hóa hiệu ứng điều khiển của thiết bị mô hình từ hoàn toàn không sử dụng được thành khả dụng hơn 80%.
Ngoài ra, bản địa HarmonyOS cũng cho phép tối ưu hóa API hiện có và thông qua sự điều chỉnh ngược này, lợi thế của các mô hình lớn cũng có thể được tận dụng tốt hơn.
Đối mặt với toàn cảnh, không giới hạn ở thiết bị đầu cuối di động
Vậy tại sao Huawei có thể triển khai các khả năng mô hình quy mô lớn cho các trợ lý thông minh một cách nhanh chóng như vậy?
Việc tích lũy và nghiên cứu các nghiên cứu và phát triển cơ bản cơ bản là rất cần thiết, nhưng còn một điều đáng chú ý nữa——
Huawei đã chọn bắt đầu từ bối cảnh thực tế để xác định cách kết hợp mô hình lớn với trợ lý thông minh và thậm chí là toàn bộ hệ điều hành.
Theo cách nói riêng của Huawei:
Ví dụ, một số người đã quen với việc nhận tin tức trên đường đi làm và về nhà, đọc và nghe thông tin quá dài sẽ bất tiện, vì vậy chức năng tóm tắt thông tin xuất hiện trong Huawei Xiaoyi.
Một số người thấy rằng họ luôn thiếu từ khi viết đánh giá mua sắm và lời chúc sinh nhật, vì vậy Huawei Xiaoyi cung cấp chức năng viết quảng cáo.
Và sự tập trung vào trải nghiệm cảnh này là lợi thế tự nhiên của HarmonyOS.
Kể từ khi ra đời, HarmonyOS không chỉ giới hạn trên điện thoại di động mà đã được định hướng cho nhiều thiết bị đầu cuối và mọi tình huống.
Bây giờ nó đã tạo ra một hệ sinh thái toàn kịch bản "1+8+N".
Huawei Xiaoyi cũng đã được triển khai trên các thiết bị 1+8. Trong tương lai, nó sẽ kết hợp hình thức kinh doanh của các thiết bị theo kịch bản đầy đủ và dần dần triển khai Xiaoyi với khả năng mô hình quy mô lớn để mang lại trải nghiệm theo kịch bản đầy đủ cho người tiêu dùng.
Theo báo cáo, năm ngoái, nhóm đã nhận thấy rằng hàng chục tỷ mô hình đào tạo trước kết hợp với công nghệ nhanh chóng đã có thể mang lại khả năng hiểu và tạo văn bản rất tốt, đồng thời có thể được sử dụng trong cuộc nói chuyện nhỏ, câu hỏi và câu trả lời và nhiệm vụ- đối thoại dựa trên.
Với sự bùng nổ của xu hướng AI mới nhất, RLHF đã mang lại những cải tiến đáng kể cho các mô hình lớn và cánh cửa hạ cánh công nghiệp đã chính thức mở ra.
Kể từ khi xu hướng AI tổng quát xuất hiện trong năm nay, nhiều ứng dụng đã chọn truy cập các khả năng của mô hình lớn và trợ lý thông minh tích hợp.
Tuy nhiên, với tư cách là một trong những nhà sản xuất hệ điều hành lớn nhất thế giới, Huawei đã chọn cách cắt giảm từ cấp độ thấp hơn và sử dụng một mô hình lớn để định hình lại hệ điều hành.
Cấp độ thấp hơn có nghĩa là kỹ lưỡng và toàn diện hơn.
Nhưng đối với nghiên cứu và phát triển, thách thức còn lớn hơn.
Điều này không chỉ yêu cầu cơ sở mô hình đủ vững chắc mà còn yêu cầu tối ưu hóa kết hợp ở cấp hệ thống, đồng thời đưa ra các yêu cầu về hiểu biết cảnh và nhận thức nhu cầu của người dùng.
Tương ứng, Huawei là một trong những nhà sản xuất trong nước sớm nhất có khả năng tạo mô hình quy mô lớn; xây dựng khả năng phát triển AI toàn diện; HarmonyOS bao phủ hơn 700 triệu thiết bị...
Do đó, không khó hiểu tại sao Huawei Xiaoyi nhanh chóng tiếp cận khả năng của các mô hình lớn, biến HarmonyOS 4 trở thành hệ điều hành đầu tiên tiếp cận đầy đủ các mô hình lớn.
Là một trong những hệ điều hành được quan tâm nhất trên thế giới, HarmonyOS là hệ điều hành đầu tiên áp dụng các mô hình quy mô lớn và cũng có thể mở ra một mô hình mới, cho phép mọi người mở điện thoại của họ để trải nghiệm khả năng của các mô hình quy mô lớn, điều mà không còn giới hạn trong trí tưởng tượng.
Xiaoyi hoàn toàn mới sẽ được mời thử nghiệm vào cuối tháng 8 năm nay và sẽ được nâng cấp thông qua OTA trên một số kiểu máy được trang bị HarmonyOS 4.0 trở lên sau đó, kế hoạch nâng cấp cụ thể sẽ được thông báo sau.
Nếu bạn quan tâm đến giày trẻ em, bạn có thể đến xem ~