Meta об’єдналася з Microsoft, щоб кинути виклик шаблону великомасштабної моделі.Остання версія Llama 2 є безкоштовною та відкритою, і її можна використовувати безпосередньо для комерційного використання.
За одну ніч структура великих моделей штучного інтелекту (AI) знову зазнала величезних змін.
**Titanium Media App дізнався, що рано вранці 19 липня за пекінським часом технологічний гігант Meta (раніше Facebook, NASDAQ: META), технологічний гігант з ринковою вартістю майже 800 мільярдів доларів США, випустив останній великий ШІ мовна модель серії Llama 2, включаючи 7 мільярдів і 13 мільярдів і 70 мільярдів версій з трьома параметрами, інформація про модель і вихідний код є відкритими і підтримують безкоштовне комерційне використання, а також включають версію моделі Llama 2-CHAT, налаштовану для сценарії розмовного чату.
Порівняно з Llama 1, випущеною в лютому цього року, токен, використаний для останнього навчання Llama 2, подвоївся до 2 трильйонів. За даними Meta, Llama 2 перевершила всі моделі чату з відкритим вихідним кодом у багатьох зовнішніх еталонних тестах, включаючи міркування, кодування, кваліфікацію та тести знань.
У той же час Meta також оголосила сьогодні вранці, що співпрацюватиме з Microsoft і Qualcomm.Llama 2 буде розгорнуто в хмарному сервісі Microsoft Azure, і Llama 2 зможе працювати на чіпах Qualcomm, порушуючи ринок обчислювальної потужності AI. між процесорами Nvidia та AMD на ринку.монополія.
«Microsoft є нашим обраним партнером для Llama 2 і розширення наших зусиль у галузі генеративного штучного інтелекту (AIGC).» Мета вважає, що відкритий підхід є правильним для розробки моделей штучного інтелекту сьогодні, особливо тих, що використовуються в технологіях, що швидко розвиваються. Компанія також стверджує в документі, що Llama 2 може бути підходящою заміною для закритої моделі, виходячи з людської оцінки Meta щодо корисності та безпеки.
Генеральний директор Microsoft Сатья Наделла та генеральний директор Meta Цукерберг (Джерело: Zuckerberg ins)
Янн ЛеКун, лауреат премії Тюрінга 2018 року та головний науковець Meta зі штучного інтелекту, прямо написав у Twitter: «Це змінить ландшафт ринку великої мовної моделі (LLM).»
Мета виклики OpenAI: продуктивність чату стала сильнішою та безпечнішою, а в цілому вона близька до GPT-3.5
Понад десять років Meta не тільки грала в «Метавсесвіт», але й завжди мала макет для дослідження технологій штучного інтелекту, особливо її Instagram, Facebook та інші соціальні продукти терміново потребують алгоритмів для підтримки реклами.
У лютому цього року Meta випустила велику модель AI Llama 1. За словами компанії, дослідники шоковані величезним попитом на Llama 1, з більш ніж 100 000 запитами на доступ, і більше розробників досягли дивовижних досягнень, створюючи прикладні програми на Llama. Однак Llama не була безкоштовною для комерційного використання через угоду про відкрите програмне забезпечення.
Через п’ять місяців, 18 липня за місцевим часом, Meta випустила широкомасштабну модель Llama 2 з відкритим вихідним кодом, яка не тільки безкоштовна для комерційного використання, але й опублікувала технічний звіт у паперовому вигляді, повністю демонструючи технічні можливості та інформацію про оцінку. лами 2.
(Примітка: адреса паперу: ; адреса проекту:
Повідомляється, що Llama 2 є оновленою версією Llama 1. Порівняно з Llama 1, модель попереднього навчання Llama 2 навчається на 2 трильйонах токенів (текстових одиниць даних), що на 40% більше, ніж розмір даних Llama 1 (збільшення в 1,4 рази), довжина контексту також подвоюється та використовує Grouped Механізм запиту уваги (GQA), тоді як налаштована модель чату тренується на 1 мільйоні даних, позначених людиною.
Технічно новий Llama 2 використовує оптимізовану структуру авторегресії Transformer і, звичайно, підтримує PyTorch, виконує більш надійне очищення даних і оновлює змішані дані.
В даний час моделі серії Llama 2 - це 7B, 13B і 70B три. І Meta AI сказав, що вони все ще тренують версію 34B, але поки що вона не буде випущена. Тонко налаштована версія Meta великої моделі LLAMA 2-чат базується на точній версії LLAMA 2 для діалогових сцен.Вона також підтримує три версії параметрів 7B, 13B і 70B, використовуючи RLHF і контрольований тонке налаштування (SFT) та інші методи для ітеративної оптимізації моделі.
Відповідно до інформації про численні оцінки, представленої Meta, на даний момент продуктивність Llama 2 70B ближча до GPT-3.5, рівна або краща, ніж Google PaLM (540B), але Meta також визнає, що Llama 2 далека від GPT-4. і Google PaLM. Все ще існує великий розрив у продуктивності провідних моделей без відкритого коду, таких як 2-L.
«Але для багатьох сценаріїв вам не потрібен GPT-4», — сказав Персі Ліанг, директор Стенфордського центру фундаментальних досліджень моделювання в дослідницькій групі Alpaca.
Крім того, у статті також згадуються заходи безпеки Llama 2. Серед них Meta використовує такі методи, як контрольоване налаштування безпеки, захищений RLHF і дистиляція контексту безпеки для точного налаштування безпеки, а також використовує три стандартні тести для оцінки безпеки Llama 2. Загальна продуктивність хороша, і це стабільніший і безпечніший, ніж інші великі мовні моделі.
Microsoft «ступає на дві човни»: не тільки одружується на Meta, але й підвищує ціну GPT-версії офісу
Microsoft, яка очолює цю хвилю штучного інтелекту, нарешті представила свою нову стратегію на сьогоднішній Глобальній партнерській конференції (Inspire 2023).
18 липня за місцевим часом Meta та Microsoft спільно оголосили, що з сьогоднішнього дня Meta's Llama 2 буде доступна на платформах Microsoft Azure і Windows.
Генеральний директор Microsoft Сатья Наделла сказав, що Llama 2 дозволить розробникам Microsoft Azure створювати його та використовувати свої хмарні інструменти для фільтрації вмісту та функцій безпеки. Він також оптимізований для запуску в Windows, забезпечуючи безперебійний робочий процес для розробників.
Мета повідомила, що Llama 2 буде запущено в хмарі Microsoft Azure і в майбутньому буде поширюватися на інших платформах, таких як Amazon AWS і Hugging Face, а хмарний сервіс на основі моделі Llama 2 буде випущений для розробників по всьому світу.
Генеральний директор Microsoft Сатья Наделла
**Тож наразі на платформі розробки Microsoft є дві великі моделі: не лише велика модель серії GPT від OpenAI, а й велика модель Llama 2 від Meta. **
У той же час Microsoft також оголосила у вівторок, що Microsoft 365 Copilot коштуватиме 30 доларів США за користувача на місяць для продавців підписки на Office 365 E3, E5, Business Standard Edition і Business Advanced Edition. Згідно з цінами на офіційному сайті, ці послуги передплати для бізнес-користувачів коливаються від $12,5 до $38 на місяць за користувача, що означає, що Microsoft підвищила ціни на послуги Office для бізнес-користувачів в 1-3 рази.
Юсуф Мехді, корпоративний віце-президент Microsoft і головний маркетинговий директор споживчого сектору, сказав, що за останні кілька місяців 600 компаній у всьому світі взяли участь у програмі раннього доступу до продукту, включаючи відомі установи, такі як KPMG і Національний банк розвитку Об'єднаних Арабських Еміратів. Він підкреслив, що чим більше клієнтів** використовують Copilot, тим більше вони захоплюються Copilot. Скоро без нього ніхто не захоче працювати. **
Цього достатньо, щоб продемонструвати потужність ціноутворення та привабливість Microsoft і OpenAI для реалізації продуктів Office AI на ринку.
Корпорація Майкрософт показала, що станом на перший квартал 2023 року загалом 382 мільйони людей у всьому світі використовують комерційну версію програмного забезпечення Microsoft (Office) 365.
Однак Microsoft не оголосила сьогодні офіційну дату запуску продукту. На додаток до Microsoft, Google також оголосила на початку цього року, що інтегрує функції ШІ в Google Workspace, хмарний офісний пакет. Постачальники програмного забезпечення для Інтернету в окремих галузях, включаючи Zoom, також поспішають запустити функції ШІ.
Варто зазначити, що гігант чіпів Qualcomm спільно оголосив сьогодні вранці, що планує підтримувати розгортання ШІ на основі Meta Llama 2 на флагманських смартфонах і ПК з 2024 року, дозволяючи розробникам використовувати можливості ШІ платформи Snapdragon і запускаючи нову додатків ШІ покоління.
Щоденний графік акцій Microsoft (Джерело: TradingView)
Під впливом нових новин станом на вівторок ціна акцій Microsoft закрилася на 3,98%, досягнувши рекордного рівня. З 2023 року сукупний приріст Microsoft досяг 50,05%.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
Meta об’єдналася з Microsoft, щоб кинути виклик шаблону великомасштабної моделі.Остання версія Llama 2 є безкоштовною та відкритою, і її можна використовувати безпосередньо для комерційного використання.
Джерело: Titanium Media App, автор: Lin Zhijia
За одну ніч структура великих моделей штучного інтелекту (AI) знову зазнала величезних змін.
**Titanium Media App дізнався, що рано вранці 19 липня за пекінським часом технологічний гігант Meta (раніше Facebook, NASDAQ: META), технологічний гігант з ринковою вартістю майже 800 мільярдів доларів США, випустив останній великий ШІ мовна модель серії Llama 2, включаючи 7 мільярдів і 13 мільярдів і 70 мільярдів версій з трьома параметрами, інформація про модель і вихідний код є відкритими і підтримують безкоштовне комерційне використання, а також включають версію моделі Llama 2-CHAT, налаштовану для сценарії розмовного чату.
Порівняно з Llama 1, випущеною в лютому цього року, токен, використаний для останнього навчання Llama 2, подвоївся до 2 трильйонів. За даними Meta, Llama 2 перевершила всі моделі чату з відкритим вихідним кодом у багатьох зовнішніх еталонних тестах, включаючи міркування, кодування, кваліфікацію та тести знань.
У той же час Meta також оголосила сьогодні вранці, що співпрацюватиме з Microsoft і Qualcomm.Llama 2 буде розгорнуто в хмарному сервісі Microsoft Azure, і Llama 2 зможе працювати на чіпах Qualcomm, порушуючи ринок обчислювальної потужності AI. між процесорами Nvidia та AMD на ринку.монополія.
«Microsoft є нашим обраним партнером для Llama 2 і розширення наших зусиль у галузі генеративного штучного інтелекту (AIGC).» Мета вважає, що відкритий підхід є правильним для розробки моделей штучного інтелекту сьогодні, особливо тих, що використовуються в технологіях, що швидко розвиваються. Компанія також стверджує в документі, що Llama 2 може бути підходящою заміною для закритої моделі, виходячи з людської оцінки Meta щодо корисності та безпеки.
Янн ЛеКун, лауреат премії Тюрінга 2018 року та головний науковець Meta зі штучного інтелекту, прямо написав у Twitter: «Це змінить ландшафт ринку великої мовної моделі (LLM).»
Мета виклики OpenAI: продуктивність чату стала сильнішою та безпечнішою, а в цілому вона близька до GPT-3.5
Понад десять років Meta не тільки грала в «Метавсесвіт», але й завжди мала макет для дослідження технологій штучного інтелекту, особливо її Instagram, Facebook та інші соціальні продукти терміново потребують алгоритмів для підтримки реклами.
У лютому цього року Meta випустила велику модель AI Llama 1. За словами компанії, дослідники шоковані величезним попитом на Llama 1, з більш ніж 100 000 запитами на доступ, і більше розробників досягли дивовижних досягнень, створюючи прикладні програми на Llama. Однак Llama не була безкоштовною для комерційного використання через угоду про відкрите програмне забезпечення.
Через п’ять місяців, 18 липня за місцевим часом, Meta випустила широкомасштабну модель Llama 2 з відкритим вихідним кодом, яка не тільки безкоштовна для комерційного використання, але й опублікувала технічний звіт у паперовому вигляді, повністю демонструючи технічні можливості та інформацію про оцінку. лами 2.
(Примітка: адреса паперу: ; адреса проекту:
Повідомляється, що Llama 2 є оновленою версією Llama 1. Порівняно з Llama 1, модель попереднього навчання Llama 2 навчається на 2 трильйонах токенів (текстових одиниць даних), що на 40% більше, ніж розмір даних Llama 1 (збільшення в 1,4 рази), довжина контексту також подвоюється та використовує Grouped Механізм запиту уваги (GQA), тоді як налаштована модель чату тренується на 1 мільйоні даних, позначених людиною.
Технічно новий Llama 2 використовує оптимізовану структуру авторегресії Transformer і, звичайно, підтримує PyTorch, виконує більш надійне очищення даних і оновлює змішані дані.
В даний час моделі серії Llama 2 - це 7B, 13B і 70B три. І Meta AI сказав, що вони все ще тренують версію 34B, але поки що вона не буде випущена. Тонко налаштована версія Meta великої моделі LLAMA 2-чат базується на точній версії LLAMA 2 для діалогових сцен.Вона також підтримує три версії параметрів 7B, 13B і 70B, використовуючи RLHF і контрольований тонке налаштування (SFT) та інші методи для ітеративної оптимізації моделі.
Відповідно до інформації про численні оцінки, представленої Meta, на даний момент продуктивність Llama 2 70B ближча до GPT-3.5, рівна або краща, ніж Google PaLM (540B), але Meta також визнає, що Llama 2 далека від GPT-4. і Google PaLM. Все ще існує великий розрив у продуктивності провідних моделей без відкритого коду, таких як 2-L.
Крім того, у статті також згадуються заходи безпеки Llama 2. Серед них Meta використовує такі методи, як контрольоване налаштування безпеки, захищений RLHF і дистиляція контексту безпеки для точного налаштування безпеки, а також використовує три стандартні тести для оцінки безпеки Llama 2. Загальна продуктивність хороша, і це стабільніший і безпечніший, ніж інші великі мовні моделі.
Microsoft «ступає на дві човни»: не тільки одружується на Meta, але й підвищує ціну GPT-версії офісу
Microsoft, яка очолює цю хвилю штучного інтелекту, нарешті представила свою нову стратегію на сьогоднішній Глобальній партнерській конференції (Inspire 2023).
18 липня за місцевим часом Meta та Microsoft спільно оголосили, що з сьогоднішнього дня Meta's Llama 2 буде доступна на платформах Microsoft Azure і Windows.
Генеральний директор Microsoft Сатья Наделла сказав, що Llama 2 дозволить розробникам Microsoft Azure створювати його та використовувати свої хмарні інструменти для фільтрації вмісту та функцій безпеки. Він також оптимізований для запуску в Windows, забезпечуючи безперебійний робочий процес для розробників.
Мета повідомила, що Llama 2 буде запущено в хмарі Microsoft Azure і в майбутньому буде поширюватися на інших платформах, таких як Amazon AWS і Hugging Face, а хмарний сервіс на основі моделі Llama 2 буде випущений для розробників по всьому світу.
**Тож наразі на платформі розробки Microsoft є дві великі моделі: не лише велика модель серії GPT від OpenAI, а й велика модель Llama 2 від Meta. **
У той же час Microsoft також оголосила у вівторок, що Microsoft 365 Copilot коштуватиме 30 доларів США за користувача на місяць для продавців підписки на Office 365 E3, E5, Business Standard Edition і Business Advanced Edition. Згідно з цінами на офіційному сайті, ці послуги передплати для бізнес-користувачів коливаються від $12,5 до $38 на місяць за користувача, що означає, що Microsoft підвищила ціни на послуги Office для бізнес-користувачів в 1-3 рази.
Юсуф Мехді, корпоративний віце-президент Microsoft і головний маркетинговий директор споживчого сектору, сказав, що за останні кілька місяців 600 компаній у всьому світі взяли участь у програмі раннього доступу до продукту, включаючи відомі установи, такі як KPMG і Національний банк розвитку Об'єднаних Арабських Еміратів. Він підкреслив, що чим більше клієнтів** використовують Copilot, тим більше вони захоплюються Copilot. Скоро без нього ніхто не захоче працювати. **
Цього достатньо, щоб продемонструвати потужність ціноутворення та привабливість Microsoft і OpenAI для реалізації продуктів Office AI на ринку.
Корпорація Майкрософт показала, що станом на перший квартал 2023 року загалом 382 мільйони людей у всьому світі використовують комерційну версію програмного забезпечення Microsoft (Office) 365.
Однак Microsoft не оголосила сьогодні офіційну дату запуску продукту. На додаток до Microsoft, Google також оголосила на початку цього року, що інтегрує функції ШІ в Google Workspace, хмарний офісний пакет. Постачальники програмного забезпечення для Інтернету в окремих галузях, включаючи Zoom, також поспішають запустити функції ШІ.
Варто зазначити, що гігант чіпів Qualcomm спільно оголосив сьогодні вранці, що планує підтримувати розгортання ШІ на основі Meta Llama 2 на флагманських смартфонах і ПК з 2024 року, дозволяючи розробникам використовувати можливості ШІ платформи Snapdragon і запускаючи нову додатків ШІ покоління.
Під впливом нових новин станом на вівторок ціна акцій Microsoft закрилася на 3,98%, досягнувши рекордного рівня. З 2023 року сукупний приріст Microsoft досяг 50,05%.