Meta объединилась с Microsoft, чтобы бросить вызов шаблону крупномасштабной модели.Последняя версия Llama 2 бесплатна и имеет открытый исходный код, и ее можно использовать непосредственно в коммерческих целях.

Источник: Приложение Titanium Media, Автор: Линь Чжицзя

(Источник изображения: официальный сайт Meta)

За одну ночь структура больших моделей искусственного интеллекта (ИИ) снова претерпела огромные изменения.

** Приложение Titanium Media узнало, что ранним утром 19 июля по пекинскому времени технологический гигант Meta (ранее Facebook, NASDAQ: META), технологический гигант с рыночной стоимостью почти 800 миллиардов долларов США, выпустил последний крупный отчет об искусственном интеллекте. языковая модель серии Llama 2, включая версии с тремя параметрами 7 миллиардов и 13 миллиардов и 70 миллиардов, информация о модели и начальный код имеют открытый исходный код и поддерживают бесплатное коммерческое использование, а также включают версию модели Llama 2-CHAT, настроенную для сценарии разговорного чата.

По сравнению с Llama 1, выпущенной в феврале этого года, токены, использованные для последнего обучения Llama 2, удвоились до 2 триллионов. Согласно Meta, Llama 2 превзошла все модели чата с открытым исходным кодом в нескольких внешних тестовых тестах, включая тесты на рассуждение, кодирование, навыки и знания.

В то же время Meta также объявила сегодня утром, что будет сотрудничать с Microsoft и Qualcomm.Llama 2 будет развернута на облачном сервисе Microsoft Azure, а Llama 2 сможет работать на чипах Qualcomm, разрушив рынок вычислительной мощности ИИ. между процессорами Nvidia и AMD на рынке монополия.

«Microsoft является нашим предпочтительным партнером для Llama 2 и расширяет наши усилия в области генеративного искусственного интеллекта (AIGC)». Компания также утверждает в документе, что Llama 2 может быть подходящей заменой закрытой модели, основываясь на человеческой оценке Meta полезности и безопасности.

Генеральный директор Microsoft Сатья Наделла и генеральный директор Meta Цукерберг (Источник: источники Цукерберга)

Янн ЛеКун, лауреат премии Тьюринга 2018 года и главный ученый Meta в области искусственного интеллекта, прямо написал в Твиттере: «Это изменит ландшафт рынка больших языковых моделей (LLM)».

Мета бросает вызов OpenAI: производительность чата выше и безопаснее, и в целом он близок к GPT-3.5

Более десяти лет Meta не только играла в «Метавселенной», но и всегда имела макет для исследования технологий ИИ, особенно его Instagram, Facebook и другие социальные продукты остро нуждаются в алгоритмах для обеспечения рекламной поддержки.

В феврале этого года Meta выпустила большую модель Llama 1 с искусственным интеллектом. По данным компании, исследователи шокированы огромным спросом на Llama 1, с более чем 100 000 запросов на доступ, и все больше разработчиков добились удивительных успехов, создавая модельные приложения на Llama. Однако Llama не была бесплатной для коммерческого использования из-за соглашения об открытом исходном коде.

Пять месяцев спустя, 18 июля по местному времени, Meta выпустила масштабную модель Llama 2 с открытым исходным кодом, которая не только бесплатна для коммерческого использования, но и опубликовала технический отчет в бумажном стиле, полностью демонстрирующий технические возможности и оценочную информацию. ламы 2.

(Примечание: Адрес статьи: ; Адрес проекта:

Сообщается, что Llama 2 является обновленной версией Llama 1. По сравнению с Llama 1, предобучающая модель Llama 2 обучается на 2 триллионах токенов (текстовых единиц данных), что на 40% больше, чем размер данных Llama 1 (увеличение в 1,4 раза), а длина контекста также удвоена и использует Grouped. механизм Query Attention (GQA), в то время как точно настроенная модель чата обучается на 1 миллионе данных, помеченных людьми.

Технически новая Llama 2 использует оптимизированную авторегрессионную структуру Transformer и, конечно же, поддерживает PyTorch, выполняет более надежную очистку данных и обновляет смешанные данные.

В настоящее время модели серии Llama 2 представлены тремя моделями 7B, 13B и 70B. И Meta AI сказал, что они все еще обучают версию 34B, но она пока не будет выпущена. Доработанная версия чата большой модели LLAMA 2 от Meta основана на доработанной версии LLAMA 2 для диалоговых сцен. тонкая настройка (SFT) и другие методы итеративной оптимизации модели.

Согласно множественной оценочной информации, отображаемой Meta, на данный момент производительность Llama 2 70B ближе к GPT-3.5, равной или лучше, чем у Google PaLM (540B), но Meta также признает, что Llama 2 далека от GPT-4. и Google PaLM. По-прежнему существует большой разрыв в производительности ведущих моделей без открытого исходного кода, таких как 2-L.

«Но для многих сценариев вам не нужен GPT-4», — сказал Перси Лян, директор Стэнфордского центра исследований фундаментального моделирования исследовательской группы Alpaca.

Кроме того, в документе также упоминаются усилия по обеспечению безопасности Llama 2. Среди них Meta использует такие методы, как контролируемая точная настройка безопасности, безопасный RLHF и дистилляция контекста безопасности при точной настройке безопасности, а также использует три часто используемых эталонных теста для оценки безопасности Llama 2. Общая производительность хорошая, и это стабильнее и безопаснее, чем другие большие языковые модели.

Microsoft «наступает на две лодки»: не только женится на Meta, но и поднимает цену на GPT-версию офиса

Microsoft, лидер этой волны искусственного интеллекта, наконец-то представила свою новую стратегию на сегодняшней глобальной партнерской конференции (Inspire 2023).

18 июля по местному времени Meta и Microsoft совместно объявили, что с сегодняшнего дня Llama 2 от Meta будет доступна на платформах Microsoft Azure и Windows.

Генеральный директор Microsoft Сатья Наделла сказал, что Llama 2 позволит разработчикам Microsoft Azure опираться на него и использовать свои облачные инструменты для фильтрации контента и функций безопасности. Он также оптимизирован для работы в Windows, обеспечивая беспрепятственный рабочий процесс для разработчиков.

Мета сообщила, что Llama 2 будет запущена в облаке Microsoft Azure, а в будущем будет распространяться на других платформах, таких как Amazon AWS и Hugging Face, а облачный сервис, основанный на модели Llama 2, будет выпущен для разработчиков по всему миру.

Генеральный директор Microsoft Сатья Наделла

** Итак, в настоящее время на платформе разработки Microsoft есть два варианта больших моделей: не только большая модель OpenAI серии GPT, но и большая модель Meta Llama 2. **

В то же время Microsoft также объявила во вторник, что Microsoft 365 Copilot будет стоить 30 долларов США за пользователя в месяц для продавцов подписки на Office 365 E3, E5, Business Standard Edition и Business Advanced Edition. Согласно расценкам на официальном сайте, эти услуги по подписке для бизнес-пользователей варьируются от 12,5 до 38 долларов в месяц на пользователя, что означает, что Microsoft увеличила цены на услуги Office для бизнес-пользователей в 1-3 раза.

Юсуф Мехди, корпоративный вице-президент Microsoft и директор по маркетингу потребительского сектора, сказал, что за последние несколько месяцев в программе раннего доступа к продукту приняли участие 600 компаний по всему миру, включая такие известные организации, как KPMG и Национальный банк развития Объединенных Арабских Эмиратов. Он подчеркнул, что чем больше клиентов** используют Copilot, тем больше энтузиазма они проявляют к Copilot. Скоро без него никто не захочет работать. **

Этого достаточно, чтобы показать силу ценообразования и привлекательность Microsoft и OpenAI для реализации продуктов Office AI на рынке.

Microsoft сообщила, что по состоянию на первый квартал 2023 года в общей сложности 382 миллиона человек по всему миру используют коммерческую версию программного обеспечения Microsoft (Office) 365.

Однако сегодня Microsoft не объявила официальную дату запуска продукта. В дополнение к Microsoft, Google также объявила ранее в этом году, что интегрирует функции искусственного интеллекта в Google Workspace, облачный офисный пакет. Интернет-провайдеры программного обеспечения в разделенных отраслях, включая Zoom, также спешат запустить функции ИИ.

Стоит отметить, что чиповый гигант Qualcomm сегодня утром совместно объявил, что планирует поддерживать развертывание ИИ на основе Meta Llama 2 на флагманских смартфонах и ПК с 2024 года, что позволит разработчикам использовать возможности ИИ платформы Snapdragon и запустить новый приложения поколения ИИ.

Дневной график акций Microsoft (Источник: TradingView)

Под влиянием новых новостей по состоянию на вторник цена акций Microsoft выросла на 3,98%, достигнув рекордного уровня. С 2023 года совокупный рост Microsoft достиг 50,05%.

Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • комментарий
  • Поделиться
комментарий
0/400
Нет комментариев
  • Закрепить