**出典: **Titanium Media App**、著者: Lin Zhijia** （画像出典：メタ公式サイト）一夜にして、人工知能 (AI) の大きなモデルのパターンは再び大きな変化を遂げました。**Titanium Media Appは、北京時間7月19日早朝、時価総額8,000億ドル近くのテクノロジー大手メタ（旧フェイスブック、ナスダック：META）が最新のAI大型アプリケーションをリリースしたことを知りました。 70 億、130 億、700 億の 3 パラメータ バージョンを含む Llama 2 シリーズの言語モデル。モデル情報と開始コードはすべてオープンソースで、無料の商用利用をサポートしており、最適に調整された Llama 2-CHAT モデル バージョンも含まれています。会話型チャットのシナリオ。今年2月にリリースされたラマ1と比較すると、最新のラマ2トレーニングに使用されるトークンは2倍の2兆個となった。 Meta によると、Llama 2 は、推論、コーディング、熟練度、知識テストを含む複数の外部ベンチマーク スコアリング テストにおいて、すべてのオープンソース チャット モデルを上回りました。同時に、Metaは今朝、MicrosoftとQualcommと協力することも発表し、Llama 2はMicrosoftのクラウドサービスAzure上に展開され、Llama 2はQualcommのチップ上で実行できるようになり、AIコンピューティング市場を打破することになる。市場における Nvidia プロセッサと AMD プロセッサの間の独占。「Microsoft は、Llama 2 のパートナーとして私たちが選んだパートナーであり、生成人工知能 (AIGC) における取り組みを拡大しています。」メタ氏は、今日の AI モデル、特に急速に進化するテクノロジーの大規模モデルの開発には、オープンなアプローチが適切であると信じています。同社はまた論文の中で、Metaによる有用性と安全性に関する人間による評価に基づいて、Llama 2がクローズドモデルの適切な代替品となる可能性があると主張している。 Microsoft CEO Satya Nadella と Meta CEO ザッカーバーグ (出典: Zuckerberg ins)2018年のチューリング賞受賞者でメタ社のチーフAIサイエンティストであるヤン・ルカン氏は、「これは大規模言語モデル（LLM）市場の状況を変えるだろう」と率直にツイートした。## メタが OpenAI に挑戦: チャットのパフォーマンスがより強力かつ安全になり、全体が GPT-3.5 に近づいています10 年以上にわたり、Meta は「メタバース」でプレーするだけでなく、AI テクノロジー研究のためのレイアウトを常に備えており、特に Instagram、Facebook、その他のソーシャル製品には広告サポートを提供するためのアルゴリズムが緊急に必要です。今年2月、メタ社はAI大型モデル「Llama 1」をリリースした。同社によると、研究者らは10万件を超えるアクセスリクエストを伴うLlama 1に対する膨大な需要に衝撃を受けており、さらに多くの開発者がLlama上でモデルアプリケーションを構築することで驚くべき成果を上げているという。ただし、オープンソース契約のため、Llama は商用利用が自由ではありません。5か月後の現地時間7月18日、Metaはオープンソースの大規模モデルLlama 2をリリースしました。これは商用利用が無料であるだけでなく、技術力と評価情報を十分に実証した紙形式の技術レポートも発行しました。ラマ2の。(注: 論文アドレス: ; プロジェクトアドレス:Llama 2 は Llama 1 のアップデート版であると報告されています。ラマ 1 と比較して、ラマ 2 の事前トレーニング モデルは、ラマ 1 のデータ サイズより 40% 大きい (1.4 倍) 2 兆個のトークン (テキスト データ単位) でトレーニングされ、コンテキストの長さも 2 倍になり、グループ化されたクエリ アテンション (GQA) メカニズム、および微調整されたチャット モデルは 100 万件の人間によるラベル付けされたデータでトレーニングされています。技術的には、新しい Llama 2 は、最適化された自己回帰 Transformer フレームワークを使用し、もちろん PyTorch をサポートし、より堅牢なデータ クリーニングを実行し、混合データを更新します。現在、Llama 2 シリーズのモデルは 7B、13B、70B の 3 つです。そして、メタAIは34Bバージョンをまだトレーニング中であるが、当分の間リリースされないと述べた。 Meta の大型モデル **L**LAMA 2-chat の微調整バージョンは、対話シーン用の LLAMA 2 の微調整バージョンに基づいています。また、RLHF および教師付きパラメータを使用して、7B、13B、および 70B パラメータの 3 つのバージョンをサポートしています。微調整 (SFT) およびその他の手法を使用して、モデルを繰り返し最適化します。Metaが表示した複数の評価情報によると、現時点でLlama 2 70Bの性能はGPT-3.5に近く、Google PaLM（540B）と同等以上だが、MetaはLlama 2がGPT-4には程遠いことも認めているGoogle PaLM - 2-L などの主要な非オープンソース モデルのパフォーマンスには依然として大きなギャップがあります。 「しかし、多くのシナリオでは GPT-4 は必要ありません」と、アルパカ研究チームのスタンフォード基礎モデリング研究センター所長であるパーシー・リアン氏は述べています。さらに論文では、Llama 2のセキュリティへの取り組みについても言及されている。その中で、Meta は、セキュリティ微調整で監視付きセキュリティ微調整、セキュア RLHF、セキュリティ コンテキスト蒸留などの手法を使用し、一般的に使用される 3 つのベンチマークを使用して Llama 2 のセキュリティを評価します。全体的なパフォーマンスは良好であり、他の大規模な言語モデルよりも安定していて安全です。## Microsoft、「二隻の船にまたがる」: Meta と結婚するだけでなく、GPT バージョンの Office の価格も引き上げるこの AI の波をリードしているマイクロソフトは、本日のグローバル パートナー カンファレンス (Inspire 2023) でついにその新しい戦略を明らかにしました。現地時間7月18日、MetaとMicrosoftは共同で、本日よりMetaのLlama 2がMicrosoftのAzureおよびWindowsプラットフォームで利用可能になると発表した。Microsoft CEOのSatya Nadella氏は、Llama 2により、Microsoft Azure開発者はLlama 2をベースに構築し、コンテンツフィルタリングやセキュリティ機能にクラウドネイティブツールを活用できるようになると述べた。また、Windows 上でネイティブに実行できるように最適化されており、開発者にシームレスなワークフローを提供します。Meta氏によると、Llama 2はMicrosoftのAzureクラウド上で起動され、将来的にはAmazon AWSやHugging Faceなどの他のプラットフォームでも配布され、Llama 2モデルをベースにしたクラウドサービスが世界中の開発者にリリースされる予定だという。 マイクロソフト CEO サティア ナデラ**したがって、Microsoft の開発プラットフォームには現在、OpenAI の GPT シリーズ大型モデルだけでなく、Meta の Llama 2 大型モデルの 2 つの大型モデルのオプションがあります。 **同時にMicrosoftは火曜日、Office 365 E3、E5、Business Standard Edition、Business Advanced Editionのサブスクリプション販売者向けに、Microsoft 365 Copilotの価格をユーザー1人あたり月額30ドルにすると発表した。公式 Web サイトの価格設定によると、ビジネス ユーザー向けのこれらのサブスクリプション サービスの範囲は、ユーザーあたり月額 12.5 ドルから 38 ドルです。これは、Microsoft がビジネス ユーザー向けの Office サービスの価格を 1 ～ 3 倍に値上げしたことを意味します。マイクロソフトのコーポレートバイスプレジデント兼消費者部門最高マーケティング責任者のユスフ・メディ氏は、過去数カ月で世界中の600社がこの製品の早期アクセスプログラムに参加しており、その中にはKPMGやKPMGなどの著名な企業も含まれていると述べた。アラブ首長国連邦国立開発銀行。彼は、Copilot を使用する顧客**が増えるほど、Copilot に対する熱意が高まることを強調しました。すぐに、これなしで働きたい人は誰もいなくなるでしょう。 **これは、市場で Office AI 製品を実現するための Microsoft と OpenAI の価格決定力と魅力を示すのに十分です。Microsoftは、2023年第1四半期の時点で、全世界で合計3億8,200万人がMicrosoft（Office）365ソフトウェアの商用版を使用していることを明らかにした。ただし、Microsoftは本日、製品の正式な発売日を発表しませんでした。 Microsoftに加えて、Googleも今年初め、クラウドオフィススイートであるGoogle WorkspaceにAI機能を統合すると発表した。 Zoomなど細分化された業界のインターネットソフトサービスプロバイダーもAI機能の投入を急いでいる。注目に値するのは、チップ大手のクアルコムが今朝、2024年から主力スマートフォンとPCでMeta Llama 2に基づくAI展開をサポートする計画を共同発表し、開発者がSnapdragonプラットフォームのAI機能を使用できるようにし、新しいプラットフォームを立ち上げることを発表したことです。 AI アプリケーションの生成。 マイクロソフト株の日足チャート（出典：TradingView）この新たなニュースの影響を受け、火曜日の時点でマイクロソフトの株価は3.98％上昇して取引を終え、過去最高値を記録した。 2023 年以降、Microsoft の累積増加率は 50.05% に達しました。
Meta は Microsoft と提携して大規模なモデル パターンに挑戦しました。最新の Llama 2 は無料でオープンソースであり、商用目的で直接使用できます。
出典: Titanium Media App、著者: Lin Zhijia
一夜にして、人工知能 (AI) の大きなモデルのパターンは再び大きな変化を遂げました。
**Titanium Media Appは、北京時間7月19日早朝、時価総額8,000億ドル近くのテクノロジー大手メタ（旧フェイスブック、ナスダック：META）が最新のAI大型アプリケーションをリリースしたことを知りました。 70 億、130 億、700 億の 3 パラメータ バージョンを含む Llama 2 シリーズの言語モデル。モデル情報と開始コードはすべてオープンソースで、無料の商用利用をサポートしており、最適に調整された Llama 2-CHAT モデル バージョンも含まれています。会話型チャットのシナリオ。
今年2月にリリースされたラマ1と比較すると、最新のラマ2トレーニングに使用されるトークンは2倍の2兆個となった。 Meta によると、Llama 2 は、推論、コーディング、熟練度、知識テストを含む複数の外部ベンチマーク スコアリング テストにおいて、すべてのオープンソース チャット モデルを上回りました。
同時に、Metaは今朝、MicrosoftとQualcommと協力することも発表し、Llama 2はMicrosoftのクラウドサービスAzure上に展開され、Llama 2はQualcommのチップ上で実行できるようになり、AIコンピューティング市場を打破することになる。市場における Nvidia プロセッサと AMD プロセッサの間の独占。
「Microsoft は、Llama 2 のパートナーとして私たちが選んだパートナーであり、生成人工知能 (AIGC) における取り組みを拡大しています。」メタ氏は、今日の AI モデル、特に急速に進化するテクノロジーの大規模モデルの開発には、オープンなアプローチが適切であると信じています。同社はまた論文の中で、Metaによる有用性と安全性に関する人間による評価に基づいて、Llama 2がクローズドモデルの適切な代替品となる可能性があると主張している。
2018年のチューリング賞受賞者でメタ社のチーフAIサイエンティストであるヤン・ルカン氏は、「これは大規模言語モデル（LLM）市場の状況を変えるだろう」と率直にツイートした。
メタが OpenAI に挑戦: チャットのパフォーマンスがより強力かつ安全になり、全体が GPT-3.5 に近づいています
10 年以上にわたり、Meta は「メタバース」でプレーするだけでなく、AI テクノロジー研究のためのレイアウトを常に備えており、特に Instagram、Facebook、その他のソーシャル製品には広告サポートを提供するためのアルゴリズムが緊急に必要です。
今年2月、メタ社はAI大型モデル「Llama 1」をリリースした。同社によると、研究者らは10万件を超えるアクセスリクエストを伴うLlama 1に対する膨大な需要に衝撃を受けており、さらに多くの開発者がLlama上でモデルアプリケーションを構築することで驚くべき成果を上げているという。ただし、オープンソース契約のため、Llama は商用利用が自由ではありません。
5か月後の現地時間7月18日、Metaはオープンソースの大規模モデルLlama 2をリリースしました。これは商用利用が無料であるだけでなく、技術力と評価情報を十分に実証した紙形式の技術レポートも発行しました。ラマ2の。
(注: 論文アドレス: ; プロジェクトアドレス:
Llama 2 は Llama 1 のアップデート版であると報告されています。ラマ 1 と比較して、ラマ 2 の事前トレーニング モデルは、ラマ 1 のデータ サイズより 40% 大きい (1.4 倍) 2 兆個のトークン (テキスト データ単位) でトレーニングされ、コンテキストの長さも 2 倍になり、グループ化されたクエリ アテンション (GQA) メカニズム、および微調整されたチャット モデルは 100 万件の人間によるラベル付けされたデータでトレーニングされています。
技術的には、新しい Llama 2 は、最適化された自己回帰 Transformer フレームワークを使用し、もちろん PyTorch をサポートし、より堅牢なデータ クリーニングを実行し、混合データを更新します。
現在、Llama 2 シリーズのモデルは 7B、13B、70B の 3 つです。そして、メタAIは34Bバージョンをまだトレーニング中であるが、当分の間リリースされないと述べた。 Meta の大型モデル LLAMA 2-chat の微調整バージョンは、対話シーン用の LLAMA 2 の微調整バージョンに基づいています。また、RLHF および教師付きパラメータを使用して、7B、13B、および 70B パラメータの 3 つのバージョンをサポートしています。微調整 (SFT) およびその他の手法を使用して、モデルを繰り返し最適化します。
Metaが表示した複数の評価情報によると、現時点でLlama 2 70Bの性能はGPT-3.5に近く、Google PaLM（540B）と同等以上だが、MetaはLlama 2がGPT-4には程遠いことも認めているGoogle PaLM - 2-L などの主要な非オープンソース モデルのパフォーマンスには依然として大きなギャップがあります。
さらに論文では、Llama 2のセキュリティへの取り組みについても言及されている。その中で、Meta は、セキュリティ微調整で監視付きセキュリティ微調整、セキュア RLHF、セキュリティ コンテキスト蒸留などの手法を使用し、一般的に使用される 3 つのベンチマークを使用して Llama 2 のセキュリティを評価します。全体的なパフォーマンスは良好であり、他の大規模な言語モデルよりも安定していて安全です。
Microsoft、「二隻の船にまたがる」: Meta と結婚するだけでなく、GPT バージョンの Office の価格も引き上げる
この AI の波をリードしているマイクロソフトは、本日のグローバル パートナー カンファレンス (Inspire 2023) でついにその新しい戦略を明らかにしました。
現地時間7月18日、MetaとMicrosoftは共同で、本日よりMetaのLlama 2がMicrosoftのAzureおよびWindowsプラットフォームで利用可能になると発表した。
Microsoft CEOのSatya Nadella氏は、Llama 2により、Microsoft Azure開発者はLlama 2をベースに構築し、コンテンツフィルタリングやセキュリティ機能にクラウドネイティブツールを活用できるようになると述べた。また、Windows 上でネイティブに実行できるように最適化されており、開発者にシームレスなワークフローを提供します。
Meta氏によると、Llama 2はMicrosoftのAzureクラウド上で起動され、将来的にはAmazon AWSやHugging Faceなどの他のプラットフォームでも配布され、Llama 2モデルをベースにしたクラウドサービスが世界中の開発者にリリースされる予定だという。
**したがって、Microsoft の開発プラットフォームには現在、OpenAI の GPT シリーズ大型モデルだけでなく、Meta の Llama 2 大型モデルの 2 つの大型モデルのオプションがあります。 **
同時にMicrosoftは火曜日、Office 365 E3、E5、Business Standard Edition、Business Advanced Editionのサブスクリプション販売者向けに、Microsoft 365 Copilotの価格をユーザー1人あたり月額30ドルにすると発表した。公式 Web サイトの価格設定によると、ビジネス ユーザー向けのこれらのサブスクリプション サービスの範囲は、ユーザーあたり月額 12.5 ドルから 38 ドルです。これは、Microsoft がビジネス ユーザー向けの Office サービスの価格を 1 ～ 3 倍に値上げしたことを意味します。
マイクロソフトのコーポレートバイスプレジデント兼消費者部門最高マーケティング責任者のユスフ・メディ氏は、過去数カ月で世界中の600社がこの製品の早期アクセスプログラムに参加しており、その中にはKPMGやKPMGなどの著名な企業も含まれていると述べた。アラブ首長国連邦国立開発銀行。彼は、Copilot を使用する顧客**が増えるほど、Copilot に対する熱意が高まることを強調しました。すぐに、これなしで働きたい人は誰もいなくなるでしょう。 **
これは、市場で Office AI 製品を実現するための Microsoft と OpenAI の価格決定力と魅力を示すのに十分です。
Microsoftは、2023年第1四半期の時点で、全世界で合計3億8,200万人がMicrosoft（Office）365ソフトウェアの商用版を使用していることを明らかにした。
ただし、Microsoftは本日、製品の正式な発売日を発表しませんでした。 Microsoftに加えて、Googleも今年初め、クラウドオフィススイートであるGoogle WorkspaceにAI機能を統合すると発表した。 Zoomなど細分化された業界のインターネットソフトサービスプロバイダーもAI機能の投入を急いでいる。
注目に値するのは、チップ大手のクアルコムが今朝、2024年から主力スマートフォンとPCでMeta Llama 2に基づくAI展開をサポートする計画を共同発表し、開発者がSnapdragonプラットフォームのAI機能を使用できるようにし、新しいプラットフォームを立ち上げることを発表したことです。 AI アプリケーションの生成。
この新たなニュースの影響を受け、火曜日の時点でマイクロソフトの株価は3.98％上昇して取引を終え、過去最高値を記録した。 2023 年以降、Microsoft の累積増加率は 50.05% に達しました。