Объяснение FHE (Fully Homomorphic Encryption)

Новичок5/13/2024, 6:13:27 AM
Исследователь криптовалют Мустафа Хуранни инвестирует в Gate.io и исследует некоторые компании, создающие продукты с использованием FHE (Полностью гомоморфного шифрования). Он считает, что FHE может стать следующей крупной технологией, охватывающей индустрию, как ZKP (Доказательство в нулевом знании), и является ключевым катализатором для продвижения конфиденциальности данных и владения ими.

Перенесите оригинальное название 'Объяснение недавнего роста полностью гомоморфного шифрования в отрасли блокчейна'

Представляем полностью гомоморфное шифрование (FHE): Исследование его захватывающих приложений, ограничений и недавних разработок, способствующих его популярности.

Когда я впервые услышал о 'Fully Homomorphic Encryption' (FHE), я задался вопросом о склонности блокчейн-сообщества давать длинные названия модным концепциям. За годы нам доводилось сталкиваться с целым рядом модных слов, которые восторженно встречались в индустрии, самым последним из которых стали 'zero-knowledge proofs' (ZKPs).

Проведя некоторое исследование и изучив новые компании, создающие продукты с Гомоморфным шифрованием, я заметил горизонт, наполненный блестящим новым набором инструментов. В ближайшие месяцы и годы Гомоморфное шифрование может стать следующей крупной технологией, которая взорвет индустрию, как это сделали ZKPs.

Компании используют последние достижения в различных областях криптографии и облачных вычислений, чтобы прокладывать путь к мощному, сохраняющему конфиденциальность будущему данных. Вопрос не в том, добьемся ли мы этого, а в том, когда, и я считаю, что Гомоморфное шифрование может стать решающим катализатором для продвижения конфиденциальности и владения данными.

В ближайшие несколько недель я погружусь в изучение Гомоморфного шифрования и исследование его ограничений, потенциала и применений. Я поделюсь своими результатами в серии статей, изучающих различные аспекты диалога вокруг Гомоморфного шифрования. На этой неделе я представлю эту технологию и обсудим, почему она недавно привлекла много внимания. Многие люди в индустрии говорят об этом, включая Кайл Самани из Multicoin Capital, кто сказал это:

«FHE - священный Грааль криптографии. Со временем FHE переформатирует основы всего вычислительного процесса, как в web2, так и в web3.

Что такое гомоморфизм?

Адресуя слона в комнате, мудрым началом было бы понять, что означает 'гомоморфное'. Восходя к его корням, гомоморфизм происходит из математики иопределенныйкак отображение между двумя алгебраическими структурами одного типа, которое сохраняет основной компонент между ними.

Если вы как и я предпочитаете более практическое определение, основной принцип математики заключается в том, что две группы не обязательно должны быть идентичны, чтобы обладать теми же основными свойствами. Например, представьте себе две коробки фруктов, каждая соответствует отдельной группе:

Ящик A содержит мелкие фрукты.
Ящик В содержит крупные фрукты.


Хотя отдельные фрукты различаются по размеру, смешивая небольшое яблоко и апельсин вместе в коробке A, получается смешанный сок с тем же вкусом, что и при смешивании большого яблока и апельсина вместе в коробке B. Смешивание фруктов для получения одинакового вкуса аналогично сохранению основного компонента между обоими коробками. Предполагая, что идентичный вкус - наша основная забота, не имеет значения, из какой коробки мы отжимаем сок из фруктов, потому что большее/меньшее количество сока не является нашим фокусом. Группы эквивалентны там, где это важно (вкус), так что разница между ними (размер и количество) не влияет на их основную функцию, которую мы определили как производство конкретного вкуса фруктового сока.

Устанавливая параллель с гомоморфизмом, мы зафиксировали его две основные особенности:

  1. Отображение: Мы устанавливаем связь между фруктами, при этом каждый маленький фрукт в ящике A соответствует более крупной версии в ящике B. Так, маленькое яблоко в ящике A соответствует большому яблоку в ящике B, и так далее.
  2. Сохранение операции: Если сок из двух маленьких фруктов в коробке A дает определенный вкус, то сок из их соответствующих более крупных версий в коробке B должен давать тот же вкус. 'Профиль вкуса' сохраняется несмотря на различия в размере и количестве полученного сока.

Что такое Гомоморфное шифрование?

Возвращаясь к центральной теме данной статьи, полностью гомоморфное шифрование(FHE) - это конкретный метод шифрования данных, который позволяет людям выполнять вычисления над зашифрованными данными, не раскрывая исходные данные. Теоретически анализ и вычисления, проводимые над зашифрованными данными, должны давать результаты, идентичные тем, которые выполняются над исходными данными. С FHE мы устанавливаем 1:1 соответствие между данными в наборе зашифрованных данных и данными в наборе исходных данных. Основным компонентом сохранения в данном случае является возможность выполнять любые вычисления над данными любого набора и получать те же результаты.

Для контекста многие компании уже предпринимают предупредительные меры для защиты пользовательских данных и поддержания дифференциальной конфиденциальности. Компании редко хранят данные в облаке или в своих базах данных в необработанной, незашифрованной форме. Поэтому даже если злоумышленники получают контроль над серверами компании, им все равно придется обойти шифрование, чтобы прочитать и получить доступ к данным. Однако данные не являются интересными, когда они просто лежат там, зашифрованные и неиспользуемые. Когда компании хотят проводить анализ данных для извлечения ценных идей, у них нет большого выбора, кроме как расшифровать данные, чтобы сделать это. При расшифровке данные становятся уязвимыми. Однако благодаря конечному шифрованию, ГШШ становится очень полезным, поскольку нам больше не нужно расшифровывать данные для их анализа; это только на поверхности того, что возможно.

Одним из ключевых соображений является вопрос, должны ли компании вообще иметь возможность читать и хранить нашу личную информацию. Стандартным ответом на это было то, что многие считают, что компании должны видеть наши данные, чтобы предоставить нам лучшие услуги.

Если YouTube не хранит данные, такие как мои история просмотров и поиска, алгоритм не может работать на полную мощность и показывать мне видео, которые меня интересуют. По этой причине многие люди считают, что компромисс между конфиденциальностью данных и получением лучших услуг стоит того. Однако с Гомоморфным шифрованием нам уже не нужно делать этот выбор. Компании, такие как YouTube, могут обучать свои алгоритмы на зашифрованных данных и производить идентичные результаты для конечного пользователя, не нарушая конфиденциальность данных. В частности, они могут гомоморфно шифровать информацию, такую как мои история просмотров и поиска, анализировать её, не просматривая, поскольку она зашифрована, а затем показывать мне видео, которые меня интересуют, на основе анализа.

FHE - это значительный шаг к созданию будущего, где наши данные больше не будут ценным товаром, на который мы идем на уступки, передавая организациям свободно.

Применения полностью гомоморфного шифрования

Полностью гомоморфное шифрование (FHE), примененное правильно, является прорывом для всех секторов, которые хранят данные пользователей. Мы говорим о технологии, которая может преобразовать наше отношение ко всему пониманию конфиденциальности данных и пределов допустимого вмешательства со стороны корпораций.

Давайте начнем с того, чтобы рассмотреть, как Гомоморфное шифрование может перестроить практики обработки данных в здравоохранение. Многие больницы хранят личные записи пациентов в своих базах данных, которые им необходимо держать в тайне по этическим и юридическим причинам. Однако эта информация ценна для внешних медицинских исследователей, которые могут проанализировать эти данные, чтобы извлечь значительные умозаключения о заболеваниях и потенциальных лекарствах. Одним из основных препятствий, замедляющих исследования, является поддержание полной конфиденциальности данных пациентов при передаче их исследователям. Существует много способов анонимизировать или псевдонимизировать записи пациентов. Однако они несовершенны и могут либо раскрывать слишком много о ком-то, делая их идентифицируемыми, либо не раскрывать достаточно информации о их случаях, что затрудняет получение точных умозаключений о заболеваниях.

С помощью Гомоморфного шифрования больницы могут шифровать данные пациентов таким образом, что защита конфиденциальности пациентов в облаке становится проще. Медицинские исследователи могут выполнять вычисления и запускать аналитические функции на зашифрованных данных, не нарушая конфиденциальность пациентов. Поскольку существует 1:1 отображение между зашифрованными и исходными данными, результаты, полученные из набора зашифрованных данных, предоставляют реальные идеи, которые могут быть применены к фактическим случаям. Гомоморфное шифрование может значительно ускорить прогресс в здравоохранении.

Еще одно интересное применение FHE — обучение искусственному интеллекту (ИИ). В настоящее время сектор ИИ сталкивается с проблемами конфиденциальности, которые препятствуют доступу компаний ко многим обширным наборам данных, необходимым для совершенствования алгоритмов ИИ. Компаниям, обучающим ИИ, приходится выбирать между использованием ограниченных общедоступных наборов данных, платой больших денег за покупку частных наборов данных или созданием наборов данных, что является сложной задачей для небольших компаний с меньшим количеством пользователей. FHE должен решить проблемы конфиденциальности, препятствующие выходу многих поставщиков наборов данных на этот рынок. Таким образом, улучшения в FHE, скорее всего, приведут к увеличению количества наборов данных, доступных для обучения ИИ. Это сделает обучение ИИ более доступным с финансовой точки зрения и более совершенным, учитывая возросшую диверсификацию имеющихся наборов данных.

Прошлые ограничения в полностью гомоморфном шифровании

Если полностью гомоморфное шифрование (FHE) действительно обещает преобразовать современные Big Data, почему мы еще не видели большего его применения в действии?

Хотя Гомоморфное шифрование обсуждается и изучается людьми уже много лет, на практике его реализация очень сложна. Основная проблема заключается в вычислительной мощности, необходимой для выполнения Гомоморфного шифрования. Полностью гомоморфно защищенный набор данных может производить идентичные аналитические результаты в сыром формате данных. Это сложная задача, требующая высокой скорости и возможностей вычислений, многие из которых невозможно реализовать на существующих компьютерах. Операция, которая обычно занимает секунды на сырых данных, может занимать часы или дни на гомоморфно зашифрованных наборах данных. Эта вычислительная проблема создала самоувековечивающийся цикл, в результате чего многие инженеры откладывают начало проектов по Гомоморфному шифрованию, что замедляет его развитие и ограничивает полное осознание его преимуществ.

Конкретным примером вычислительной проблемы, с которой сталкиваются инженеры в области Гомоморфного шифрования, является адресация ‘ошибка шума. При выполнении расчетов на гомоморфно зашифрованных наборах данных многие инженеры сталкиваются с ситуациями, когда каждый раз, когда выполняется расчет, возникают лишний шум или ошибки. Это допустимо, когда нужно только пара расчетов, но после многократного анализа шум может стать настолько заметным, что исходные данные становятся непонятными. Данные фактически потеряны.

Почему сейчас?

Как @matthewdwhite/a-brief-history-of-generative-ai-cb1837e67106">Генеративный ИИ, когда-то считавшийся ограниченным и примитивным, прежде чем стать массовым, Полностью Гомоморфное Шифрование (FHE) находится на траектории подобного прогресса. Многие лидеры отрасли, даже те, кто выходит за пределы блокчейн-пространства, собрались, чтобы организовать серьезные исследования и разработку в области FHE. Это привело к нескольким недавним отраслевым событиям, подталкивающим увлекательный сюжет для продвижения этой технологии.

Программа DPRIVE

В марте 2021 года Майкрософт, Интел и Агентство перспективных оборонных исследований (DARPA) согласились запустить программа на несколько летдля ускорения развития полностью гомоморфного шифрования (FHE). Названная защита данных в виртуальных средах (DPRIVE), эта программа означала существенное развитие для FHE. Она продемонстрировала двух гигантов индустрии, специализирующихся на облачных вычислениях и компьютерной аппаратуре, объединившихся для решения вопросов конфиденциальности данных. Они инициировали эту программу для создания компьютеров и программного обеспечения, способных управлять скоростью вычислений FHE и установления руководящих принципов для точной реализации FHE, обеспечивая защиту от утечек данных, которые могут возникнуть из-за неправильного использования.

В рамках программы DPRIVE инженеры взяли на себя задачу смягчения упомянутой ранее 'ошибки шума', исследуя методы снижения уровня шума до уровня, сохраняющего исходные данные. Перспективным решением стало проектирование Большой размер слов арифметики(LAWS) представления данных. В то время как обычные компьютерные процессоры (ЦП) обычно используют слова по 64 бита, инженеры разрабатывают новое аппаратное обеспечение, способное обрабатывать слова из 1024 бит и более с LAWS. Этот подход оказался эффективным, потому что исследования показывают, что более длинные слова напрямую влияют на соотношение сигнал/шум. Проще говоря, более длинные слова генерируют меньше шума на каждом дополнительном вычислительном шаге в FHE, что позволяет выполнить больше вычислений до достижения порога потери данных. Создавая новое аппаратное обеспечение для решения этих проблем, инженеры, участвующие в программе DPRIVE, существенно снижают вычислительную нагрузку, необходимую для выполнения FHE.

Для ускорения вычислений и приближения к своей цели сделать ГШ 100 000 раз быстрее команда DPRIVE отправилась в долгое путешествие по созданию новых систем обработки данных, которые превосходят возможности обычных процессоров и графических устройств. Они разработали новуюМножественная Инструкция Множественные Данные(MIMD) система, способная одновременно управлять многочисленными инструкциями и наборами данных. MIMD аналогичен строительству новой автомагистрали вместо использования существующих неэффективных дорог для обеспечения потока данных, необходимого для быстрых расчетов в реальном времени FHE.

Что интересно в программе DPRIVE - это ее широкое использование ‘параллелизм’ в математических вычислениях на компьютере. Это позволяет разработчикам одновременно выполнять несколько вычислений с большими числами. Можно представить параллелизм как развертывание группы математиков для работы над разными частями гигантской математической проблемы одновременно, а не заставлять каждого из них выполнять свою работу один за другим. Хотя выполнение нескольких вычислений одновременно облегчает быстрое решение проблемы, компьютеры должны быть охлаждены воздухом, чтобы предотвратить перегрев.

В сентябре 2022 года, более чем через год и полтора после запуска программы, Майкрософт, Интел и ДАРПАобъявленоони успешно завершили фазу 1 программы DPRIVE. В настоящее время они находятся в процессе выполнения фазы 2 DPRIVE.

SDKs и библиотеки с открытым исходным кодом

С многочисленными крупными корпорациями, пионерами в сфере Гомоморфного шифрования (FHE), наблюдается всплеск доступности наборов разработчика программного обеспечения (SDK) и библиотек с открытым исходным кодом, позволяющих разработчикам строить на основе работ других разработчиков.

Майкрософтобъявленозапуск Microsoft Seal, библиотека с открытым исходным кодом, предоставляющая разработчикам инструменты для выполнения гомоморфного шифрования наборов данных. Это демократизирует доступ к услугам конечного шифрования и вычислений, позволяя более широкому кругу разработчиков исследовать FHE. Библиотека предоставляет примеры гомоморфно зашифрованных программ с подробными комментариями, чтобы направить разработчиков к правильному и безопасному использованию.

Intel такжезапущенсобственный набор инструментов для гомоморфного шифрования, предлагающий разработчикам инструменты для облегчения более быстрого гомоморфного шифрования в облаке. Intel разработала этот набор инструментов гибко, обеспечивая совместимость с последними достижениями в области обработки данных и вычислений. В него входят специализированные функции, адаптированные для решетчатой криптографии, интеграции для бесперебойной работы с Microsoft Seal, образцы гомоморфно зашифрованных схем и технические документы для руководства пользователями.

Google’s Приватное объединение и вычислениеОткрытая библиотека предоставляет разработчикам инструменты многопартийных вычислений (MPC). Этот метод вычислений позволяет сторонам получать общие понимания, объединяя свои различные наборы данных без раскрытия своих исходных данных друг другу. Приватное объединение и вычисление объединяет криптографические методы из FHE с приватным пересечением множеств (PSI) для оптимизации практик конфиденциальности данных. PSI, другой криптографический метод, позволяет сторонам с различными наборами данных идентифицировать общие элементы или данные, не раскрывая свои данные. Подход Google к продвижению конфиденциальности данных не ограничивается только FHE; он приоритизирует более широкое понятие MPC, интегрируя FHE с другими важными практиками обработки данных.

Растущая доступность репутационных библиотек с открытым исходным кодом для ГШ является заметной. Однако это становится еще более привлекательным, когда наблюдаются репутационные компании, экспериментирующие с этими библиотеками в своей деятельности. В апреле 2021 года Nasdaq, известная фондовая биржа и глобальная технологическая организация для капитальных рынков,включенныйNasdaq применила гомоморфное шифрование в своей деятельности. Используя инструменты FHE и высокоскоростной процессор Intel, Nasdaq боролась с финансовыми преступлениями путем противодействия отмыванию денег и выявления мошенничества. Это было достигнуто с помощью гомоморфного шифрования для выявления ценных и потенциально незаконных действий в наборах данных, содержащих чувствительную информацию.

Недавние привлечения капитала

Помимо исследований и разработок, проводимых упомянутыми ранее фирмами, несколько других компаний недавно получили значительные средства на инициативы, сосредоточенные на Полностью Гомоморфном Шифровании (FHE)

Cornami, крупная технологическая компания, славится пионерской разработкой масштабируемой технологии облачных вычислений, специально разработанной для гомоморфного шифрования. Они занимаются многочисленными усилиями по созданию вычислительных систем, поддерживающих FHE более эффективно, чем обычные ЦП. Они также руководят инициативами, направленными на защиту зашифрованных данных от угроз, создаваемых квантовыми вычислениями. В мае 2022 года, Cornami объявленоуспешный раунд финансирования серии C, в ходе которого было привлечено $68 миллионов при поддержке Softbank, что повысило общий объем привлеченного капитала до $150 миллионов.

Zamaэто еще одна компания в индустрии блокчейн, которая разрабатывает инструменты открытого исходного кода для гомоморфного шифрования, которые разработчики могут использовать для создания увлекательных приложений с использованием FHE, блокчейна и ИИ. Zama создала Полностью Гомоморфную Виртуальную Машину Ethereum (fhEVM) в рамках своих продуктов. Этот протокол умных контрактов позволяет данные транзакций на цепочке оставаться зашифрованными во время обработки. Разработчики, исследующие различные приложения с библиотекой Zama, были впечатлены производительностью, даже в сложных случаях использования. Zama успешно закрытего раунд финансирования серии A на сумму $42 миллиона в феврале 2022 года, возглавленный Protocol Labs, позволил повысить общий объем привлеченного капитала до $50 миллионов.

Fhenixтакже является развивающимся проектом, который внедряет Гомоморфное шифрование в блокчейн. Их целью является расширение области применения Гомоморфного шифрования за пределы конфиденциальных платежей, открывая двери для увлекательных использование случаио FHE в областях, таких как децентрализованная финансовая (DeFi), мосты, голосование за управление и игры Web3. В сентябре 2023 года, Fhenix объявленозакрытие раунда финансирования серии Seed на сумму 7 миллионов долларов, возглавляемое компаниями Multicoin Capital и Collider Ventures.

Что дальше?

Много лет Гомоморфное шифрование (FHE) задерживалось как идея, обещавшая надежное шифрование с конца в конец, предвещая будущее сильной конфиденциальности данных. Недавние события начинают сдвигать Гомоморфное шифрование с теоретической мечты к практической реальности. Хотя различные компании конкурируют за то, чтобы первыми осуществить реализацию первой надежной, полностью функциональной версии Гомоморфного шифрования, многие сотрудничают, чтобы совместно преодолеть сложности этой формидабельной технологии. Этот дух сотрудничества проявляется через их реализацию различных межкомандных программ и разработку библиотек с открытым исходным кодом, которые интегрируются с другими библиотеками.

Основываясь на моих исследованиях, обсуждение вокруг Гомоморфного шифрования кажется обширным. В ближайшие несколько недель я с нетерпением буду погружаться глубже, делясь дополнительными идеями из моих исследований по Гомоморфному шифрованию. В частности, я с нетерпением жду возможности изучить больше о таких темах, как:

  • Новые приложения ГШШ.
  • Взаимодействие между доказательствами нулевого разглашения (ZKPs) и FHE.
  • Интеграция Гомоморфного шифрования с Приватным пересечением множеств (PSI) для продвижения безопасного многопартийного вычисления (MPC).
  • Новые компании, такие как Zama и Fhenix, которые являются пионерами в развитии Гомоморфного шифрования.

Цитирования:

Arampatzis, Anastasios. «Последние разработки в гомоморфном шифровании.» Venafi, 1 февр. 2022 г.venafi.com/blog/what-are-latest-developments-homomorphic-encryption-ask-experts/.

Arampatzis, Anastasios. «Что такое гомоморфное шифрование и как оно используется». Venafi, 28 апр. 2023 г., venafi.com/blog/Гомоморфное шифрование-что-это-и-как-оно-используется/.

«Создание аппаратного обеспечения для обеспечения непрерывной защиты данных». DARPA, 2 марта 2020 г., www.darpa.mil/news-events/2020-03-02.

Cristobal, Samuel. «Полностью гомоморфное шифрование: святой Грааль криптографии». Datascience.Aero, 7 янв. 2021 г., datascience.aero/fully-homomorphic-encryption-the-holy-grail-of-cryptography/.

"Гомоморфное шифрование: Что это такое и почему это важно?" Интернет-Общество, 9 мар. 2023 г., www.internetsociety.org/resources/doc/2023/Гомоморфное шифрование/.

Хант, Джеймс. «FHENIX собирает $7 миллионов в сид-раунде под руководством Multicoin Capital». The Block, The Block, 26 сент. 2023 г., www.theblock.co/post/252931/fhenix-seed-multicoin-capital.

«Набор инструментов для гомоморфного шифрования Intel®». Intel,www.intel.com/content/www/us/en/developer/tools/Гомоморфное шифрование/overview.html#gs.fu55im.Доступно 8 окт. 2023 г.

«Intel сотрудничает с Microsoft по программе DARPA». Intel, 8 мар. 2021 г., www.intel.com/content/www/us/en/newsroom/news/intel-collaborate-microsoft-darpa-program.html#gs.ftusxq.

«Intel Xeon Advances NASDAQ’s Homomorphic Encryption R&D.” Intel, 6 апр. 2021 г., www.intel.com/content/www/us/en/newsroom/news/xeon-advances-nasdaqs-homomorphic-encryption-rd.html#gs.6mpgme.

Johnson, Рик. «Intel завершает первый этап DARPA DPRIVE для полностью гомоморфной платформы шифрования.» Intel, 14 сент. 2022 г., community.intel.com/t5/Blogs/Products-and-Solutions/HPC/Intel-Completes-DARPA-DPRIVE-Phase-One-Milestone-for-a-Fully/post/1411021.

"Microsoft Seal: Быстрая и простая библиотека гомоморфного шифрования." Исследования Microsoft, 4 янв. 2023 г., www.microsoft.com/en-us/research/project/microsoft-seal/.

Пайе, доктор Паскаль. «Полностью гомоморфное шифрование: Святой Грааль криптографии». Бизнес Возраст, 9 марта 2023 г., www.businessage.com/post/fully-homomorphic-encryption-the-holy-grail-of-cryptography

Самани, Кайл. «Рассвет цепочки FHE». Multicoin Capital, 26 сент. 2023 г., multicoin.capital/2023/09/26/the-dawn-of-on-chain-fhe/.

Уокер, Аманда и др. «Помощь организациям делать больше без сбора большего объема данных». Блог онлайн-безопасности Google, 19 июня 2019 г., security.googleblog.com/2019/06/helping-organizations-do-more-without-collecting-more-data.html.

“Что такое полностью гомоморфное шифрование?” Inpher, 11 апр. 2021 г.inpher.io/technology/what-is-fully-homomorphic-encryption/.

Белый, Мэтт. «Краткая история генеративного искусственного интеллекта». Medium, 8 июля 2023 года, matthewdwhite.medium.com/a-brief-history-of-generative-ai-cb1837e67106#:~:text=Хотя%20большинство%20людей%20признают,стабильности%20стабильное%20диффузия%20ИИ.

Отказ от ответственности:

  1. Эта статья перепечатана с [@mustafa.hourani/explaining-the-recent-rise-of-fully-homomorphic-encryption-in-the-blockchain-industry-c7081fa05458">Medium].Пересылка оригинального заголовка 'Объяснение недавнего роста полностью гомоморфного шифрования в блокчейн-индустрии'. Все авторские права принадлежат оригинальному автору [Мустафа Хурана]Если есть возражения по поводу этого повторного издания, пожалуйста, свяжитесь с Gate Learnкоманда и они незамедлительно справятся с этим.
  2. Ответственность за отказ: Взгляды и мнения, высказанные в этой статье, являются исключительно точкой зрения автора и не являются инвестиционным советом.
  3. Переводы статьи на другие языки выполняются командой Gate Learn. Если не указано иное, копирование, распространение или плагиат переведенных статей запрещены.

Объяснение FHE (Fully Homomorphic Encryption)

Новичок5/13/2024, 6:13:27 AM
Исследователь криптовалют Мустафа Хуранни инвестирует в Gate.io и исследует некоторые компании, создающие продукты с использованием FHE (Полностью гомоморфного шифрования). Он считает, что FHE может стать следующей крупной технологией, охватывающей индустрию, как ZKP (Доказательство в нулевом знании), и является ключевым катализатором для продвижения конфиденциальности данных и владения ими.

Перенесите оригинальное название 'Объяснение недавнего роста полностью гомоморфного шифрования в отрасли блокчейна'

Представляем полностью гомоморфное шифрование (FHE): Исследование его захватывающих приложений, ограничений и недавних разработок, способствующих его популярности.

Когда я впервые услышал о 'Fully Homomorphic Encryption' (FHE), я задался вопросом о склонности блокчейн-сообщества давать длинные названия модным концепциям. За годы нам доводилось сталкиваться с целым рядом модных слов, которые восторженно встречались в индустрии, самым последним из которых стали 'zero-knowledge proofs' (ZKPs).

Проведя некоторое исследование и изучив новые компании, создающие продукты с Гомоморфным шифрованием, я заметил горизонт, наполненный блестящим новым набором инструментов. В ближайшие месяцы и годы Гомоморфное шифрование может стать следующей крупной технологией, которая взорвет индустрию, как это сделали ZKPs.

Компании используют последние достижения в различных областях криптографии и облачных вычислений, чтобы прокладывать путь к мощному, сохраняющему конфиденциальность будущему данных. Вопрос не в том, добьемся ли мы этого, а в том, когда, и я считаю, что Гомоморфное шифрование может стать решающим катализатором для продвижения конфиденциальности и владения данными.

В ближайшие несколько недель я погружусь в изучение Гомоморфного шифрования и исследование его ограничений, потенциала и применений. Я поделюсь своими результатами в серии статей, изучающих различные аспекты диалога вокруг Гомоморфного шифрования. На этой неделе я представлю эту технологию и обсудим, почему она недавно привлекла много внимания. Многие люди в индустрии говорят об этом, включая Кайл Самани из Multicoin Capital, кто сказал это:

«FHE - священный Грааль криптографии. Со временем FHE переформатирует основы всего вычислительного процесса, как в web2, так и в web3.

Что такое гомоморфизм?

Адресуя слона в комнате, мудрым началом было бы понять, что означает 'гомоморфное'. Восходя к его корням, гомоморфизм происходит из математики иопределенныйкак отображение между двумя алгебраическими структурами одного типа, которое сохраняет основной компонент между ними.

Если вы как и я предпочитаете более практическое определение, основной принцип математики заключается в том, что две группы не обязательно должны быть идентичны, чтобы обладать теми же основными свойствами. Например, представьте себе две коробки фруктов, каждая соответствует отдельной группе:

Ящик A содержит мелкие фрукты.
Ящик В содержит крупные фрукты.


Хотя отдельные фрукты различаются по размеру, смешивая небольшое яблоко и апельсин вместе в коробке A, получается смешанный сок с тем же вкусом, что и при смешивании большого яблока и апельсина вместе в коробке B. Смешивание фруктов для получения одинакового вкуса аналогично сохранению основного компонента между обоими коробками. Предполагая, что идентичный вкус - наша основная забота, не имеет значения, из какой коробки мы отжимаем сок из фруктов, потому что большее/меньшее количество сока не является нашим фокусом. Группы эквивалентны там, где это важно (вкус), так что разница между ними (размер и количество) не влияет на их основную функцию, которую мы определили как производство конкретного вкуса фруктового сока.

Устанавливая параллель с гомоморфизмом, мы зафиксировали его две основные особенности:

  1. Отображение: Мы устанавливаем связь между фруктами, при этом каждый маленький фрукт в ящике A соответствует более крупной версии в ящике B. Так, маленькое яблоко в ящике A соответствует большому яблоку в ящике B, и так далее.
  2. Сохранение операции: Если сок из двух маленьких фруктов в коробке A дает определенный вкус, то сок из их соответствующих более крупных версий в коробке B должен давать тот же вкус. 'Профиль вкуса' сохраняется несмотря на различия в размере и количестве полученного сока.

Что такое Гомоморфное шифрование?

Возвращаясь к центральной теме данной статьи, полностью гомоморфное шифрование(FHE) - это конкретный метод шифрования данных, который позволяет людям выполнять вычисления над зашифрованными данными, не раскрывая исходные данные. Теоретически анализ и вычисления, проводимые над зашифрованными данными, должны давать результаты, идентичные тем, которые выполняются над исходными данными. С FHE мы устанавливаем 1:1 соответствие между данными в наборе зашифрованных данных и данными в наборе исходных данных. Основным компонентом сохранения в данном случае является возможность выполнять любые вычисления над данными любого набора и получать те же результаты.

Для контекста многие компании уже предпринимают предупредительные меры для защиты пользовательских данных и поддержания дифференциальной конфиденциальности. Компании редко хранят данные в облаке или в своих базах данных в необработанной, незашифрованной форме. Поэтому даже если злоумышленники получают контроль над серверами компании, им все равно придется обойти шифрование, чтобы прочитать и получить доступ к данным. Однако данные не являются интересными, когда они просто лежат там, зашифрованные и неиспользуемые. Когда компании хотят проводить анализ данных для извлечения ценных идей, у них нет большого выбора, кроме как расшифровать данные, чтобы сделать это. При расшифровке данные становятся уязвимыми. Однако благодаря конечному шифрованию, ГШШ становится очень полезным, поскольку нам больше не нужно расшифровывать данные для их анализа; это только на поверхности того, что возможно.

Одним из ключевых соображений является вопрос, должны ли компании вообще иметь возможность читать и хранить нашу личную информацию. Стандартным ответом на это было то, что многие считают, что компании должны видеть наши данные, чтобы предоставить нам лучшие услуги.

Если YouTube не хранит данные, такие как мои история просмотров и поиска, алгоритм не может работать на полную мощность и показывать мне видео, которые меня интересуют. По этой причине многие люди считают, что компромисс между конфиденциальностью данных и получением лучших услуг стоит того. Однако с Гомоморфным шифрованием нам уже не нужно делать этот выбор. Компании, такие как YouTube, могут обучать свои алгоритмы на зашифрованных данных и производить идентичные результаты для конечного пользователя, не нарушая конфиденциальность данных. В частности, они могут гомоморфно шифровать информацию, такую как мои история просмотров и поиска, анализировать её, не просматривая, поскольку она зашифрована, а затем показывать мне видео, которые меня интересуют, на основе анализа.

FHE - это значительный шаг к созданию будущего, где наши данные больше не будут ценным товаром, на который мы идем на уступки, передавая организациям свободно.

Применения полностью гомоморфного шифрования

Полностью гомоморфное шифрование (FHE), примененное правильно, является прорывом для всех секторов, которые хранят данные пользователей. Мы говорим о технологии, которая может преобразовать наше отношение ко всему пониманию конфиденциальности данных и пределов допустимого вмешательства со стороны корпораций.

Давайте начнем с того, чтобы рассмотреть, как Гомоморфное шифрование может перестроить практики обработки данных в здравоохранение. Многие больницы хранят личные записи пациентов в своих базах данных, которые им необходимо держать в тайне по этическим и юридическим причинам. Однако эта информация ценна для внешних медицинских исследователей, которые могут проанализировать эти данные, чтобы извлечь значительные умозаключения о заболеваниях и потенциальных лекарствах. Одним из основных препятствий, замедляющих исследования, является поддержание полной конфиденциальности данных пациентов при передаче их исследователям. Существует много способов анонимизировать или псевдонимизировать записи пациентов. Однако они несовершенны и могут либо раскрывать слишком много о ком-то, делая их идентифицируемыми, либо не раскрывать достаточно информации о их случаях, что затрудняет получение точных умозаключений о заболеваниях.

С помощью Гомоморфного шифрования больницы могут шифровать данные пациентов таким образом, что защита конфиденциальности пациентов в облаке становится проще. Медицинские исследователи могут выполнять вычисления и запускать аналитические функции на зашифрованных данных, не нарушая конфиденциальность пациентов. Поскольку существует 1:1 отображение между зашифрованными и исходными данными, результаты, полученные из набора зашифрованных данных, предоставляют реальные идеи, которые могут быть применены к фактическим случаям. Гомоморфное шифрование может значительно ускорить прогресс в здравоохранении.

Еще одно интересное применение FHE — обучение искусственному интеллекту (ИИ). В настоящее время сектор ИИ сталкивается с проблемами конфиденциальности, которые препятствуют доступу компаний ко многим обширным наборам данных, необходимым для совершенствования алгоритмов ИИ. Компаниям, обучающим ИИ, приходится выбирать между использованием ограниченных общедоступных наборов данных, платой больших денег за покупку частных наборов данных или созданием наборов данных, что является сложной задачей для небольших компаний с меньшим количеством пользователей. FHE должен решить проблемы конфиденциальности, препятствующие выходу многих поставщиков наборов данных на этот рынок. Таким образом, улучшения в FHE, скорее всего, приведут к увеличению количества наборов данных, доступных для обучения ИИ. Это сделает обучение ИИ более доступным с финансовой точки зрения и более совершенным, учитывая возросшую диверсификацию имеющихся наборов данных.

Прошлые ограничения в полностью гомоморфном шифровании

Если полностью гомоморфное шифрование (FHE) действительно обещает преобразовать современные Big Data, почему мы еще не видели большего его применения в действии?

Хотя Гомоморфное шифрование обсуждается и изучается людьми уже много лет, на практике его реализация очень сложна. Основная проблема заключается в вычислительной мощности, необходимой для выполнения Гомоморфного шифрования. Полностью гомоморфно защищенный набор данных может производить идентичные аналитические результаты в сыром формате данных. Это сложная задача, требующая высокой скорости и возможностей вычислений, многие из которых невозможно реализовать на существующих компьютерах. Операция, которая обычно занимает секунды на сырых данных, может занимать часы или дни на гомоморфно зашифрованных наборах данных. Эта вычислительная проблема создала самоувековечивающийся цикл, в результате чего многие инженеры откладывают начало проектов по Гомоморфному шифрованию, что замедляет его развитие и ограничивает полное осознание его преимуществ.

Конкретным примером вычислительной проблемы, с которой сталкиваются инженеры в области Гомоморфного шифрования, является адресация ‘ошибка шума. При выполнении расчетов на гомоморфно зашифрованных наборах данных многие инженеры сталкиваются с ситуациями, когда каждый раз, когда выполняется расчет, возникают лишний шум или ошибки. Это допустимо, когда нужно только пара расчетов, но после многократного анализа шум может стать настолько заметным, что исходные данные становятся непонятными. Данные фактически потеряны.

Почему сейчас?

Как @matthewdwhite/a-brief-history-of-generative-ai-cb1837e67106">Генеративный ИИ, когда-то считавшийся ограниченным и примитивным, прежде чем стать массовым, Полностью Гомоморфное Шифрование (FHE) находится на траектории подобного прогресса. Многие лидеры отрасли, даже те, кто выходит за пределы блокчейн-пространства, собрались, чтобы организовать серьезные исследования и разработку в области FHE. Это привело к нескольким недавним отраслевым событиям, подталкивающим увлекательный сюжет для продвижения этой технологии.

Программа DPRIVE

В марте 2021 года Майкрософт, Интел и Агентство перспективных оборонных исследований (DARPA) согласились запустить программа на несколько летдля ускорения развития полностью гомоморфного шифрования (FHE). Названная защита данных в виртуальных средах (DPRIVE), эта программа означала существенное развитие для FHE. Она продемонстрировала двух гигантов индустрии, специализирующихся на облачных вычислениях и компьютерной аппаратуре, объединившихся для решения вопросов конфиденциальности данных. Они инициировали эту программу для создания компьютеров и программного обеспечения, способных управлять скоростью вычислений FHE и установления руководящих принципов для точной реализации FHE, обеспечивая защиту от утечек данных, которые могут возникнуть из-за неправильного использования.

В рамках программы DPRIVE инженеры взяли на себя задачу смягчения упомянутой ранее 'ошибки шума', исследуя методы снижения уровня шума до уровня, сохраняющего исходные данные. Перспективным решением стало проектирование Большой размер слов арифметики(LAWS) представления данных. В то время как обычные компьютерные процессоры (ЦП) обычно используют слова по 64 бита, инженеры разрабатывают новое аппаратное обеспечение, способное обрабатывать слова из 1024 бит и более с LAWS. Этот подход оказался эффективным, потому что исследования показывают, что более длинные слова напрямую влияют на соотношение сигнал/шум. Проще говоря, более длинные слова генерируют меньше шума на каждом дополнительном вычислительном шаге в FHE, что позволяет выполнить больше вычислений до достижения порога потери данных. Создавая новое аппаратное обеспечение для решения этих проблем, инженеры, участвующие в программе DPRIVE, существенно снижают вычислительную нагрузку, необходимую для выполнения FHE.

Для ускорения вычислений и приближения к своей цели сделать ГШ 100 000 раз быстрее команда DPRIVE отправилась в долгое путешествие по созданию новых систем обработки данных, которые превосходят возможности обычных процессоров и графических устройств. Они разработали новуюМножественная Инструкция Множественные Данные(MIMD) система, способная одновременно управлять многочисленными инструкциями и наборами данных. MIMD аналогичен строительству новой автомагистрали вместо использования существующих неэффективных дорог для обеспечения потока данных, необходимого для быстрых расчетов в реальном времени FHE.

Что интересно в программе DPRIVE - это ее широкое использование ‘параллелизм’ в математических вычислениях на компьютере. Это позволяет разработчикам одновременно выполнять несколько вычислений с большими числами. Можно представить параллелизм как развертывание группы математиков для работы над разными частями гигантской математической проблемы одновременно, а не заставлять каждого из них выполнять свою работу один за другим. Хотя выполнение нескольких вычислений одновременно облегчает быстрое решение проблемы, компьютеры должны быть охлаждены воздухом, чтобы предотвратить перегрев.

В сентябре 2022 года, более чем через год и полтора после запуска программы, Майкрософт, Интел и ДАРПАобъявленоони успешно завершили фазу 1 программы DPRIVE. В настоящее время они находятся в процессе выполнения фазы 2 DPRIVE.

SDKs и библиотеки с открытым исходным кодом

С многочисленными крупными корпорациями, пионерами в сфере Гомоморфного шифрования (FHE), наблюдается всплеск доступности наборов разработчика программного обеспечения (SDK) и библиотек с открытым исходным кодом, позволяющих разработчикам строить на основе работ других разработчиков.

Майкрософтобъявленозапуск Microsoft Seal, библиотека с открытым исходным кодом, предоставляющая разработчикам инструменты для выполнения гомоморфного шифрования наборов данных. Это демократизирует доступ к услугам конечного шифрования и вычислений, позволяя более широкому кругу разработчиков исследовать FHE. Библиотека предоставляет примеры гомоморфно зашифрованных программ с подробными комментариями, чтобы направить разработчиков к правильному и безопасному использованию.

Intel такжезапущенсобственный набор инструментов для гомоморфного шифрования, предлагающий разработчикам инструменты для облегчения более быстрого гомоморфного шифрования в облаке. Intel разработала этот набор инструментов гибко, обеспечивая совместимость с последними достижениями в области обработки данных и вычислений. В него входят специализированные функции, адаптированные для решетчатой криптографии, интеграции для бесперебойной работы с Microsoft Seal, образцы гомоморфно зашифрованных схем и технические документы для руководства пользователями.

Google’s Приватное объединение и вычислениеОткрытая библиотека предоставляет разработчикам инструменты многопартийных вычислений (MPC). Этот метод вычислений позволяет сторонам получать общие понимания, объединяя свои различные наборы данных без раскрытия своих исходных данных друг другу. Приватное объединение и вычисление объединяет криптографические методы из FHE с приватным пересечением множеств (PSI) для оптимизации практик конфиденциальности данных. PSI, другой криптографический метод, позволяет сторонам с различными наборами данных идентифицировать общие элементы или данные, не раскрывая свои данные. Подход Google к продвижению конфиденциальности данных не ограничивается только FHE; он приоритизирует более широкое понятие MPC, интегрируя FHE с другими важными практиками обработки данных.

Растущая доступность репутационных библиотек с открытым исходным кодом для ГШ является заметной. Однако это становится еще более привлекательным, когда наблюдаются репутационные компании, экспериментирующие с этими библиотеками в своей деятельности. В апреле 2021 года Nasdaq, известная фондовая биржа и глобальная технологическая организация для капитальных рынков,включенныйNasdaq применила гомоморфное шифрование в своей деятельности. Используя инструменты FHE и высокоскоростной процессор Intel, Nasdaq боролась с финансовыми преступлениями путем противодействия отмыванию денег и выявления мошенничества. Это было достигнуто с помощью гомоморфного шифрования для выявления ценных и потенциально незаконных действий в наборах данных, содержащих чувствительную информацию.

Недавние привлечения капитала

Помимо исследований и разработок, проводимых упомянутыми ранее фирмами, несколько других компаний недавно получили значительные средства на инициативы, сосредоточенные на Полностью Гомоморфном Шифровании (FHE)

Cornami, крупная технологическая компания, славится пионерской разработкой масштабируемой технологии облачных вычислений, специально разработанной для гомоморфного шифрования. Они занимаются многочисленными усилиями по созданию вычислительных систем, поддерживающих FHE более эффективно, чем обычные ЦП. Они также руководят инициативами, направленными на защиту зашифрованных данных от угроз, создаваемых квантовыми вычислениями. В мае 2022 года, Cornami объявленоуспешный раунд финансирования серии C, в ходе которого было привлечено $68 миллионов при поддержке Softbank, что повысило общий объем привлеченного капитала до $150 миллионов.

Zamaэто еще одна компания в индустрии блокчейн, которая разрабатывает инструменты открытого исходного кода для гомоморфного шифрования, которые разработчики могут использовать для создания увлекательных приложений с использованием FHE, блокчейна и ИИ. Zama создала Полностью Гомоморфную Виртуальную Машину Ethereum (fhEVM) в рамках своих продуктов. Этот протокол умных контрактов позволяет данные транзакций на цепочке оставаться зашифрованными во время обработки. Разработчики, исследующие различные приложения с библиотекой Zama, были впечатлены производительностью, даже в сложных случаях использования. Zama успешно закрытего раунд финансирования серии A на сумму $42 миллиона в феврале 2022 года, возглавленный Protocol Labs, позволил повысить общий объем привлеченного капитала до $50 миллионов.

Fhenixтакже является развивающимся проектом, который внедряет Гомоморфное шифрование в блокчейн. Их целью является расширение области применения Гомоморфного шифрования за пределы конфиденциальных платежей, открывая двери для увлекательных использование случаио FHE в областях, таких как децентрализованная финансовая (DeFi), мосты, голосование за управление и игры Web3. В сентябре 2023 года, Fhenix объявленозакрытие раунда финансирования серии Seed на сумму 7 миллионов долларов, возглавляемое компаниями Multicoin Capital и Collider Ventures.

Что дальше?

Много лет Гомоморфное шифрование (FHE) задерживалось как идея, обещавшая надежное шифрование с конца в конец, предвещая будущее сильной конфиденциальности данных. Недавние события начинают сдвигать Гомоморфное шифрование с теоретической мечты к практической реальности. Хотя различные компании конкурируют за то, чтобы первыми осуществить реализацию первой надежной, полностью функциональной версии Гомоморфного шифрования, многие сотрудничают, чтобы совместно преодолеть сложности этой формидабельной технологии. Этот дух сотрудничества проявляется через их реализацию различных межкомандных программ и разработку библиотек с открытым исходным кодом, которые интегрируются с другими библиотеками.

Основываясь на моих исследованиях, обсуждение вокруг Гомоморфного шифрования кажется обширным. В ближайшие несколько недель я с нетерпением буду погружаться глубже, делясь дополнительными идеями из моих исследований по Гомоморфному шифрованию. В частности, я с нетерпением жду возможности изучить больше о таких темах, как:

  • Новые приложения ГШШ.
  • Взаимодействие между доказательствами нулевого разглашения (ZKPs) и FHE.
  • Интеграция Гомоморфного шифрования с Приватным пересечением множеств (PSI) для продвижения безопасного многопартийного вычисления (MPC).
  • Новые компании, такие как Zama и Fhenix, которые являются пионерами в развитии Гомоморфного шифрования.

Цитирования:

Arampatzis, Anastasios. «Последние разработки в гомоморфном шифровании.» Venafi, 1 февр. 2022 г.venafi.com/blog/what-are-latest-developments-homomorphic-encryption-ask-experts/.

Arampatzis, Anastasios. «Что такое гомоморфное шифрование и как оно используется». Venafi, 28 апр. 2023 г., venafi.com/blog/Гомоморфное шифрование-что-это-и-как-оно-используется/.

«Создание аппаратного обеспечения для обеспечения непрерывной защиты данных». DARPA, 2 марта 2020 г., www.darpa.mil/news-events/2020-03-02.

Cristobal, Samuel. «Полностью гомоморфное шифрование: святой Грааль криптографии». Datascience.Aero, 7 янв. 2021 г., datascience.aero/fully-homomorphic-encryption-the-holy-grail-of-cryptography/.

"Гомоморфное шифрование: Что это такое и почему это важно?" Интернет-Общество, 9 мар. 2023 г., www.internetsociety.org/resources/doc/2023/Гомоморфное шифрование/.

Хант, Джеймс. «FHENIX собирает $7 миллионов в сид-раунде под руководством Multicoin Capital». The Block, The Block, 26 сент. 2023 г., www.theblock.co/post/252931/fhenix-seed-multicoin-capital.

«Набор инструментов для гомоморфного шифрования Intel®». Intel,www.intel.com/content/www/us/en/developer/tools/Гомоморфное шифрование/overview.html#gs.fu55im.Доступно 8 окт. 2023 г.

«Intel сотрудничает с Microsoft по программе DARPA». Intel, 8 мар. 2021 г., www.intel.com/content/www/us/en/newsroom/news/intel-collaborate-microsoft-darpa-program.html#gs.ftusxq.

«Intel Xeon Advances NASDAQ’s Homomorphic Encryption R&D.” Intel, 6 апр. 2021 г., www.intel.com/content/www/us/en/newsroom/news/xeon-advances-nasdaqs-homomorphic-encryption-rd.html#gs.6mpgme.

Johnson, Рик. «Intel завершает первый этап DARPA DPRIVE для полностью гомоморфной платформы шифрования.» Intel, 14 сент. 2022 г., community.intel.com/t5/Blogs/Products-and-Solutions/HPC/Intel-Completes-DARPA-DPRIVE-Phase-One-Milestone-for-a-Fully/post/1411021.

"Microsoft Seal: Быстрая и простая библиотека гомоморфного шифрования." Исследования Microsoft, 4 янв. 2023 г., www.microsoft.com/en-us/research/project/microsoft-seal/.

Пайе, доктор Паскаль. «Полностью гомоморфное шифрование: Святой Грааль криптографии». Бизнес Возраст, 9 марта 2023 г., www.businessage.com/post/fully-homomorphic-encryption-the-holy-grail-of-cryptography

Самани, Кайл. «Рассвет цепочки FHE». Multicoin Capital, 26 сент. 2023 г., multicoin.capital/2023/09/26/the-dawn-of-on-chain-fhe/.

Уокер, Аманда и др. «Помощь организациям делать больше без сбора большего объема данных». Блог онлайн-безопасности Google, 19 июня 2019 г., security.googleblog.com/2019/06/helping-organizations-do-more-without-collecting-more-data.html.

“Что такое полностью гомоморфное шифрование?” Inpher, 11 апр. 2021 г.inpher.io/technology/what-is-fully-homomorphic-encryption/.

Белый, Мэтт. «Краткая история генеративного искусственного интеллекта». Medium, 8 июля 2023 года, matthewdwhite.medium.com/a-brief-history-of-generative-ai-cb1837e67106#:~:text=Хотя%20большинство%20людей%20признают,стабильности%20стабильное%20диффузия%20ИИ.

Отказ от ответственности:

  1. Эта статья перепечатана с [@mustafa.hourani/explaining-the-recent-rise-of-fully-homomorphic-encryption-in-the-blockchain-industry-c7081fa05458">Medium].Пересылка оригинального заголовка 'Объяснение недавнего роста полностью гомоморфного шифрования в блокчейн-индустрии'. Все авторские права принадлежат оригинальному автору [Мустафа Хурана]Если есть возражения по поводу этого повторного издания, пожалуйста, свяжитесь с Gate Learnкоманда и они незамедлительно справятся с этим.
  2. Ответственность за отказ: Взгляды и мнения, высказанные в этой статье, являются исключительно точкой зрения автора и не являются инвестиционным советом.
  3. Переводы статьи на другие языки выполняются командой Gate Learn. Если не указано иное, копирование, распространение или плагиат переведенных статей запрещены.
Розпочати зараз
Зареєструйтеся та отримайте ваучер на
$100
!